Equipa do MIT ensina aos modelos de IA aquilo que ainda não sabiam.
A aplicação da inteligência artificial (IA) está a crescer rapidamente e a ficar cada vez mais integrada no nosso quotidiano e em setores de alto risco, como os cuidados de saúde, as telecomunicações e a energia. No entanto, com grandes poderes vem também uma grande responsabilidade: os sistemas de IA cometem, por vezes, erros ou fornecem respostas incertas que podem ter consequências graves.
Porque é que isto é tão importante?
Muitos modelos de IA, mesmo os mais avançados, podem apresentar as chamadas “alucinações” — fornecem respostas erradas ou sem fundamento. Em setores onde as decisões têm um peso significativo, como o diagnóstico médico ou a condução autónoma, isto pode ter consequências desastrosas. A Themis AI desenvolveu a Capsa, uma plataforma que aplica a quantificação da incerteza: mede e quantifica a incerteza dos resultados da IA de forma detalhada e fiável.
Como funciona?
Ao dotar os modelos de consciência da incerteza, é possível associar aos resultados um indicador de risco ou de fiabilidade. Por exemplo, um automóvel autónomo pode indicar que não tem a certeza sobre uma situação e, por isso, ativar a intervenção humana. Isto não só aumenta a segurança, como também reforça a confiança dos utilizadores nos sistemas de IA.
- Na integração com o PyTorch, o encapsulamento do modelo é feito através de
capsa_torch.wrapper()em que o resultado é composto tanto pela previsão como pelo risco:
Para a Fortis AI e os seus clientes, esta tecnologia representa um enorme passo em frente. Podemos fornecer aplicações de IA que não são apenas inteligentes, mas também seguras e mais previsíveis, com menor probabilidade de alucinações. Isto ajuda as organizações a tomar decisões mais fundamentadas e a reduzir os riscos associados à introdução de IA em aplicações críticas para o negócio.
Conclusão
O MIT equipa demonstra que o futuro da IA não passa apenas por se tornar mais inteligente, mas sobretudo por funcionar de forma mais segura e justa. Na Fortis AI, acreditamos que a IA só se torna verdadeiramente valiosa quando é transparente quanto às suas próprias limitações. Com ferramentas avançadas de quantificação da incerteza, como a Capsa, também pode pôr esta visão em prática.
