Une équipe du MIT apprend aux modèles d’IA ce qu’ils ne savaient pas encore.
L’utilisation de l’intelligence artificielle (IA) progresse rapidement et s’intègre de plus en plus à notre vie quotidienne ainsi qu’à des secteurs critiques tels que la santé, les télécommunications et l’énergie. Mais tout grand pouvoir s’accompagne d’une grande responsabilité : les systèmes d’IA commettent parfois des erreurs ou fournissent des réponses incertaines qui peuvent avoir de lourdes conséquences.
Pourquoi est-ce si important ?
De nombreux modèles d’IA, même avancés, peuvent parfois produire ce que l’on appelle des « hallucinations » : ils donnent des réponses erronées ou infondées. Dans les secteurs où les décisions sont lourdes de conséquences, comme le diagnostic médical ou la conduite autonome, cela peut avoir des effets désastreux. Themis AI a développé Capsa, une plateforme qui applique la quantification de l’incertitude : elle mesure et quantifie l’incertitude des résultats de l’IA de manière détaillée et fiable.
Comment cela fonctionne-t-il ?
En dotant les modèles d’une conscience de l’incertitude, il devient possible d’associer à leurs résultats une étiquette de risque ou de fiabilité. Par exemple, une voiture autonome peut signaler qu’elle n’est pas certaine de la situation et déclencher ainsi une intervention humaine. Cela améliore non seulement la sécurité, mais aussi la confiance des utilisateurs dans les systèmes d’IA.
- Lors de l’intégration avec PyTorch, l’encapsulation du modèle s’effectue via
capsa_torch.wrapper()la sortie se composant à la fois de la prédiction et du risque :
Pour Fortis AI et ses clients, cette technologie représente une avancée considérable. Nous pouvons proposer des applications d’IA qui sont non seulement intelligentes, mais aussi sûres et plus prévisibles, avec un risque réduit d’hallucinations. Elle aide les organisations à prendre des décisions mieux étayées et à réduire les risques liés à l’introduction de l’IA dans des applications critiques pour l’activité.
Conclusion
Le MIT équipe montre que l’avenir de l’IA ne consiste pas seulement à devenir plus intelligente, mais surtout à fonctionner de manière plus sûre et plus équitable. Chez Fortis AI, nous pensons que l’IA ne devient réellement utile que lorsqu’elle fait preuve de transparence quant à ses propres limites. Grâce à des outils avancés de quantification de l’incertitude tels que Capsa, vous pouvez également concrétiser cette vision.
