El equipo del MIT enseña a los modelos de IA lo que aún no sabían.
La aplicación de la inteligencia artificial (IA) crece rápidamente y está cada vez más integrada en nuestra vida cotidiana y en sectores críticos como la sanidad, las telecomunicaciones y la energía. Pero un gran poder también conlleva una gran responsabilidad: los sistemas de IA a veces cometen errores o proporcionan respuestas inciertas que pueden tener consecuencias importantes.
¿Por qué es tan importante?
Muchos modelos de IA, incluso los más avanzados, pueden presentar las llamadas «alucinaciones»: ofrecen respuestas erróneas o infundadas. En sectores en los que las decisiones tienen un gran peso, como el diagnóstico médico o la conducción autónoma, esto puede tener consecuencias desastrosas. Themis AI ha desarrollado Capsa, una plataforma que aplica la cuantificación de la incertidumbre: mide y cuantifica la incertidumbre de los resultados de la IA de forma detallada y fiable.
¿Cómo funciona?
Al dotar a los modelos de conciencia de la incertidumbre, estos pueden acompañar sus resultados de una etiqueta de riesgo o fiabilidad. Por ejemplo, un vehículo autónomo puede indicar que no está seguro de una situación y activar así una intervención humana. Esto no solo aumenta la seguridad, sino también la confianza de los usuarios en los sistemas de IA.
- Al integrarlo con PyTorch, el modelo se envuelve mediante
capsa_torch.wrapper()de modo que la salida consta tanto de la predicción como del riesgo:
Para Fortis AI y sus clientes, esta tecnología supone un enorme paso adelante. Podemos ofrecer aplicaciones de IA que no solo sean inteligentes, sino también seguras y más predecibles, con menor probabilidad de sufrir alucinaciones. Esto ayuda a las organizaciones a tomar decisiones mejor fundamentadas y a reducir los riesgos al introducir la IA en aplicaciones críticas para el negocio.
Conclusión
El MIT equipo demuestra que el futuro de la IA no consiste únicamente en ser más inteligente, sino sobre todo en funcionar de forma más segura y justa. En Fortis AI creemos que la IA solo adquiere un valor real cuando es transparente respecto a sus propias limitaciones. Con herramientas avanzadas de cuantificación de la incertidumbre, como Capsa, también puede llevar esta visión a la práctica.
