Il team del MIT insegna ai modelli di IA ciò che ancora non sapevano.
L’applicazione dell’intelligenza artificiale (IA) cresce rapidamente e si intreccia sempre più con la nostra vita quotidiana e con settori ad alto rischio come la sanità, le telecomunicazioni e l’energia. Ma da grandi poteri derivano anche grandi responsabilità: i sistemi di IA commettono talvolta errori o forniscono risposte incerte che possono avere conseguenze rilevanti.
Perché è così importante?
Molti modelli di IA, persino quelli più avanzati, possono talvolta presentare le cosiddette «allucinazioni»: forniscono risposte errate o prive di fondamento. Nei settori in cui le decisioni hanno conseguenze significative, come la diagnosi medica o la guida autonoma, ciò può avere effetti disastrosi. Themis AI ha sviluppato Capsa, una piattaforma che applica la quantificazione dell’incertezza: misura e quantifica l’incertezza degli output dell’IA in modo dettagliato e affidabile.
Come funziona?
Insegnando ai modelli a essere consapevoli dell’incertezza, è possibile dotare i loro output di un indicatore di rischio o di affidabilità. Per esempio, un’auto a guida autonoma può segnalare di non essere certa di come interpretare una situazione e attivare quindi un intervento umano. Questo non solo aumenta la sicurezza, ma rafforza anche la fiducia degli utenti nei sistemi di IA.
- Per l’integrazione con PyTorch, il wrapping del modello avviene tramite
capsa_torch.wrapper()dove l’output è costituito sia dalla previsione sia dal rischio:
Per Fortis AI e i suoi clienti, questa tecnologia rappresenta un enorme passo avanti. Possiamo fornire applicazioni di IA non solo intelligenti, ma anche sicure e più prevedibili, con una minore probabilità di allucinazioni. Aiuta le organizzazioni a prendere decisioni meglio supportate e a ridurre i rischi legati all’introduzione dell’IA in applicazioni aziendali critiche.
Conclusione
Il MIT team mostra che il futuro dell’IA non consiste solo nel diventare più intelligente, ma soprattutto nel funzionare in modo più sicuro ed equo. In Fortis AI crediamo che l’IA diventi davvero preziosa solo quando è trasparente riguardo ai propri limiti. Grazie a strumenti avanzati di quantificazione dell’incertezza come Capsa, potete mettere in pratica anche questa visione.
