Echipa MIT învață modelele de inteligență artificială ceea ce nu știau încă.
Utilizarea inteligenței artificiale (IA) se extinde rapid și devine tot mai strâns integrată în viața noastră de zi cu zi și în industrii cu mize ridicate, precum sănătatea, telecomunicațiile și energia. Însă o putere mare implică și o responsabilitate pe măsură: sistemele de IA fac uneori greșeli sau oferă răspunsuri incerte, care pot avea consecințe majore.
De ce este acest lucru atât de important?
Multe modele de IA, chiar și cele avansate, pot manifesta uneori așa-numitele „halucinații” — oferă răspunsuri incorecte sau nefondate. În sectoare în care deciziile au o importanță majoră, precum diagnosticarea medicală sau conducerea autonomă, acest lucru poate avea consecințe dezastruoase. Themis AI a dezvoltat Capsa, o platformă care aplică cuantificarea incertitudinii: aceasta măsoară și cuantifică incertitudinea rezultatelor generate de IA într-un mod detaliat și fiabil.
Cum funcționează?
Învățând modelele să fie conștiente de incertitudine, acestea pot însoți rezultatele de o etichetă privind riscul sau gradul de fiabilitate. De exemplu, o mașină autonomă poate indica faptul că nu este sigură în privința unei situații și poate activa astfel intervenția unui operator uman. Acest lucru sporește nu doar siguranța, ci și încrederea utilizatorilor în sistemele de IA.
- În cazul integrării cu PyTorch, împachetarea modelului se realizează prin
capsa_torch.wrapper()unde rezultatul constă atât în predicție, cât și în risc:
Pentru Fortis AI și clienții săi, această tehnologie reprezintă un pas uriaș înainte. Putem furniza aplicații de IA care nu sunt doar inteligente, ci și sigure și mai previzibile, cu un risc redus de halucinații. Aceasta ajută organizațiile să ia decizii mai bine fundamentate și să reducă riscurile la introducerea IA în aplicații esențiale pentru activitatea companiei.
Concluzie
MIT echipa arată că viitorul IA nu ține doar de a deveni mai inteligentă, ci mai ales de a funcționa într-un mod mai sigur și mai echitabil. La Fortis AI credem că IA devine cu adevărat valoroasă abia atunci când este transparentă în privința propriilor limitări. Cu ajutorul unor instrumente avansate de cuantificare a incertitudinii, precum Capsa, puteți pune în practică și dumneavoastră această viziune.
