Tim s MIT-a uči modele umjetne inteligencije onome što još nisu znali.
Primjena umjetne inteligencije (UI) brzo raste i sve se više isprepliće s našim svakodnevnim životom i industrijama s visokim rizikom, poput zdravstva, telekomunikacija i energetike. No velika moć donosi i veliku odgovornost: sustavi UI-ja ponekad griješe ili daju nesigurne odgovore koji mogu imati ozbiljne posljedice.
Zašto je to toliko važno?
Mnogi modeli UI-ja, čak i oni napredni, ponekad mogu pokazivati takozvane „halucinacije” — daju netočne ili neutemeljene odgovore. U sektorima u kojima odluke imaju velike posljedice, poput medicinske dijagnostike ili autonomne vožnje, to može dovesti do katastrofalnih ishoda. Themis AI razvio je Capsu, platformu koja primjenjuje kvantifikaciju nesigurnosti: ona na detaljan i pouzdan način mjeri i kvantificira nesigurnost izlaznih rezultata UI-ja.
Kako to funkcionira?
Podučavanjem modela svjesnosti o nesigurnosti možemo njihove izlazne rezultate opremiti oznakom rizika ili pouzdanosti. Primjerice, autonomni automobil može signalizirati da nije siguran u određenu situaciju i stoga aktivirati ljudsku intervenciju. Time se ne povećava samo sigurnost, već i povjerenje korisnika u sustave UI-ja.
- Pri integraciji s PyTorchom model se omata putem
capsa_torch.wrapper()pri čemu se izlaz sastoji i od predviđanja i od rizika:
Za Fortis AI i njegove klijente ova tehnologija predstavlja ogroman korak naprijed. Možemo isporučiti UI aplikacije koje nisu samo inteligentne, već i sigurne te predvidljivije, uz manju vjerojatnost halucinacija. Ona organizacijama pomaže donositi bolje utemeljene odluke i smanjiti rizike pri uvođenju UI-ja u poslovno kritične aplikacije.
Zaključak
MIT tim pokazuje da budućnost UI-ja ne podrazumijeva samo veću inteligenciju, već prije svega sigurniji i pravedniji rad. U Fortisu AI-ju vjerujemo da UI postaje doista vrijedan tek kada je transparentan u pogledu vlastitih ograničenja. Uz napredne alate za kvantifikaciju nesigurnosti, poput Capse, i vi tu viziju možete pretvoriti u praksu.
