MIT tim uči AI modele ono što još nisu znali.
Primjena umjetne inteligencije (AI) brzo raste i sve je više isprepletena s našim svakodnevnim životom i industrijama s visokim ulozima poput zdravstvene zaštite, telekoma i energetike. Ali s velikom moći dolazi i velika odgovornost: AI sustavi ponekad griješe ili daju neodređene odgovore koji mogu imati velike posljedice.
Themis AI s MIT-a, suosnovana i vođena profesoricom Danielom Rus iz laboratorija CSAIL, nudi revolucionarno rješenje. Njihova tehnologija omogućuje AI modelima da „znaju što ne znaju“. To znači da AI sustavi mogu sami signalizirati kad su nesigurni u svoje prognoze, čime se pogreške mogu spriječiti prije nego što nanesu štetu.
Zašto je to toliko važno?
Mnogi AI modeli, čak i napredni, ponekad pokazuju takozvane „halucinacije“ — daju netočne ili neutemeljene odgovore. U sektorima u kojima odluke nose veliku težinu, poput medicinske dijagnostike ili autonomne vožnje, to može imati katastrofalne posljedice. Themis AI razvio je Capsa, platformu koja primjenjuje kvantificiranje nesigurnosti: mjeri i kvantificira nesigurnost AI izlaza na detaljan i pouzdan način.
Kako to funkcionira?
Učeći modele svijesti o nesigurnosti, moguće je označiti izlaze oznakom rizika ili pouzdanosti. Na primjer: autonomno vozilo može naznačiti da nije sigurno u vezi određene situacije i zbog toga aktivirati ljudsku intervenciju. Time se ne povećava samo sigurnost, već i povjerenje korisnika u AI sustave.
- Pri integraciji s PyTorchom model se obavija preko
capsa_torch.wrapper()pri čemu izlaz sadrži i predikciju i rizik:
Za Fortis AI i njezine klijente ova tehnologija predstavlja ogroman napredak. Možemo isporučiti AI rješenja koja nisu samo inteligentna, već i sigurnija te bolje predvidljiva uz manji rizik od halucinacija. To pomaže organizacijama donositi bolje utemeljene odluke i smanjiti rizike prilikom uvođenja AI u poslovno kritične aplikacije.
Zaključak
MIT tim pokazuje da budućnost AI nije samo u postajanju pametnijom, već prije svega u sigurnijem i pravednijem djelovanju. U Fortis AI vjerujemo da AI postaje zaista vrijedna tek kad je transparentna u pogledu vlastitih ograničenja. Pomoću naprednih alata za kvantificiranje nesigurnosti poput Capsa možete tu viziju i praktično provesti.
