MIT-i meeskond õpetab tehisintellekti mudelitele seda, mida nad veel ei teadnud.
Tehisintellekti (AI) rakendamine kasvab kiiresti ning põimub üha enam meie igapäevaelu ja suure panusega valdkondadega, nagu tervishoid, telekommunikatsioon ja energeetika. Kuid suurte võimalustega kaasneb ka suur vastutus: AI-süsteemid teevad mõnikord vigu või annavad ebakindlaid vastuseid, millel võivad olla tõsised tagajärjed.
Miks on see nii oluline?
Paljud AI-mudelid, isegi kõige arenenumad, võivad mõnikord esitada niinimetatud „hallutsinatsioone“ – anda ebatäpseid või põhjendamatuid vastuseid. Valdkondades, kus otsustel on suur kaal, näiteks meditsiinilises diagnoosimises või autonoomses liikluses, võivad sellel olla katastroofilised tagajärjed. Themis AI töötas välja Capsa – platvormi, mis rakendab ebakindluse kvantifitseerimist: see mõõdab ja kvantifitseerib AI väljundi ebakindlust üksikasjalikult ja usaldusväärselt.
Kuidas see töötab?
Õpetades mudelitele teadlikkust ebakindlusest, saab nende väljunditele lisada riski- või usaldusväärsussildi. Näiteks võib isejuhtiv auto anda teada, et ta ei ole olukorras kindel, ning käivitada seetõttu inimese sekkumise. See suurendab mitte ainult ohutust, vaid ka kasutajate usaldust AI-süsteemide vastu.
- PyTorchi integreerimisel toimub mudeli ümbrisestamine järgmise kaudu:
capsa_torch.wrapper()kus väljund koosneb nii prognoosist kui ka riskist:
Fortis AI ja selle klientide jaoks tähendab see tehnoloogia suurt sammu edasi. Saame pakkuda AI-rakendusi, mis pole mitte ainult intelligentsed, vaid ka turvalised ja paremini prognoositavad ning mille puhul on hallutsinatsioonide tõenäosus väiksem. See aitab organisatsioonidel teha paremini põhjendatud otsuseid ja vähendada riske AI rakendamisel ärikriitilistes rakendustes.
Kokkuvõte
MIT-i meeskond näitab, et AI tulevik ei seisne ainult targemaks muutumises, vaid eelkõige ka turvalisemalt ja õiglasemalt toimimises. Fortis AI-s usume, et AI muutub tõeliselt väärtuslikuks alles siis, kui see on oma piirangute suhtes läbipaistev. Täiustatud ebakindluse kvantifitseerimise tööriistadega, nagu Capsa, saate seda visiooni ka praktikas rakendada.
