Ekipa MIT uči modele UI tega, česar še niso vedeli.
Uporaba umetne inteligence (UI) hitro narašča in se vse bolj prepleta z našim vsakdanjim življenjem ter panogami z velikimi posledicami, kot so zdravstvo, telekomunikacije in energetika. Toda z veliko močjo pride tudi velika odgovornost: sistemi UI se včasih zmotijo ali podajo negotove odgovore, kar ima lahko resne posledice.
Zakaj je to tako pomembno?
Številni modeli UI, tudi napredni, lahko včasih ustvarijo tako imenovane »halucinacije« – podajo napačne ali neutemeljene odgovore. V panogah, kjer imajo odločitve velike posledice, na primer pri medicinski diagnostiki ali avtonomni vožnji, je to lahko katastrofalno. Themis AI je razvil Capsa, platformo, ki uporablja kvantifikacijo negotovosti: negotovost izhodnih podatkov UI meri in kvantificira na podroben in zanesljiv način.
Kako deluje?
Če modele naučimo zavedanja negotovosti, lahko svoje izhode opremijo z oznako tveganja ali zanesljivosti. Samovozeči avtomobil lahko na primer sporoči, da glede določene situacije ni prepričan, in zato sproži posredovanje človeka. To ne povečuje le varnosti, temveč tudi zaupanje uporabnikov v sisteme UI.
- Pri integraciji s Pythorchem poteka ovijanje modela prek
capsa_torch.wrapper()pri čemer izhod sestavljata tako napoved kot tveganje:
Za Fortis AI in njegove stranke ta tehnologija pomeni velik korak naprej. Zagotavljamo lahko aplikacije UI, ki niso le inteligentne, temveč tudi varne in bolj predvidljive, z manjšo verjetnostjo halucinacij. Organizacijam pomaga sprejemati bolje utemeljene odločitve in zmanjševati tveganja pri uvajanju UI v poslovno kritične aplikacije.
Sklep
MIT ekipa kaže, da prihodnost UI ne temelji le na tem, da postane pametnejša, temveč predvsem na varnejšem in pravičnejšem delovanju. V podjetju Fortis AI verjamemo, da UI postane zares dragocena šele, ko je pregledna glede svojih omejitev. Z naprednimi orodji za kvantifikacijo negotovosti, kot je Capsa, lahko to vizijo uresničite tudi v praksi.
