Tím MIT učí modely AI to, čo doteraz nevedeli.
Využívanie umelej inteligencie (AI) rýchlo rastie a čoraz viac sa prelína s naším každodenným životom a odvetviami s vysokou mierou rizika, ako sú zdravotníctvo, telekomunikácie a energetika. S veľkou mocou však prichádza aj veľká zodpovednosť: systémy AI sa niekedy dopúšťajú chýb alebo poskytujú neisté odpovede, ktoré môžu mať vážne dôsledky.
Prečo je to také dôležité?
Mnohé modely AI, dokonca aj tie pokročilé, môžu niekedy vykazovať takzvané „halucinácie“ – poskytujú nesprávne alebo nepodložené odpovede. V odvetviach, kde majú rozhodnutia zásadný význam, napríklad pri lekárskej diagnostike alebo autonómnom riadení, to môže mať katastrofálne dôsledky. Spoločnosť Themis AI vyvinula platformu Capsa, ktorá využíva kvantifikáciu neistoty: podrobne a spoľahlivo meria a kvantifikuje neistotu výstupov AI.
Ako to funguje?
Ak modely naučíme vnímať neistotu, môžu svoje výstupy označovať podľa úrovne rizika alebo spoľahlivosti. Napríklad autonómne vozidlo môže signalizovať, že si nie je isté určitou situáciou, a preto aktivovať zásah človeka. Tým sa zvyšuje nielen bezpečnosť, ale aj dôvera používateľov v systémy AI.
- Pri integrácii s PyTorch prebieha zabalenie modelu prostredníctvom
capsa_torch.wrapper()pričom výstup pozostáva z predikcie aj rizika:
Pre spoločnosť Fortis AI a jej klientov predstavuje táto technológia obrovský krok vpred. Dokážeme poskytovať aplikácie AI, ktoré sú nielen inteligentné, ale aj bezpečné a lepšie predvídateľné, s menším rizikom halucinácií. Organizáciám pomáha prijímať lepšie podložené rozhodnutia a znižovať riziká pri zavádzaní AI do kriticky dôležitých podnikových aplikácií.
Záver
MIT tím ukazuje, že budúcnosť AI nespočíva len v tom, aby bola inteligentnejšia, ale predovšetkým v tom, aby fungovala bezpečnejšie a spravodlivejšie. Vo Fortis AI veríme, že AI má skutočnú hodnotu až vtedy, keď transparentne priznáva svoje vlastné obmedzenia. Vďaka pokročilým nástrojom na kvantifikáciu neistoty, ako je Capsa, môžete túto víziu uplatniť aj v praxi.
