Tým z MIT učí modely AI to, co dosud nevěděly.
Využívání umělé inteligence (AI) rychle roste a stále více se prolíná s naším každodenním životem i s odvětvími s vysokou mírou rizika, jako je zdravotnictví, telekomunikace a energetika. S velkou mocí však přichází i velká odpovědnost: systémy AI někdy chybují nebo poskytují nejisté odpovědi, které mohou mít závažné důsledky.
Proč je to tak důležité?
Mnoho modelů AI, dokonce i těch pokročilých, může někdy vykazovat takzvané „halucinace“ – poskytují chybné nebo nepodložené odpovědi. V odvětvích, kde mají rozhodnutí zásadní význam, například při lékařské diagnostice nebo autonomním řízení, to může mít katastrofální důsledky. Společnost Themis AI vyvinula platformu Capsa, která využívá kvantifikaci nejistoty: podrobně a spolehlivě měří a kvantifikuje nejistotu výstupů AI.
Jak to funguje?
Když modely naučíme uvědomovat si nejistotu, mohou své výstupy opatřit štítkem rizika nebo spolehlivosti. Například samořídící automobil může upozornit, že si není určitou situací jistý, a proto aktivovat zásah člověka. To zvyšuje nejen bezpečnost, ale také důvěru uživatelů v systémy AI.
- Při integraci s PyTorch probíhá zabalení modelu prostřednictvím
capsa_torch.wrapper()přičemž výstup se skládá jak z predikce, tak z rizika:
Pro Fortis AI a její zákazníky představuje tato technologie obrovský krok vpřed. Můžeme dodávat aplikace AI, které jsou nejen inteligentní, ale také bezpečné a lépe předvídatelné, s menším rizikem halucinací. Pomáhá organizacím přijímat lépe podložená rozhodnutí a snižovat rizika při zavádění AI do kritických podnikových aplikací.
Závěr
MIT tým ukazuje, že budoucnost AI nespočívá pouze v tom, aby byla chytřejší, ale především v tom, aby fungovala bezpečněji a spravedlivěji. Ve Fortis AI věříme, že AI se stává skutečně hodnotnou teprve tehdy, když transparentně přiznává svá vlastní omezení. Díky pokročilým nástrojům pro kvantifikaci nejistoty, jako je Capsa, můžete tuto vizi uvést do praxe.
