Az MIT csapata megtanítja az AI-modelleket arra, amit korábban még nem tudtak.
A mesterséges intelligencia (AI) alkalmazása gyorsan terjed, és egyre szorosabban összefonódik mindennapi életünkkel, valamint olyan kritikus fontosságú iparágakkal, mint az egészségügy, a távközlés és az energiaipar. A nagy hatalom azonban nagy felelősséggel is jár: az AI-rendszerek időnként hibáznak, vagy bizonytalan válaszokat adnak, amelyeknek súlyos következményei lehetnek.
Miért olyan fontos ez?
Számos AI-modell – még a fejlett rendszerek is – időnként úgynevezett „hallucinációkat” produkálhat, vagyis hibás vagy megalapozatlan válaszokat adhat. Azokban az ágazatokban, ahol a döntéseknek komoly tétjük van, például az orvosi diagnosztikában vagy az önvezető járművek esetében, ennek katasztrofális következményei lehetnek. A Themis AI kifejlesztette a Capsa platformot, amely bizonytalanság-kvantifikációt alkalmaz: részletes és megbízható módon méri és számszerűsíti az AI-kimenetek bizonytalanságát.
Hogyan működik?
Ha a modelleket megtanítjuk a bizonytalanság felismerésére, a kimeneteiket kockázati vagy megbízhatósági címkével láthatják el. Egy önvezető autó például jelezheti, ha nem biztos egy adott helyzet értelmezésében, és ezért emberi beavatkozást kezdeményezhet. Ez nemcsak a biztonságot növeli, hanem a felhasználók AI-rendszerekbe vetett bizalmát is erősíti.
- A PyTorch-integráció során a modell becsomagolása a következőn keresztül történik:
capsa_torch.wrapper()a kimenet pedig egyaránt tartalmazza az előrejelzést és a kockázatot:
A Fortis AI és ügyfelei számára ez a technológia óriási előrelépést jelent. Olyan MI-alkalmazásokat tudunk biztosítani, amelyek nemcsak intelligensek, hanem biztonságosabbak és kiszámíthatóbbak is, miközben kisebb a hallucinációk kockázata. Ez segít a szervezeteknek megalapozottabb döntéseket hozni, és csökkenteni az MI üzletkritikus alkalmazásokban történő bevezetésével járó kockázatokat.
Összegzés
Az MIT csapata megmutatja, hogy az AI jövője nem csupán az intelligensebbé válásról szól, hanem mindenekelőtt arról is, hogy biztonságosabban és igazságosabban működjön. A Fortis AI-nál úgy gondoljuk, hogy az AI akkor válik igazán értékessé, ha átláthatóan kezeli saját korlátait. Az olyan fejlett bizonytalanság-kvantifikációs eszközökkel, mint a Capsa, ezt a szemléletet a gyakorlatban is megvalósíthatja.
