MIT komanda moko DI modelius to, ko jie dar nežinojo.
Dirbtinio intelekto (DI) taikymas sparčiai auga ir vis labiau įsilieja į mūsų kasdienį gyvenimą bei didelės rizikos sritis, tokias kaip sveikatos priežiūra, telekomunikacijos ir energetika. Tačiau su didele galia ateina ir didelė atsakomybė: DI sistemos kartais klysta arba pateikia neapibrėžtus atsakymus, galinčius turėti rimtų pasekmių.
Kodėl tai taip svarbu?
Daugelis DI modelių, net ir pažangių, kartais gali generuoti vadinamąsias „haliucinacijas“ – pateikti klaidingus ar nepagrįstus atsakymus. Srityse, kuriose sprendimai turi didelę reikšmę, pavyzdžiui, nustatant medicininę diagnozę ar vairuojant autonominį automobilį, tai gali sukelti katastrofiškų pasekmių. „Themis AI“ sukūrė „Capsa“ – platformą, taikančią neapibrėžtumo kiekybinį įvertinimą: ji išsamiai ir patikimai matuoja bei kiekybiškai įvertina DI rezultatų neapibrėžtumą.
Kaip tai veikia?
Suteikus modeliams gebėjimą suvokti neapibrėžtumą, jų rezultatus galima papildyti rizikos arba patikimumo žyma. Pavyzdžiui, autonominis automobilis gali nurodyti, kad nėra tikras dėl situacijos, ir dėl to inicijuoti žmogaus įsikišimą. Tai ne tik padidina saugumą, bet ir sustiprina naudotojų pasitikėjimą DI sistemomis.
- Integruojant su „PyTorch“, modelis apgaubiamas naudojant
capsa_torch.wrapper()rezultatą sudaro ir prognozė, ir rizika:
„Fortis AI“ ir jos klientams ši technologija reiškia didžiulį žingsnį į priekį. Galime teikti DI sprendimus, kurie yra ne tik išmanūs, bet ir saugūs bei geriau nuspėjami, o haliucinacijų tikimybė juose mažesnė. Tai padeda organizacijoms priimti labiau pagrįstus sprendimus ir mažinti riziką diegiant DI verslui kritinėse taikomosiose programose.
Išvada
MIT komanda parodo, kad DI ateitis susijusi ne tik su didesniu išmanumu, bet visų pirma su saugesniu ir sąžiningesniu veikimu. „Fortis AI“ tikime, kad DI tampa iš tiesų vertingas tik tada, kai skaidriai pripažįsta savo ribotumus. Naudodami pažangius neapibrėžtumo kiekybinio įvertinimo įrankius, tokius kaip „Capsa“, šią viziją galite įgyvendinti ir praktiškai.
