MIT komanda māca MI modeļiem to, ko tie vēl nezināja.
Mākslīgā intelekta (MI) izmantošana strauji paplašinās un arvien ciešāk iekļaujas mūsu ikdienā un augstas atbildības nozarēs, piemēram, veselības aprūpē, telekomunikācijās un enerģētikā. Taču liela vara nozīmē arī lielu atbildību: MI sistēmas dažkārt pieļauj kļūdas vai sniedz nedrošas atbildes, kam var būt nopietnas sekas.
Kāpēc tas ir tik svarīgi?
Daudzi MI modeļi, pat vismodernākie, dažkārt var radīt tā dēvētās “halucinācijas” — tie sniedz kļūdainas vai nepamatotas atbildes. Nozarēs, kur lēmumiem ir liela nozīme, piemēram, medicīniskajā diagnostikā vai autonomajā braukšanā, tam var būt katastrofālas sekas. Themis AI ir izstrādājis Capsa — platformu, kas izmanto nenoteiktības kvantificēšanu: tā detalizēti un uzticami mēra un kvantificē MI izvades nenoteiktību.
Kā tas darbojas?
Mācot modeļiem apzināties nenoteiktību, tie var papildināt izvadi ar riska vai uzticamības marķējumu. Piemēram, pašbraucoša automašīna var norādīt, ka nav pārliecināta par konkrēto situāciju, un tādēļ aktivizēt cilvēka iejaukšanos. Tas ne tikai paaugstina drošību, bet arī vairo lietotāju uzticēšanos MI sistēmām.
- Integrējot ar PyTorch, modeļa ietīšana tiek veikta, izmantojot
capsa_torch.wrapper()tādējādi izvade ietver gan prognozi, gan risku:
Fortis AI un tā klientiem šī tehnoloģija nozīmē milzīgu soli uz priekšu. Mēs varam nodrošināt MI lietojumus, kas ir ne tikai viedi, bet arī droši un labāk prognozējami, turklāt ar mazāku halucināciju iespējamību. Tas palīdz organizācijām pieņemt labāk pamatotus lēmumus un samazināt riskus, ieviešot MI uzņēmējdarbībai kritiski svarīgās lietotnēs.
Secinājums
MIT komanda parāda, ka MI nākotne nav saistīta tikai ar kļūšanu gudrākam, bet galvenokārt arī ar drošāku un godīgāku darbību. Fortis AI mēs uzskatām, ka MI kļūst patiesi vērtīgs tikai tad, ja tas atklāti norāda uz saviem ierobežojumiem. Izmantojot tādus mūsdienīgus nenoteiktības kvantificēšanas rīkus kā Capsa, arī jūs varat šo redzējumu īstenot praksē.
