It-Tim tal-MIT jgħallem lill-mudelli tal-AI dak li għadhom ma kinux jafu.
L-applikazzjoni tal-intelliġenza artifiċjali (AI) qed tikber malajr u qed issir dejjem aktar imħallta mal-ħajja tagħna ta' kuljum u ma' industriji b'riskju għoli bħall-kura tas-saħħa, it-telekomunikazzjoni u l-enerġija. Iżda ma' qawwa kbira tiġi wkoll responsabbiltà kbira: is-sistemi tal-AI kultant jagħmlu żbalji jew jagħtu tweġibiet inċerti li jistgħu jkollhom konsegwenzi kbar.
Themis AI tal-MIT, ko-fundata u mmexxija mill-Professur Daniela Rus mil-laboratorju CSAIL, toffri soluzzjoni innovattiva. It-teknoloġija tagħhom tippermetti lill-mudelli tal-AI li jkunu jafu 'dak li ma jafux'. Dan ifisser li s-sistemi tal-AI jistgħu jindikaw huma stess meta jkunu inċerti dwar il-previżjonijiet tagħhom, u b'hekk jiġu evitati żbalji qabel ma jikkawżaw ħsara.
Għaliex dan huwa daqshekk importanti?
Bosta mudelli tal-AI, anke dawk avvanzati, kultant jistgħu juru dak li jissejjaħ 'alluċinazzjonijiet'—jagħtu tweġibiet żbaljati jew mingħajr bażi. F'setturi fejn id-deċiżjonijiet huma ta' piż kbir, bħad-dijanjosi medika jew is-sewqan awtonomu, dan jista' jkollu konsegwenzi diżastrużi. Themis AI żviluppat Capsa, pjattaforma li tapplika l-kejl tal-inċertezza (uncertainty quantification): tkejjel u tikkwantifika l-inċertezza tal-output tal-AI b'mod dettaljat u affidabbli.
Kif taħdem?
Billi l-mudelli jiġu mgħallma jkunu konxji tal-inċertezza, jistgħu jipprovdu lill-outputs b'tikketta ta' riskju jew affidabbiltà. Pereżempju: karozza li ssuq waħedha tista' tindika li mhix ċerta dwar sitwazzjoni u għalhekk tattiva intervent uman. Dan mhux biss iżid is-sigurtà, iżda wkoll il-fiduċja tal-utenti fis-sistemi tal-AI.
- Meta tintegra ma' PyTorch, l-ippakkettjar tal-mudell permezz ta'
capsa_torch.wrapper()fejn l-output jikkonsisti kemm mit-tbassir kif ukoll mir-riskju:
Għal Fortis AI u l-klijenti tagħha, din it-teknoloġija tfisser pass 'il quddiem enormi. Aħna kapaċi nwasslu applikazzjonijiet tal-AI li mhumiex biss intelliġenti, iżda wkoll siguri u aktar prevedibbli b'inqas ċans ta' alluċinazzjonijiet. Tgħin lill-organizzazzjonijiet biex jieħdu deċiżjonijiet aħjar u biex inaqqsu r-riskji meta jintroduċu l-AI f'applikazzjonijiet kritiċi għan-negozju.
Konklużjoni
L-MIT tim juri li l-futur tal-AI mhux biss qed idur madwar li jsir aktar intelliġenti, iżda fuq kollox dwar li jiffunzjona b'mod aktar sigur u ġust. F'Fortis AI, aħna nemmnu li l-AI ssir tassew siewja biss meta tkun trasparenti dwar il-limitazzjonijiet tagħha stess. Bi strumenti avvanzati ta' kwantifikazzjoni tal-inċertezza bħal Capsa, tista' wkoll twettaq dik il-viżjoni fil-prattika.
