Tim MIT jgħallem lill-mudelli ta’ AI dak li ma kinux jafu.
L-applikazzjoni tal-intelliġenza artifiċjali (AI) qed tikber malajr u qed tintegra dejjem aktar fil-ħajja tagħna ta’ kuljum u f’industriji ta’ rischju għoli bħal kura tas-saħħa, telecom u enerġija. Iżda b’qawwa kbira jasal ukoll responsabbiltà kbira: is-sistemi AI kultant jagħmlu żbalji jew jagħtu tweġibiet inċerti li jistgħu jkollhom konsegwenzi kbar.
Themis AI tal-MIT, stabbilita u mmexxija parzjalment mill-professur Daniela Rus mill-laboratorju CSAIL, toffri soluzzjoni innovattiva. It-teknoloġija tagħhom tippermetti lill-mudelli AI “jafu dak li ma jafuhx”. Dan ifisser li s-sistemi AI jistgħu jwasslu meta huma inċerti dwar il-previżjonijiet tagħhom, u b’hekk jiġu evitati żbalji qabel ma jikkawżaw ħsara.
Għaliex dan hu daqstant importanti?
Ħafna mudelli AI, anke avvanzati, kultant juru dak li jissejjaħ “hallucinations” — jagħtu tweġibiet żbaljati jew bla bażi. F’sezzjonijiet fejn id-deċiżjonijiet għandhom impatt kbir, bħal dijanjosi medika jew sewwieq awtonomu, dan jista’ jkollu konsegwenzi katastrofiċi. Themis AI żviluppat Capsa, pjattaforma li tapplika uncertainty quantification: tapprezza u tkunċifika l-inċertezza tal-output tal-AI b’mod dettaljat u affidabbli.
Kif jaħdem?
Billi jgħallmu lill-mudelli awareness tal-inċertezza, jistgħu jipprovdu output b’lebel ta’ riskju jew affidabilità. Per eżempju: karawwa awtonoma tista’ tindika li mhix ċerta dwar sitwazzjoni u b’konsegwenza tistieden intervent uman. Dan mhux biss jiżdied is-sigurtà, imma wkoll jitjieb il-fiduċja tal-utenti fis-sistemi AI.
- Meta tintegra ma’ PyTorch, il-wrapping tal-mudell isir permezz ta’
capsa_torch.wrapper()billi l-output jikkonsisti kemm minn previżjoni kif ukoll mir-riskju:
Għal Fortis AI u l-klijenti tagħha din it-teknoloġija tirrappreżenta pass kbir 'il quddiem. Nistgħu nwasslu applikazzjonijiet AI li mhux biss huma intelliġenti, iżda wkoll sikuri u aktar prevedibbli b'inqas ċans ta' allokazzjoni ta' gwida żbaljata (hallucinations). Dan jgħin lill-organizzazzjonijiet jagħmlu deċiżjonijiet b'saħħithom aktar u jnaqqas ir-riskji meta jidħlu AI f'applikazzjonijiet kriċi għall-operat tan-negozju.
Konklużjoni
Il-MIT tim juri li l-futur tal-AI m'għandux jiffoka biss fuq li jsir aktar intelliġenti, iżda primarjament fuq kif jaħdem b'mod aktar sigur u ġust. F'Fortis AI nemmnu li l-AI saret tassew ta' valur biss meta tkun trasparenti dwar il-limitazzjonijiet tagħha. Bil-għodod avvanzati għall-kwantifikazzjoni tal-inċertezza bħalma hu Capsa, tista' twettaq din il-viżjoni fil-prattika.
