MIT-team lærer AI-modeller, hvad de endnu ikke vidste.
Anvendelsen af kunstig intelligens (AI) vokser hurtigt og bliver stadig mere integreret i vores dagligdag og i kritiske industrier som sundhedssektoren, telekommunikation og energi. Men med stor styrke følger også et stort ansvar: AI-systemer begår sommetider fejl eller giver usikre svar, som kan få alvorlige konsekvenser.
Hvorfor er dette så vigtigt?
Mange AI-modeller, selv avancerede modeller, kan sommetider udvise såkaldte »hallucinationer« – de giver fejlagtige eller udokumenterede svar. I sektorer, hvor beslutninger har stor betydning, såsom medicinsk diagnosticering eller autonom kørsel, kan det få katastrofale konsekvenser. Themis AI har udviklet Capsa, en platform, der anvender kvantificering af usikkerhed: Den måler og kvantificerer usikkerheden i AI-output på en detaljeret og pålidelig måde.
Hvordan fungerer det?
Ved at gøre modeller bevidste om usikkerhed kan de forsyne deres output med en risiko- eller pålidelighedsmærkning. En selvkørende bil kan for eksempel angive, at den er usikker på en situation, og derfor aktivere menneskelig indgriben. Det øger ikke kun sikkerheden, men også brugernes tillid til AI-systemer.
- Ved integration med PyTorch foregår indpakningen af modellen via
capsa_torch.wrapper()hvor outputtet består af både forudsigelsen og risikoen:
For Fortis AI og virksomhedens kunder er denne teknologi et stort skridt fremad. Vi kan levere AI-applikationer, der ikke kun er intelligente, men også sikre og mere forudsigelige med mindre risiko for hallucinationer. Det hjælper organisationer med at træffe bedre underbyggede beslutninger og reducere risici ved at indføre AI i forretningskritiske applikationer.
Konklusion
MIT teamet viser, at AI's fremtid ikke kun handler om at blive klogere, men især også om at fungere mere sikkert og retfærdigt. Hos Fortis AI mener vi, at AI først for alvor bliver værdifuld, når den er transparent omkring sine egne begrænsninger. Med avancerede værktøjer til kvantificering af usikkerhed som Capsa kan De også omsætte denne vision til praksis.
