MIT-team lærer KI-modeller det de ikke visste fra før.
Bruken av kunstig intelligens (AI) vokser raskt og blir stadig mer integrert i hverdagen vår og i samfunnskritiske bransjer som helsevesen, telekom og energi. Men med stor kraft følger også stort ansvar: AI-systemer gjør noen ganger feil eller gir usikre svar som kan få store konsekvenser.
Hvorfor er dette så viktig?
Mange AI-modeller, også avanserte modeller, kan av og til produsere såkalte «hallusinasjoner» – de gir feilaktige eller grunnløse svar. I sektorer der beslutninger har store konsekvenser, som medisinsk diagnostikk eller autonom kjøring, kan dette få katastrofale følger. Themis AI har utviklet Capsa, en plattform som bruker usikkerhetskvantifisering: Den måler og kvantifiserer usikkerheten i AI-resultater på en detaljert og pålitelig måte.
Hvordan fungerer det?
Ved å gi modeller bevissthet om usikkerhet kan de utstyre resultatene med en risiko- eller pålitelighetsmerking. For eksempel kan en selvkjørende bil indikere at den er usikker på en situasjon, og derfor aktivere menneskelig inngripen. Dette øker ikke bare sikkerheten, men også brukernes tillit til AI-systemer.
- Ved integrasjon med PyTorch gjøres innpakkingen av modellen via
capsa_torch.wrapper()der resultatet består av både prediksjonen og risikoen:
For Fortis AI og kundene deres representerer denne teknologien et stort fremskritt. Vi kan levere AI-applikasjoner som ikke bare er intelligente, men også sikre og mer forutsigbare, med lavere risiko for hallusinasjoner. Dette hjelper organisasjoner med å ta bedre informerte beslutninger og redusere risikoen ved å innføre AI i virksomhetskritiske applikasjoner.
Konklusjon
MIT team viser at fremtidens AI ikke bare handler om å bli smartere, men først og fremst om å fungere sikrere og mer rettferdig. I Fortis AI mener vi at AI først blir virkelig verdifull når den er åpen om sine egne begrensninger. Med avanserte verktøy for usikkerhetskvantifisering, som Capsa, kan dere også omsette denne visjonen til praksis.
