MIT-team lär AI-modeller vad de ännu inte visste.
Användningen av artificiell intelligens (AI) växer snabbt och blir alltmer integrerad i vårt dagliga liv och i samhällskritiska branscher som hälso- och sjukvård, telekom och energi. Men med stor kraft följer också ett stort ansvar: AI-system gör ibland fel eller ger osäkra svar som kan få stora konsekvenser.
Varför är detta så viktigt?
Många AI-modeller, även avancerade sådana, kan ibland uppvisa så kallade ”hallucinationer” – de ger felaktiga eller ogrundade svar. Inom sektorer där besluten har stor betydelse, till exempel vid medicinsk diagnostik eller autonom körning, kan detta få katastrofala konsekvenser. Themis AI har utvecklat Capsa, en plattform som tillämpar osäkerhetskvantifiering: den mäter och kvantifierar osäkerheten i AI-utdata på ett detaljerat och tillförlitligt sätt.
Hur fungerar det?
Genom att ge modeller medvetenhet om osäkerhet kan de förse sina utdata med en risk- eller tillförlitlighetsmärkning. Exempelvis kan en självkörande bil ange att den inte är säker på hur en situation ska tolkas och därför aktivera mänskligt ingripande. Detta ökar inte bara säkerheten utan även användarnas förtroende för AI-system.
- Vid integrering med PyTorch sker modellens inbäddning via
capsa_torch.wrapper()där utdata består av både förutsägelsen och risken:
För Fortis AI och dess kunder innebär denna teknik ett enormt steg framåt. Vi kan leverera AI-tillämpningar som inte bara är intelligenta, utan också säkra och mer förutsägbara, med mindre risk för hallucinationer. Det hjälper organisationer att fatta bättre underbyggda beslut och minska riskerna när AI införs i verksamhetskritiska applikationer.
Slutsats
MIT teamet visar att AI:s framtid inte bara handlar om att bli smartare, utan framför allt om att fungera säkrare och mer rättvist. På Fortis AI tror vi att AI blir verkligt värdefull först när den är transparent med sina egna begränsningar. Med avancerade verktyg för osäkerhetskvantifiering, som Capsa, kan ni också omsätta denna vision i praktiken.
