Das MIT-Team bringt KI-Modellen bei, was sie bisher noch nicht wussten.
Der Einsatz künstlicher Intelligenz (KI) wächst rasant und ist zunehmend mit unserem Alltag sowie mit Branchen von hoher Tragweite wie dem Gesundheitswesen, der Telekommunikation und der Energieversorgung verflochten. Doch mit großer Macht geht auch große Verantwortung einher: KI-Systeme machen mitunter Fehler oder liefern unsichere Antworten, die weitreichende Folgen haben können.
Warum ist das so wichtig?
Viele KI-Modelle, selbst hochentwickelte, können mitunter sogenannte „Halluzinationen“ erzeugen – sie liefern fehlerhafte oder unbegründete Antworten. In Bereichen, in denen Entscheidungen schwerwiegende Folgen haben, etwa bei medizinischen Diagnosen oder beim autonomen Fahren, kann dies verheerende Konsequenzen haben. Themis AI hat Capsa entwickelt, eine Plattform, die eine Quantifizierung der Unsicherheit anwendet: Sie misst und quantifiziert die Unsicherheit von KI-Ausgaben auf detaillierte und zuverlässige Weise.
Wie funktioniert das?
Indem man Modellen ein Bewusstsein für Unsicherheit vermittelt, können sie ihre Ausgaben mit einer Risiko- oder Zuverlässigkeitskennzeichnung versehen. Beispielsweise kann ein selbstfahrendes Auto angeben, dass es eine Situation nicht sicher einschätzen kann, und deshalb einen menschlichen Eingriff aktivieren. Das erhöht nicht nur die Sicherheit, sondern auch das Vertrauen der Nutzer in KI-Systeme.
- Bei der Integration mit PyTorch erfolgt das Wrapping des Modells über
capsa_torch.wrapper()wobei die Ausgabe sowohl die Vorhersage als auch das Risiko umfasst:
Für Fortis AI und seine Kunden bedeutet diese Technologie einen enormen Fortschritt. Wir können KI-Anwendungen bereitstellen, die nicht nur intelligent, sondern auch sicherer und besser vorhersehbar sind und ein geringeres Risiko für Halluzinationen aufweisen. Sie unterstützt Organisationen dabei, fundiertere Entscheidungen zu treffen und Risiken bei der Einführung von KI in geschäftskritischen Anwendungen zu reduzieren.
Fazit
Das MIT Team zeigt, dass es bei der Zukunft der KI nicht nur darum geht, intelligenter zu werden, sondern vor allem auch sicherer und fairer zu funktionieren. Bei Fortis AI sind wir überzeugt, dass KI erst dann wirklich wertvoll wird, wenn sie transparent mit ihren eigenen Grenzen umgeht. Mit fortschrittlichen Tools zur Quantifizierung der Unsicherheit wie Capsa können Sie diese Vision auch in die Praxis umsetzen.
