Zespół MIT uczy modele AI tego, czego jeszcze nie wiedziały.
Zastosowanie sztucznej inteligencji (AI) szybko się rozwija i coraz bardziej przenika nasze codzienne życie oraz sektory o wysokiej stawce, takie jak opieka zdrowotna, telekomunikacja i energetyka. Jednak wielka moc wiąże się również z wielką odpowiedzialnością: systemy AI czasami popełniają błędy lub udzielają niepewnych odpowiedzi, które mogą mieć poważne konsekwencje.
Dlaczego jest to tak ważne?
Wiele modeli AI, nawet tych zaawansowanych, może czasami wykazywać tak zwane „halucynacje” — generować błędne lub nieuzasadnione odpowiedzi. W sektorach, w których decyzje mają ogromne znaczenie, takich jak diagnostyka medyczna czy jazda autonomiczna, może to mieć katastrofalne skutki. Themis AI opracowała Capsa — platformę wykorzystującą kwantyfikację niepewności, która w szczegółowy i wiarygodny sposób mierzy oraz kwantyfikuje niepewność wyników generowanych przez AI.
Jak to działa?
Ucząc modele świadomości niepewności, można wyposażyć ich wyniki w etykietę ryzyka lub wiarygodności. Na przykład samochód autonomiczny może zasygnalizować, że nie ma pewności co do danej sytuacji, i w związku z tym uruchomić interwencję człowieka. Zwiększa to nie tylko bezpieczeństwo, lecz także zaufanie użytkowników do systemów AI.
- W przypadku integracji z PyTorch opakowanie modelu odbywa się za pośrednictwem
capsa_torch.wrapper()przy czym wynik obejmuje zarówno predykcję, jak i ryzyko:
Dla Fortis AI i jej klientów technologia ta oznacza ogromny krok naprzód. Możemy dostarczać rozwiązania AI, które są nie tylko inteligentne, lecz także bezpieczne i bardziej przewidywalne, z mniejszym ryzykiem wystąpienia halucynacji. Pomaga to organizacjom podejmować lepiej uzasadnione decyzje i ograniczać ryzyko podczas wdrażania AI w aplikacjach o znaczeniu krytycznym dla działalności.
Podsumowanie
MIT zespół pokazuje, że przyszłość AI nie polega wyłącznie na zwiększaniu inteligencji, lecz przede wszystkim na bezpiecznym i uczciwym działaniu. W Fortis AI wierzymy, że AI staje się naprawdę wartościowa dopiero wtedy, gdy otwarcie informuje o swoich ograniczeniach. Dzięki zaawansowanym narzędziom do kwantyfikacji niepewności, takim jak Capsa, również Państwo mogą wprowadzić tę wizję w życie.
