Команда MIT навчає моделі ШІ того, чого вони ще не знали.
Застосування штучного інтелекту (ШІ) стрімко зростає і дедалі тісніше переплітається з нашим повсякденним життям та галузями з високими ставками, як-от охорона здоров’я, телекомунікації й енергетика. Але велика сила передбачає й велику відповідальність: системи ШІ іноді помиляються або надають непевні відповіді, що може мати серйозні наслідки.
Чому це так важливо?
Багато моделей ШІ, навіть найсучасніші, іноді можуть демонструвати так звані «галюцинації» — надавати неправильні або необґрунтовані відповіді. У сферах, де рішення мають вагомі наслідки, таких як медична діагностика чи автономне водіння, це може призвести до катастрофічних результатів. Themis AI розробила Capsa — платформу, що застосовує кількісне оцінювання невизначеності: вона детально й надійно вимірює та кількісно оцінює невизначеність результатів роботи ШІ.
Як це працює?
Навчивши моделі враховувати невизначеність, можна доповнювати їхні результати позначкою рівня ризику або надійності. Наприклад, безпілотний автомобіль може повідомити, що не впевнений у певній ситуації, і тому активувати втручання людини. Це не лише підвищує безпеку, а й зміцнює довіру користувачів до систем ШІ.
- Під час інтеграції з PyTorch обгортання моделі виконується через
capsa_torch.wrapper()результат містить як прогноз, так і ризик:
Для Fortis AI та її клієнтів ця технологія є величезним кроком уперед. Ми можемо створювати рішення на основі ШІ, які не лише інтелектуальні, а й безпечніші та передбачуваніші, із меншим ризиком галюцинацій. Це допомагає організаціям ухвалювати краще обґрунтовані рішення та знижувати ризики під час упровадження ШІ в критично важливі для бізнесу застосунки.
Висновок
Массачусетський технологічний інститут команда показує, що майбутнє ШІ полягає не лише в тому, щоб ставати розумнішим, а передусім у тому, щоб працювати безпечніше та справедливіше. У Fortis AI ми віримо, що ШІ стає по-справжньому цінним лише тоді, коли прозоро повідомляє про власні обмеження. Завдяки сучасним інструментам кількісного оцінювання невизначеності, таким як Capsa, ви також можете втілити це бачення на практиці.
