MIT тобы ЖИ модельдеріне олар білмеген нәрселерді үйретеді.
Жасанды интеллекттің (ЖИ) қолданылуы тез өсіп, күнделікті өмірімізге және денсаулық сақтау, телекоммуникация және энергетика сияқты жоғары тәуекелді салаларға терең еніп келеді. Бірақ үлкен күшпен үлкен жауапкершілік те келеді: ЖИ жүйелері кейде қателесіп немесе үлкен салдары бар сенімсіз жауаптар беруі мүмкін.
MIT-тің Themis AI жобасы, CSAIL зертханасының профессоры Даниэла Рус негізін қалаған және басқарады, тыңғылықты шешім ұсынады. Олардың технологиясы ЖИ модельдеріне «білмейтінін білуге» мүмкіндік береді. Бұл ЖИ жүйелері өз болжамдарына сенімсіз болған кезде оны көрсете алатынын, осылайша зиян келтірмес бұрын қателіктердің алдын алуға мүмкіндік туындататынын білдіреді.
Неліктен бұл маңызды?
Көптеген ЖИ модельдері, тіпті жетілгендері де, кейде «галлюцинацияларды» көрсетуі мүмкін — олар қате немесе негізсіз жауаптарды береді. Медициналық диагноз немесе автопилот сияқты шешімдердің салмағы үлкен салаларда бұл апатты салдарға әкелуі мүмкін. Themis AI Capsa атты платформаны әзірледі, ол uncertainty quantification (сенімсіздікті сандық бағалау) қолданады: ЖИ шығысының сенімсіздігін егжей-тегжейлі және сенімді түрде өлшеп, сандық түрде көрсетеді.
Қалай жұмыс істейді?
Модельдерге uncertainty awareness (сенімсіздікті тану қабілетін) үйрету арқылы олар шығыстарға тәуекел немесе сенімділік жапсырмаларын қоса алады. Мысалы, өздігінен жүретін автокөлік бір жағдайға сенімді еместігін көрсете алады да, адам араласуын іске қосады. Бұл тек қауіпсіздікті арттырып қана қоймай, сонымен бірге пайдаланушылардың ЖИ жүйелеріне сенімін күшейтеді.
- PyTorch-пен интеграция жасағанда модельді орау келесі түрде жүзеге асады
capsa_torch.wrapper()шығу болжам мен тәуекелден тұратын болады:
Fortis AI және оның клиенттері үшін бұл технология үлкен алға жылжу деген сөз. Біз тек ақылды ғана емес, сонымен бірге қауіпсіз және галлюцинациялардың мүмкіндігін азайтатын, болжамдығы жоғары AI-қолданбаларын ұсына аламыз. Бұл ұйымдарға негізделген шешімдер қабылдауға және бизнес-критикалық қосымшаларға AI енгізгендегі тәуекелдерді азайтуға көмектеседі.
Қорытынды
MIT топ болашақ ЖИ-нің тек ақылдырақ болумен шектелмей, сонымен қатар қауіпсіз және әділ жұмыс істеуге бағытталғанын көрсетеді. Fortis AI-де біз ЖИ өз шектеулері туралы ашық болғанда ғана шынайы құн туындайды деп сенеміз. Capsa сияқты озық сенімсіздікті сандық бағалау құралдары арқылы сіз бұл көзқарасты практикада да жүзеге асыра аласыз.
