MIT командасы AI модельдеріне өздері әлі білмеген нәрселерді үйретеді.
Жасанды интеллектіні (AI) қолдану қарқынды өсіп, күнделікті өмірімізбен және денсаулық сақтау, телекоммуникация, энергетика сияқты шешімдердің салдары аса маңызды салалармен барған сайын тығыз байланысып келеді. Алайда үлкен күш үлкен жауапкершілікті де талап етеді: AI жүйелері кейде қателесуі немесе салдары елеулі болуы мүмкін сенімсіз жауаптар беруі ықтимал.
Бұл неге соншалықты маңызды?
Көптеген AI модельдері, тіпті озық модельдердің өзі де, кейде «галлюцинациялар» деп аталатын құбылысты көрсетуі мүмкін — яғни қате немесе негізсіз жауаптар береді. Медициналық диагноз қою немесе автономды көлік жүргізу сияқты шешімдердің маңызы жоғары салаларда бұл апатты салдарға әкелуі мүмкін. Themis AI белгісіздікті сандық бағалауды қолданатын Capsa платформасын әзірледі: ол AI нәтижелерінің белгісіздік деңгейін егжей-тегжейлі әрі сенімді түрде өлшеп, сандық тұрғыдан бағалайды.
Бұл қалай жұмыс істейді?
Модельдерге белгісіздікті ескеруді үйрету арқылы олардың нәтижелеріне тәуекел немесе сенімділік белгісін қосуға болады. Мысалы, өздігінен жүретін көлік белгілі бір жағдайға сенімді емес екенін хабарлап, осының негізінде адамның араласуын іске қоса алады. Бұл қауіпсіздікті арттырып қана қоймай, пайдаланушылардың AI жүйелеріне деген сенімін де күшейтеді.
- PyTorch жүйесімен біріктірген кезде модельді қаптау мына арқылы жүзеге асырылады
capsa_torch.wrapper()мұнда нәтиже болжамнан да, тәуекелден де тұрады:
Fortis AI және оның клиенттері үшін бұл технология алға жасалған орасан зор қадамды білдіреді. Біз тек ақылды ғана емес, сонымен қатар қауіпсіз әрі болжамдылығы жоғары, галлюцинация ықтималдығы төмен AI шешімдерін ұсына аламыз. Бұл ұйымдарға негізделген шешімдер қабылдауға және AI технологиясын бизнес үшін аса маңызды қолданбаларға енгізу кезіндегі тәуекелдерді азайтуға көмектеседі.
Қорытынды
MIT университеті командасы AI болашағы тек ақылдырақ болуға емес, ең алдымен қауіпсіз әрі әділ жұмыс істеуге байланысты екенін көрсетеді. Fortis AI компаниясында біз AI өз шектеулері туралы ашық болған жағдайда ғана шын мәнінде құнды болады деп сенеміз. Capsa сияқты белгісіздікті сандық бағалаудың озық құралдарының көмегімен бұл көзқарасты іс жүзінде жүзеге асыруға болады.
