MIT-ის გუნდი ხელოვნური ინტელექტის მოდელებს ასწავლის იმას, რაც მათ ჯერ არ იცოდნენ.

ხელოვნური ინტელექტის (AI) გამოყენება სწრაფად იზრდება და სულ უფრო მეტად ერწყმის ჩვენს ყოველდღიურ ცხოვრებასა და მაღალი რისკის მქონე ისეთ ინდუსტრიებს, როგორიცაა ჯანდაცვა, ტელეკომუნიკაციები და ენერგეტიკა. თუმცა, დიდ შესაძლებლობებთან ერთად დიდი პასუხისმგებლობაც მოდის: AI-სისტემები ზოგჯერ შეცდომებს უშვებენ ან გაურკვეველ პასუხებს იძლევიან, რასაც შესაძლოა მნიშვნელოვანი შედეგები მოჰყვეს.

რატომ არის ეს ასე მნიშვნელოვანი?
AI-ის ბევრ მოდელს, მათ შორის მოწინავე მოდელებსაც, ზოგჯერ ე.წ. „ჰალუცინაციები“ ახასიათებს — ისინი მცდარ ან უსაფუძვლო პასუხებს იძლევიან. ისეთ სფეროებში, სადაც გადაწყვეტილებებს დიდი მნიშვნელობა აქვს, მაგალითად, სამედიცინო დიაგნოსტიკაში ან ავტონომიურ მართვაში, ამას შეიძლება კატასტროფული შედეგები მოჰყვეს. Themis AI-მ შეიმუშავა Capsa — პლატფორმა, რომელიც გაურკვევლობის რაოდენობრივ შეფასებას იყენებს: ის AI-ის შედეგების გაურკვევლობას დეტალურად და საიმედოდ ზომავს და რაოდენობრივად აფასებს.

 როგორ მუშაობს ეს?
მოდელებისთვის გაურკვევლობის გაცნობიერების სწავლებით შესაძლებელია, რომ მათ შედეგებს რისკის ან სანდოობის იარლიყი მიენიჭოს. მაგალითად, თვითმართვადმა ავტომობილმა შეიძლება მიუთითოს, რომ კონკრეტულ სიტუაციაში დარწმუნებული არ არის და ამიტომ ადამიანის ჩარევა გაააქტიუროს. ეს არა მხოლოდ უსაფრთხოებას ზრდის, არამედ მომხმარებლების ნდობასაც აძლიერებს AI-სისტემების მიმართ.

დასკვნა
MIT-ის გუნდი გვეჩვენებს, რომ AI-ის მომავალი მხოლოდ უფრო ჭკვიან მოდელებს კი არ გულისხმობს, არამედ, უპირველეს ყოვლისა, უფრო უსაფრთხო და სამართლიან ფუნქციონირებას. Fortis AI-ში გვჯერა, რომ AI მხოლოდ მაშინ ხდება ნამდვილად ღირებული, როდესაც საკუთარ შეზღუდვებზე გამჭვირვალედ საუბრობს. ისეთი მოწინავე ინსტრუმენტების გამოყენებით, როგორიცაა გაურკვევლობის რაოდენობრივი შეფასების Capsa, ამ ხედვის პრაქტიკაში განხორციელებაც შეგიძლიათ.