MIT-ის გუნდი ასწავლის AI-მოდელებს იმას, რასაც ისინი ჯერ არ იცოდნენ.
ხელოვნური ინტელექტის (AI) გამოყენება სწრაფად იზრდება და სულ უფრო მეტად არის შერწყმული ჩვენი ყოველდღიური ცხოვრებასა და მაღალრისკიან ინდუსტრიებთან, როგორიცაა ჯანდაცვა, ტელეკომუნიკაციები და ენერგეტიკა. თუმცა დიდი ძალის თანმხლებად მოდის დიდი პასუხისმგებლობა: AI-სისტემები ზოგჯერ შეცდომებს უშვებენ ან არასტაბილურ პასუხებს აძლევენ, რაც შესაძლოა მძიმე შედეგები ჰქონდეს.
MIT-ის Themis AI, რომელიც თანაარსებული და ხელმძღვანელობს CSAIL ლაბორატორიის პროფესორი დანიელა რუსი, სთავაზობს წინსულ, რესურსულ გადაწყვეტას. მათი ტექნოლოგია აძლევს AI-მოდელებს შესაძლებლობას „იცოდნენ ის, რისი ცოდნაც არ აქვთ“. ეს იმას ნიშნავს, რომ AI-სისტემები თავად შეძლებენ მიუთითონ, როდის არიან არაცდუნებულები თავიანთ პროგნოზებზე, რაც ხელს შეუწყობს შეცდომების თავიდან აცილებას, სანამ ისინი ზიანს მიაყენებენ.
რატომ არის ეს ასე მნიშვნელოვანი?
ბევრ AI-მოდელს, მათ შორის მოწინავე მოდელებსაც, ზოგჯერ შეუძლიათ გამოჩნდნენ sogenannte „ჰალუცინაციები“ — ისინი იძლევიან მცდარ ან დაუდასტურებელ პასუხებს. გადაწყვეტილებების მნიშვნელოვან სფეროებში, როგორიცაა მედიცინული დიაგნოზი ან ავტომატური მართვა, ეს შეიძლება კატასტროფული შედეგები მოიტანოს. Themis AI-მა შექმნა Capsa — პლატფორმა, რომელიც არტiculiert uncertainty quantification–ს: იგი ზომავს და რაოდენობრივად ავლენს AI-გამოყვანილობის_uncertainty-ს დეტალურ და სანდო გზით.
როგორ მუშაობს ეს?
მოდელებს uncertainty awareness-ის სწავლებით, ისინი შეძლებენ თავიანთ გამომავალს მიაწერონ რისკის ან სანდოების ლეიბლი. მაგალითად: თვითმავალი ავტომობილი შეიძლება მიუთითოს, რომ გარკვეულ სიტუაციაში არ არის დარწმუნებული და შესაბამისად დაააქტიუროს ადამიანის ჩარევა. ეს არა მხოლოდ ზრდის უსაფრთხოებას, არამედ აძლიერებს მომხმარებელთა ნდობას AI-სისტემების მიმართ.
- PyTorch-თან ინტეგრაციის დროს მოდელის გამრუდება (wrapping) ხდება შემდეგგვარად
capsa_torch.wrapper()სადაც გამომავალი მოიცავს zarówno პროგნოზს, როგორც რისკს:
Fortis AI-ისა და მისი კლიენტებისათვის ეს ტექნოლოგია წარმოადგენს უზარმაზარ წინსვლას. ჩვენ შეგვიძლია მიწოდება AI-სჭრელი გადაწყვეტილებების, რომლებიც არა მხოლოდ ინტელექტუალურად ძლიერია, არამედ უსაფრთხოა და უკეთ პროგნოზებადი, ჰალუცინაციების უფრო მცირე ალბათობით. ეს ეხმარება ორგანიზაციებს უკეთ დაფუძნებული გადაწყვეტილებების მიღებაში და რისკების შემცირებაში AI-ის შემოღების დროს ბიზნესისთვის კრიტიკული აპლიკაციებში.
დასკვნა
MIT გუნდი აჩვენებს, რომ AI-ის მომავალი არა მხოლოდ უფრო ჭკვიანი გახდომაზეა, არამედ უპირველეს ყოვლისა უფრო უსაფრთხოდ და სამართლიანად მოქმედებაზე. Fortis AI-ში გვჯერა, რომ AI მხოლოდ მაშინ ხდება ნამდვილად ფასეული, როდესაც იგი გამჭვირვალეა თავის შეზღუდვებზე. ისეთი მოწინავე უტყვობის რაოდენობრივი შეფასების ხელსაწყოების, როგორიცაა Capsa, გამოყენებით, თქვენ ამ ხედვას პრაქტიკაში भी განახორციელებთ.
