एमआईटी की टीम एआई मॉडलों को वह सिखाती है, जिसे वे पहले नहीं जानते थे।

कृत्रिम बुद्धिमत्ता (एआई) का उपयोग तेज़ी से बढ़ रहा है और यह हमारे दैनिक जीवन तथा स्वास्थ्य सेवा, दूरसंचार और ऊर्जा जैसे अत्यंत महत्वपूर्ण क्षेत्रों में लगातार अधिक एकीकृत हो रही है। लेकिन बड़ी शक्ति के साथ बड़ी ज़िम्मेदारी भी आती है: एआई प्रणालियाँ कभी-कभी गलतियाँ करती हैं या अनिश्चित उत्तर देती हैं, जिनके गंभीर परिणाम हो सकते हैं।

यह इतना महत्वपूर्ण क्यों है?
कई एआई मॉडल, यहाँ तक कि उन्नत मॉडल भी, कभी-कभी तथाकथित ‘हैलुसिनेशन’ उत्पन्न कर सकते हैं—वे गलत या निराधार उत्तर देते हैं। चिकित्सा निदान या स्वचालित वाहन संचालन जैसे क्षेत्रों में, जहाँ निर्णयों का बहुत महत्व होता है, इसके विनाशकारी परिणाम हो सकते हैं। थेमिस एआई ने कैप्सा विकसित किया है, जो एक ऐसा मंच है जिसमें अनिश्चितता का परिमाणीकरण लागू किया जाता है: यह एआई आउटपुट की अनिश्चितता को विस्तृत और विश्वसनीय तरीके से मापता और परिमाणित करता है।

 यह कैसे काम करता है?
मॉडलों में अनिश्चितता-जागरूकता विकसित करके, वे अपने आउटपुट के साथ जोखिम या विश्वसनीयता का लेबल जोड़ सकते हैं। उदाहरण के लिए, एक स्वचालित वाहन यह संकेत दे सकता है कि वह किसी स्थिति को लेकर निश्चित नहीं है और इसलिए मानवीय हस्तक्षेप सक्रिय कर सकता है। इससे न केवल सुरक्षा बढ़ती है, बल्कि एआई प्रणालियों में उपयोगकर्ताओं का विश्वास भी मजबूत होता है।

निष्कर्ष
एमआईटी टीम दिखाता है कि एआई का भविष्य केवल अधिक बुद्धिमान बनने पर निर्भर नहीं है, बल्कि मुख्य रूप से अधिक सुरक्षित और निष्पक्ष ढंग से काम करने पर भी निर्भर है। फोर्टिस एआई में हमारा मानना है कि एआई तभी वास्तव में मूल्यवान बनता है, जब वह अपनी सीमाओं के बारे में पारदर्शी हो। कैप्सा जैसे उन्नत अनिश्चितता-परिमाणीकरण उपकरणों के साथ आप इस दृष्टिकोण को व्यवहार में भी लागू कर सकते हैं।