ทีมเอ็มไอทีสอนโมเดลเอไอให้รู้ในสิ่งที่ยังไม่เคยรู้

การประยุกต์ใช้ปัญญาประดิษฐ์ (เอไอ) กำลังเติบโตอย่างรวดเร็ว และเข้ามาผสานกับชีวิตประจำวันของเรามากขึ้นเรื่อย ๆ รวมถึงอุตสาหกรรมที่มีความเสี่ยงสูง เช่น สาธารณสุข โทรคมนาคม และพลังงาน แต่พลังอันยิ่งใหญ่มาพร้อมความรับผิดชอบอันยิ่งใหญ่เช่นกัน ระบบเอไอบางครั้งอาจทำผิดพลาดหรือให้คำตอบที่ไม่แน่นอน ซึ่งอาจส่งผลกระทบร้ายแรงได้

เหตุใดเรื่องนี้จึงสำคัญ
โมเดลเอไอจำนวนมาก แม้แต่โมเดลขั้นสูง ก็อาจเกิดสิ่งที่เรียกว่า “ภาพหลอน” ได้ในบางครั้ง กล่าวคือ ให้คำตอบที่ผิดพลาดหรือไม่มีมูลรองรับ ในภาคส่วนที่การตัดสินใจมีผลกระทบสูง เช่น การวินิจฉัยทางการแพทย์หรือการขับขี่อัตโนมัติ ปัญหานี้อาจนำไปสู่ผลลัพธ์ที่ร้ายแรงอย่างยิ่ง Themis AI ได้พัฒนา Capsa ซึ่งเป็นแพลตฟอร์มที่ใช้การประเมินเชิงปริมาณของความไม่แน่นอน โดยวัดและระบุระดับความไม่แน่นอนของผลลัพธ์จากเอไอได้อย่างละเอียดและน่าเชื่อถือ

 ทำงานอย่างไร
การทำให้โมเดลตระหนักถึงความไม่แน่นอนช่วยให้โมเดลสามารถกำกับผลลัพธ์ด้วยป้ายระบุความเสี่ยงหรือระดับความน่าเชื่อถือได้ ตัวอย่างเช่น รถยนต์ไร้คนขับอาจแจ้งว่าไม่มั่นใจในสถานการณ์หนึ่ง และจึงเปิดใช้งานการแทรกแซงโดยมนุษย์ วิธีนี้ไม่เพียงเพิ่มความปลอดภัยเท่านั้น แต่ยังช่วยเพิ่มความไว้วางใจของผู้ใช้ที่มีต่อระบบเอไอด้วย

บทสรุป
เอ็มไอที ทีม แสดงให้เห็นว่าอนาคตของเอไอไม่ได้มุ่งเพียงการทำให้ฉลาดขึ้นเท่านั้น แต่ยังต้องทำงานได้อย่างปลอดภัยและเป็นธรรมมากขึ้นด้วย ที่ Fortis AI เราเชื่อว่าเอไอจะสร้างคุณค่าได้อย่างแท้จริงก็ต่อเมื่อสามารถสื่อสารข้อจำกัดของตนเองได้อย่างโปร่งใส ด้วยเครื่องมือประเมินเชิงปริมาณของความไม่แน่นอนขั้นสูง เช่น Capsa คุณก็สามารถนำแนวคิดนี้ไปใช้ได้จริง