Tim MIT mengajarkan model AI hal-hal yang belum mereka ketahui.
Penerapan kecerdasan buatan (AI) berkembang pesat dan semakin terintegrasi dengan kehidupan sehari-hari kita serta industri berisiko tinggi seperti kesehatan, telekomunikasi, dan energi. Namun dengan kekuatan besar juga datang tanggung jawab besar: sistem AI terkadang membuat kesalahan atau memberikan jawaban yang tidak pasti yang dapat berdampak besar.
Themis AI dari MIT, yang ikut didirikan dan dipimpin oleh profesor Daniela Rus dari laboratorium CSAIL, menawarkan solusi terobosan. Teknologi mereka memungkinkan model AI untuk ‘mengetahui apa yang tidak mereka ketahui’. Ini berarti sistem AI dapat menunjukkan sendiri ketika mereka tidak yakin terhadap prediksinya, sehingga kesalahan dapat dicegah sebelum menyebabkan kerugian.
Mengapa ini begitu penting?
Banyak model AI, bahkan yang canggih, terkadang menunjukkan apa yang disebut 'halusinasi' — mereka memberi jawaban yang keliru atau tidak berdasar. Di sektor di mana keputusan memiliki konsekuensi besar, seperti diagnosis medis atau mengemudi otonom, hal ini bisa berakibat fatal. Themis AI mengembangkan Capsa, sebuah platform yang menerapkan kuantifikasi ketidakpastian: platform ini mengukur dan mengkuantifikasi ketidakpastian keluaran AI secara rinci dan andal.
Bagaimana cara kerjanya?
Dengan mengajarkan model kesadaran ketidakpastian (uncertainty awareness), mereka dapat memberikan output dengan label risiko atau keandalan. Misalnya: mobil otonom dapat menunjukkan bahwa ia tidak yakin terhadap suatu situasi dan dengan demikian mengaktifkan intervensi manusia. Ini tidak hanya meningkatkan keselamatan, tetapi juga kepercayaan pengguna terhadap sistem AI.
- Saat integrasi dengan PyTorch, pembungkusan model dilakukan melalui
capsa_torch.wrapper()di mana keluaran terdiri dari prediksi serta risiko:
Bagi Fortis AI dan pelanggannya, teknologi ini merupakan langkah besar ke depan. Kami dapat menyediakan aplikasi AI yang tidak hanya cerdas, tetapi juga lebih aman dan lebih dapat diprediksi dengan peluang halusinasi yang lebih rendah. Ini membantu organisasi membuat keputusan yang lebih berdasar dan mengurangi risiko saat mengimplementasikan AI dalam aplikasi yang kritis bagi bisnis.
Kesimpulan
MIT tim menunjukkan bahwa masa depan AI bukan hanya tentang menjadi lebih cerdas, tetapi terutama tentang berfungsi dengan lebih aman dan adil. Di Fortis AI kami percaya bahwa AI baru benar-benar bernilai ketika transparan mengenai keterbatasannya sendiri. Dengan alat quantification ketidakpastian canggih seperti Capsa, Anda dapat mewujudkan visi itu dalam praktik.
