Tim MIT mengajarkan model AI hal-hal yang belum mereka ketahui.
Penerapan kecerdasan buatan (AI) berkembang pesat dan semakin terjalin dengan kehidupan kita sehari-hari serta industri berisiko tinggi seperti layanan kesehatan, telekomunikasi, dan energi. Namun, dengan kekuatan besar datang tanggung jawab besar: sistem AI terkadang membuat kesalahan atau memberikan jawaban yang tidak pasti yang dapat memiliki konsekuensi besar.
Themis AI dari MIT, yang didirikan bersama dan dipimpin oleh profesor Daniela Rus dari lab CSAIL, menawarkan solusi terobosan. Teknologi mereka memungkinkan model AI untuk ‘mengetahui apa yang tidak mereka ketahui’. Ini berarti sistem AI dapat menunjukkan sendiri ketika mereka tidak yakin tentang prediksi mereka, sehingga kesalahan dapat dicegah sebelum menimbulkan kerugian.
Mengapa ini sangat penting?
Banyak model AI, bahkan yang canggih, terkadang dapat menunjukkan apa yang disebut ‘halusinasi’—mereka memberikan jawaban yang salah atau tidak berdasar. Di sektor-sektor di mana keputusan sangat penting, seperti diagnosis medis atau mengemudi otonom, hal ini dapat berakibat bencana. Themis AI mengembangkan Capsa, sebuah platform yang menerapkan kuantifikasi ketidakpastian: ia mengukur dan menguantifikasi ketidakpastian keluaran AI secara rinci dan andal.
Bagaimana cara kerjanya?
Dengan menanamkan kesadaran ketidakpastian pada model, mereka dapat memberikan label risiko atau keandalan pada keluarannya. Misalnya, mobil swakemudi dapat menunjukkan bahwa ia tidak yakin tentang suatu situasi dan oleh karena itu mengaktifkan intervensi manusia. Hal ini tidak hanya meningkatkan keselamatan, tetapi juga kepercayaan pengguna terhadap sistem AI.
- Saat mengintegrasikan dengan PyTorch, pembungkusan model melalui
capsa_torch.wrapper()di mana output terdiri dari prediksi dan risiko:
Bagi Fortis AI dan kliennya, teknologi ini merupakan langkah maju yang besar. Kami dapat menyediakan aplikasi AI yang tidak hanya cerdas, tetapi juga aman dan lebih mudah diprediksi dengan kemungkinan halusinasi yang lebih kecil. Ini membantu organisasi dalam membuat keputusan yang lebih tepat dan mengurangi risiko saat menerapkan AI dalam aplikasi penting bisnis.
Kesimpulan
MIT tim menunjukkan bahwa masa depan AI tidak hanya tentang menjadi lebih pintar, tetapi terutama tentang berfungsi lebih aman dan lebih adil. Di Fortis AI, kami percaya bahwa AI baru benar-benar berharga jika transparan mengenai keterbatasannya sendiri. Dengan alat kuantifikasi ketidakpastian canggih seperti Capsa, Anda juga dapat mewujudkan visi tersebut dalam praktik.
