Tim MIT mengajarkan model AI hal-hal yang sebelumnya belum diketahuinya.
Penerapan kecerdasan buatan (AI) berkembang pesat dan semakin terintegrasi dalam kehidupan sehari-hari serta industri berisiko tinggi seperti layanan kesehatan, telekomunikasi, dan energi. Namun, dengan kekuatan besar datang pula tanggung jawab besar: sistem AI terkadang melakukan kesalahan atau memberikan jawaban yang tidak pasti, yang dapat menimbulkan konsekuensi serius.
Mengapa hal ini begitu penting?
Banyak model AI, bahkan yang canggih sekalipun, terkadang dapat mengalami apa yang disebut “halusinasi”—yakni memberikan jawaban yang keliru atau tidak berdasar. Di sektor-sektor yang keputusannya sangat krusial, seperti diagnosis medis atau kendaraan otonom, hal ini dapat menimbulkan konsekuensi yang sangat buruk. Themis AI mengembangkan Capsa, sebuah platform yang menerapkan kuantifikasi ketidakpastian: platform ini mengukur dan mengkuantifikasi ketidakpastian keluaran AI secara terperinci dan andal.
Bagaimana cara kerjanya?
Dengan membekali model dengan kesadaran terhadap ketidakpastian, model tersebut dapat melengkapi keluarannya dengan label risiko atau keandalan. Contohnya, mobil tanpa pengemudi dapat menunjukkan bahwa mobil tersebut tidak yakin terhadap suatu situasi, lalu mengaktifkan intervensi manusia. Hal ini tidak hanya meningkatkan keselamatan, tetapi juga kepercayaan pengguna terhadap sistem AI.
- Dalam integrasi dengan PyTorch, pembungkusan model dilakukan melalui
capsa_torch.wrapper()dengan keluaran yang terdiri atas prediksi dan risikonya:
Bagi Fortis AI dan para pelanggannya, teknologi ini merupakan langkah maju yang sangat besar. Kami dapat menyediakan aplikasi AI yang tidak hanya cerdas, tetapi juga aman dan lebih mudah diprediksi, dengan kemungkinan halusinasi yang lebih kecil. Teknologi ini membantu organisasi membuat keputusan yang lebih kuat berdasarkan bukti serta mengurangi risiko saat menerapkan AI dalam aplikasi yang sangat penting bagi operasional bisnis.
Kesimpulan
MIT tim menunjukkan bahwa masa depan AI bukan hanya tentang menjadi lebih cerdas, tetapi terutama juga tentang berfungsi dengan lebih aman dan adil. Di Fortis AI, kami percaya bahwa AI baru benar-benar bernilai jika mampu bersikap transparan mengenai keterbatasannya sendiri. Dengan alat kuantifikasi ketidakpastian canggih seperti Capsa, Anda juga dapat menerapkan visi tersebut dalam praktik.
