Sistem kecerdasan buatan seperti ChatGPT kini sangat mahir menghasilkan respons yang terdengar masuk akal untuk hampir semua pertanyaan. Namun, sistem-sistem ini sering gagal mengakui keterbatasan mereka atau mengekspresikan ketidakpastian saat diperlukan—sebuah kekurangan yang menimbulkan risiko signifikan seiring percepatan adopsi AI di sektor-sektor kritis.
Themis AI, yang didirikan pada 2021 oleh peneliti MIT Daniela Rus, Alexander Amini, dan Elaheh Ahmadi, telah mengembangkan solusi untuk masalah ini. Platform mereka, Capsa, dapat diintegrasikan dengan model pembelajaran mesin apa pun untuk mendeteksi dan memperbaiki output yang tidak dapat diandalkan hanya dalam hitungan detik.
"Kita semua pernah melihat contoh AI yang berhalusinasi atau melakukan kesalahan," jelas Amini, salah satu pendiri Themis AI. "Ketika AI digunakan secara lebih luas, kesalahan-kesalahan tersebut bisa berakibat fatal. Themis memungkinkan AI mana pun untuk memprediksi dan memperkirakan kegagalannya sendiri sebelum terjadi."
Teknologi ini bekerja dengan memodifikasi model AI agar dapat mengenali pola dalam pemrosesan data yang menunjukkan adanya ambiguitas, ketidaklengkapan, atau bias. Hal ini memungkinkan model untuk mengukur ketidakpastian pada setiap output dan menandai potensi kesalahan. Implementasinya sangat sederhana—hanya membutuhkan beberapa baris kode untuk mengubah model yang sudah ada menjadi varian yang sadar akan ketidakpastian.
Capsa sudah diterapkan di berbagai industri. Perusahaan farmasi menggunakannya untuk meningkatkan model AI dalam mengidentifikasi kandidat obat dan memprediksi performa uji klinis. Pengembang model bahasa besar juga mengimplementasikannya untuk memberikan jawaban yang lebih andal dan menandai output yang tidak dapat dipercaya. Themis AI juga sedang berdiskusi dengan perusahaan semikonduktor untuk meningkatkan solusi AI di lingkungan edge computing.
"Dengan secara otomatis mengukur ketidakpastian aleatorik dan epistemik, Capsa adalah teknologi transformatif yang memungkinkan kesalahan model terdeteksi sebelum menjadi kesalahan yang mahal," kata Rus, yang juga menjabat sebagai direktur MIT Computer Science and Artificial Intelligence Laboratory. "Ini memperluas penggunaan sistem AI pada aplikasi di mana keselamatan dan keandalan sangat penting, seperti robotika dan kendaraan otonom."
Seiring AI terus berkembang dan merambah sektor-sektor penting, solusi seperti Capsa akan sangat penting dalam membangun sistem yang lebih dapat dipercaya dan mengakui keterbatasan mereka—langkah krusial menuju penerapan AI yang bertanggung jawab di lingkungan berisiko tinggi.