Dalam era di mana sistem AI semakin banyak membuat keputusan kritikal merentas industri, keupayaan untuk mengenal pasti ketidakpastian menjadi semakin penting. Pada 3 Jun 2025, Themis AI, sebuah syarikat spin-off MIT, memperkenalkan teknologi terobosan yang mengajar model AI untuk mengakui apa yang mereka tidak tahu—satu keupayaan yang boleh mengubah kebolehpercayaan AI dalam aplikasi berimpak tinggi.
Platform Capsa dari Themis AI berfungsi dengan mengemas kini seni bina mana-mana model pembelajaran mesin secara tepat untuk membolehkan pengkuantitian ketidakpastian. "Ideanya ialah mengambil satu model, membungkusnya dengan Capsa, mengenal pasti ketidakpastian dan mod kegagalan model tersebut, kemudian mempertingkatkan model itu," jelas pengasas bersama Themis AI dan Profesor MIT, Daniela Rus, yang juga mengetuai Makmal Sains Komputer dan Kecerdasan Buatan (CSAIL) MIT.
Ditubuhkan pada 2021 oleh Rus bersama Alexander Amini (MIT '17, SM '18, PhD '22) dan Elaheh Ahmadi (MIT '20, MEng '21), Themis AI dibina berasaskan lebih lima tahun penyelidikan asas. Misi syarikat ini menangani masalah asas: sistem AI seperti model bahasa besar sering memberikan jawapan yang kelihatan meyakinkan tanpa mendedahkan jurang pengetahuan atau kawasan ketidakpastian mereka.
Implikasi untuk bidang berisiko tinggi adalah sangat besar. Dalam kenderaan autonomi, kajian menunjukkan bahawa integrasi algoritma anggaran ketidakpastian Themis AI membawa kepada 16 kali kurang perlanggaran dan pengurangan 93% dalam permintaan automatik untuk campur tangan manusia. Untuk aplikasi kesihatan dan farmaseutikal, Capsa membantu mengenal pasti bila ramalan AI disokong oleh bukti berbanding sekadar spekulasi, berpotensi mempercepatkan penemuan ubat sambil mengurangkan risiko.
"Kami mahu membolehkan AI digunakan dalam aplikasi paling kritikal di setiap industri," kata Amini. "Kita semua pernah melihat contoh AI berhalusinasi atau melakukan kesilapan. Apabila AI digunakan secara lebih meluas, kesilapan tersebut boleh membawa akibat yang dahsyat. Themis memungkinkan mana-mana AI meramalkan dan menjangka kegagalan sendiri, sebelum ia berlaku."
Teknologi ini telah mula dilaksanakan merentas pelbagai industri. Banyak syarikat yang membina model bahasa besar kini menggunakan Capsa untuk membolehkan model mereka mengkuantifikasi ketidakpastian bagi setiap output, sekaligus membolehkan soal jawab yang lebih boleh dipercayai dan menanda output yang tidak boleh dipercayai. Themis AI juga bekerjasama dengan syarikat semikonduktor untuk mempertingkatkan model AI bersaiz kecil yang dijalankan pada telefon atau sistem terbenam, mencapai kedua-dua kependaman rendah dan kualiti tinggi.