Yapay zekâ sistemlerinin giderek daha fazla kritik kararlar aldığı bir çağda, belirsizliği tanıma yeteneği hayati önem kazanıyor. 3 Haziran 2025'te, MIT çıkışlı Themis AI, yapay zekâ modellerine bilmediklerini kabul etmeyi öğreten çığır açıcı bir teknoloji tanıttı. Bu yetenek, yüksek riskli uygulamalarda yapay zekâ güvenilirliğini kökten değiştirebilir.
Themis AI'nın Capsa platformu, herhangi bir makine öğrenimi modelinin mimarisini cerrahi bir hassasiyetle güncelleyerek belirsizlik ölçümünü mümkün kılıyor. Themis AI kurucu ortağı ve MIT Bilgisayar Bilimi ve Yapay Zekâ Laboratuvarı (CSAIL) direktörü Prof. Daniela Rus, "Fikir şu: Bir modeli alıp Capsa ile sarmak, modelin belirsizliklerini ve hata eğilimlerini tespit etmek, ardından modeli geliştirmek," diye açıklıyor.
2021'de Rus'un yanı sıra Alexander Amini (MIT '17, SM '18, Doktora '22) ve Elaheh Ahmadi (MIT '20, Mühendislik Yüksek Lisansı '21) tarafından kurulan Themis AI, beş yılı aşkın temel araştırmanın üzerine inşa edildi. Şirketin misyonu, temel bir soruna çözüm getirmek: Büyük dil modelleri gibi yapay zekâ sistemleri, çoğu zaman bilgi eksikliklerini veya belirsizlik alanlarını açığa vurmadan, kulağa makul gelen yanıtlar verebiliyor.
Yüksek riskli alanlar için sonuçlar oldukça önemli. Otonom araçlarda yapılan araştırmalar, Themis AI'nın belirsizlik tahmini algoritmalarının entegre edilmesiyle çarpışmaların 16 kat azaldığını ve insan müdahalesi gerektiren otomatik taleplerde %93 oranında düşüş sağlandığını gösteriyor. Sağlık ve ilaç geliştirme uygulamalarında ise Capsa, yapay zekâ tahminlerinin kanıta mı yoksa sadece spekülasyona mı dayandığını ayırt etmeye yardımcı olarak, ilaç keşfini hızlandırırken riskleri azaltabiliyor.
Amini, "Her sektörde en yüksek riskli uygulamalarda yapay zekâyı mümkün kılmak istiyoruz. Hepimiz yapay zekânın halüsinasyon gördüğü veya hata yaptığı örnekleri gördük. Yapay zekâ daha yaygın şekilde kullanıldıkça, bu hatalar yıkıcı sonuçlara yol açabilir. Themis sayesinde, herhangi bir yapay zekâ kendi başarısızlıklarını öngörebilir ve tahmin edebilir," diyor.
Teknoloji şimdiden farklı sektörlerde uygulanmaya başlandı. Büyük dil modeli geliştiren birçok şirket, modellerinin her çıktı için belirsizliği ölçmesini sağlamak ve güvenilmez sonuçları işaretlemek için Capsa'yı kullanıyor. Themis AI ayrıca, telefonlarda veya gömülü sistemlerde çalışan daha küçük yapay zekâ modellerinin hem düşük gecikmeyle hem de yüksek kaliteyle çalışmasını sağlamak için yarı iletken şirketleriyle de iş birliği yapıyor.