ChatGPT gibi yapay zeka sistemleri, neredeyse her türlü soruya makul görünen yanıtlar üretme konusunda son derece yetenekli hale geldi. Ancak bu sistemler, kendi sınırlamalarını kabul etmekte veya uygun olduğunda belirsizlik ifade etmekte sıklıkla başarısız oluyor—ve bu eksiklik, yapay zekanın kritik sektörlerde hızla yaygınlaşmasıyla önemli riskler oluşturuyor.
2021 yılında MIT araştırmacıları Daniela Rus, Alexander Amini ve Elaheh Ahmadi tarafından kurulan Themis AI, bu soruna bir çözüm geliştirdi. Capsa adını verdikleri platform, herhangi bir makine öğrenimi modeliyle entegre edilerek saniyeler içinde güvenilmez çıktıları tespit edip düzeltebiliyor.
"Hepimiz yapay zekanın halüsinasyon gördüğü veya hata yaptığı örnekleri gördük," diyor Themis AI'ın kurucu ortağı Amini. "Yapay zeka daha geniş çapta kullanıldıkça, bu hatalar yıkıcı sonuçlara yol açabilir. Themis sayesinde, herhangi bir yapay zeka, hatalarını gerçekleşmeden önce öngörebilir ve tahmin edebilir."
Teknoloji, yapay zeka modellerini; veri işleme süreçlerinde belirsizlik, eksiklik veya önyargı gösteren kalıpları tanıyacak şekilde değiştiriyor. Bu sayede modeller, her bir çıktı için kendi belirsizliklerini nicelendirebiliyor ve olası hataları işaretleyebiliyor. Uygulaması ise son derece basit—mevcut bir modeli belirsizlik farkındalığına sahip bir varyanta dönüştürmek için sadece birkaç satır kod yeterli.
Capsa, halihazırda birçok sektörde kullanılmaya başlandı. İlaç şirketleri, ilaç adaylarını belirleyen ve klinik deneme performansını tahmin eden yapay zeka modellerini geliştirmek için Capsa'yı kullanıyor. Büyük dil modeli geliştiricileri, daha güvenilir soru-cevap sistemleri oluşturmak ve güvenilmez çıktıları işaretlemek amacıyla platformu entegre ediyor. Themis AI ayrıca, yarı iletken şirketleriyle uç bilişim ortamları için yapay zeka çözümlerini geliştirmek üzere görüşmeler yürütüyor.
"Aleatorik ve epistemik belirsizliği otomatik olarak nicelendiren Capsa, model hatalarının maliyetli sonuçlara dönüşmeden önce yakalanmasını sağlayan dönüştürücü bir teknoloji," diyor MIT Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı'nın da direktörü olan Rus. "Bu teknoloji, güvenlik ve güvenilirliğin anahtar olduğu robotik ve otonom sürüş gibi uygulamalarda yapay zeka sistemlerinin kullanım alanını genişletiyor."
Yapay zeka gelişmeye ve kritik sektörlere nüfuz etmeye devam ederken, Capsa gibi çözümler, kendi sınırlarını kabul eden daha güvenilir sistemler inşa etmede hayati rol oynayacak—bu da yüksek riskli ortamlarda sorumlu yapay zeka kullanımı için kritik bir adım.