У часи, коли системи штучного інтелекту дедалі частіше приймають критично важливі рішення в різних галузях, здатність розпізнавати невизначеність стає необхідною. 3 червня 2025 року Themis AI, стартап, що виник на базі MIT, представив проривну технологію, яка навчає моделі ШІ визнавати власні прогалини у знаннях — можливість, що може кардинально змінити надійність ШІ у сферах з високим рівнем відповідальності.
Платформа Capsa від Themis AI працює шляхом точкового оновлення архітектури будь-якої моделі машинного навчання для забезпечення кількісної оцінки невизначеності. «Ідея полягає в тому, щоб взяти модель, обгорнути її у Capsa, ідентифікувати невизначеності та режими відмови моделі, а потім підсилити її», — пояснює співзасновниця Themis AI та професорка MIT Даніела Рус, яка також очолює Лабораторію комп’ютерних наук і штучного інтелекту MIT (CSAIL).
Themis AI була заснована у 2021 році Рус разом з Олександром Аміні (MIT '17, SM '18, PhD '22) та Елахе Ахмаді (MIT '20, MEng '21) і спирається на понад п’ятирічні фундаментальні дослідження. Місія компанії полягає у вирішенні базової проблеми: системи ШІ, зокрема великі мовні моделі, часто дають правдоподібні відповіді, не вказуючи на прогалини у своїх знаннях чи зони невизначеності.
Наслідки для сфер із високим рівнем ризику є значними. У сфері автономного транспорту дослідження показали, що інтеграція алгоритмів оцінки невизначеності від Themis AI призвела до 16-кратного зменшення кількості зіткнень та 93% скорочення автоматичних запитів на втручання людини. Для медицини та фармацевтики Capsa допомагає визначати, коли прогнози ШІ підкріплені доказами, а коли — лише припущеннями, що потенційно прискорює відкриття ліків і зменшує ризики.
«Ми прагнемо зробити ШІ доступним для найвідповідальніших застосувань у кожній галузі», — говорить Аміні. «Ми всі бачили приклади, коли ШІ “галюцинує” або помиляється. Зі зростанням масштабів впровадження ШІ такі помилки можуть мати катастрофічні наслідки. Themis дозволяє будь-якій моделі ШІ передбачати власні збої ще до їх виникнення».
Технологія вже впроваджується у різних галузях. Багато компаній, що розробляють великі мовні моделі, використовують Capsa для оцінки невизначеності кожного результату, що забезпечує надійніші відповіді на запитання та маркування ненадійних результатів. Themis AI також співпрацює з виробниками напівпровідників для вдосконалення менших моделей ШІ, які працюють на телефонах чи вбудованих системах, досягаючи низької затримки та високої якості.