В эпоху, когда системы искусственного интеллекта все чаще принимают важные решения в различных отраслях, способность распознавать собственную неопределенность становится крайне важной. 3 июня 2025 года Themis AI, спин-офф Массачусетского технологического института (MIT), представил революционную технологию, которая учит модели ИИ признавать, чего они не знают — навык, способный кардинально повысить надежность ИИ в критически важных приложениях.
Платформа Capsa от Themis AI работает путем точечного обновления архитектуры любой модели машинного обучения, чтобы обеспечить количественную оценку неопределенности. «Идея в том, чтобы взять модель, обернуть ее в Capsa, выявить неопределенности и потенциальные сбои модели, а затем усовершенствовать ее», — объясняет сооснователь Themis AI и профессор MIT Даниэла Рус, также возглавляющая Лабораторию компьютерных наук и искусственного интеллекта MIT (CSAIL).
Компания Themis AI была основана в 2021 году Рус совместно с Александром Амини (MIT '17, SM '18, PhD '22) и Элахе Ахмади (MIT '20, MEng '21) и базируется на более чем пятилетних фундаментальных исследованиях. Миссия компании направлена на решение ключевой проблемы: ИИ-системы, такие как большие языковые модели, часто выдают правдоподобные ответы, не раскрывая пробелов в знаниях или областей неопределенности.
Важность этого подхода особенно велика для высокорисковых сфер. В автономных транспортных средствах исследования показали, что интеграция алгоритмов оценки неопределенности Themis AI позволила снизить количество столкновений в 16 раз и сократить на 93% число автоматических запросов к человеку-оператору. В здравоохранении и фармацевтике Capsa помогает отличать, когда прогнозы ИИ подкреплены доказательствами, а когда это лишь предположения, что может ускорить разработку лекарств и снизить риски.
«Мы хотим сделать ИИ доступным для самых ответственных задач в любой отрасли», — говорит Амини. — «Все мы видели примеры, когда ИИ "галлюцинирует" или ошибается. По мере расширения применения ИИ такие ошибки могут привести к катастрофическим последствиям. Themis позволяет любой системе ИИ прогнозировать и предсказывать собственные сбои до того, как они произойдут».
Технология уже внедряется в различных отраслях. Многие компании, разрабатывающие большие языковые модели, используют Capsa для количественной оценки неопределенности каждого ответа, что позволяет повысить надежность и отмечать сомнительные результаты. Themis AI также сотрудничает с производителями полупроводников для совершенствования компактных ИИ-моделей, работающих на смартфонах и встроенных системах, обеспечивая одновременно низкую задержку и высокое качество.