В епоха, в която AI системите все по-често вземат ключови решения в различни индустрии, способността да разпознават несигурността си става от съществено значение. На 3 юни 2025 г. Themis AI, спин-оф компания на MIT, представи революционна технология, която учи AI моделите да признават това, което не знаят — способност, която може да преобрази надеждността на изкуствения интелект в критични приложения.
Платформата Capsa на Themis AI работи чрез прецизно обновяване на архитектурата на всеки машинно-обучаващ се модел, за да позволи количествено измерване на несигурността. „Идеята е да вземем даден модел, да го обгърнем с Capsa, да идентифицираме несигурностите и потенциалните проблеми на модела и след това да го подобрим“, обяснява съоснователката на Themis AI и професор в MIT Даниела Рус, която ръководи и Лабораторията по компютърни науки и изкуствен интелект (CSAIL) към MIT.
Основана през 2021 г. от Рус заедно с Александър Амини (MIT '17, SM '18, PhD '22) и Елахе Ахмади (MIT '20, MEng '21), Themis AI стъпва върху над пет години фундаментални изследвания. Мисията на компанията е насочена към основен проблем: AI системи като големите езикови модели често дават убедителни отговори, без да разкриват пропуски в знанията си или области на несигурност.
Последиците за високорисковите сфери са значителни. При автономните превозни средства изследванията показват, че интегрирането на алгоритмите за оценка на несигурността на Themis AI води до 16 пъти по-малко сблъсъци и 93% намаление на автоматизираните заявки за човешка намеса. В здравеопазването и фармацевтичните приложения Capsa помага да се разграничи кога AI прогнозите са подкрепени с доказателства и кога са просто спекулации, което потенциално ускорява откриването на лекарства и намалява рисковете.
„Искаме да дадем възможност на AI да се използва в най-рисковите приложения на всяка индустрия“, казва Амини. „Всички сме виждали примери на AI, който халюцинира или греши. С разширяването на употребата на изкуствен интелект тези грешки могат да доведат до опустошителни последици. Themis прави възможно всеки AI да прогнозира и предвижда собствените си провали, преди да се случат.“
Технологията вече се внедрява в различни индустрии. Много компании, които разработват големи езикови модели, използват Capsa, за да дадат възможност на моделите си да измерват несигурността при всеки резултат, което позволява по-надеждно отговаряне на въпроси и маркиране на ненадеждни отговори. Themis AI работи и със компании от полупроводниковата индустрия за подобряване на по-малки AI модели, които работят на телефони или вградени системи, постигайки едновременно ниска латентност и високо качество.