Системи за изкуствен интелект като ChatGPT станаха изключително добри в генерирането на правдоподобни отговори на почти всеки въпрос. Въпреки това, тези системи често не признават своите ограничения или не изразяват несигурност, когато това е необходимо – недостатък, който създава сериозни рискове с нарастващото им приложение в критични сектори.
Themis AI, основана през 2021 г. от изследователите на MIT Даниела Рус, Александър Амини и Елахе Ахмади, предлага решение на този проблем. Тяхната платформа Capsa може да бъде интегрирана към всеки машинно-обучаващ се модел, за да открива и коригира ненадеждни изходи за секунди.
"Всички сме виждали примери на AI, който халюцинира или прави грешки," обяснява Амини, съосновател на Themis AI. "С разширяването на използването на AI, тези грешки могат да доведат до опустошителни последици. Themis прави възможно всеки AI да прогнозира и предвижда собствените си провали, преди да се случат."
Технологията работи чрез модифициране на AI моделите така, че да разпознават модели в обработката на данни, които сигнализират за неяснота, непълнота или пристрастие. Това позволява на моделите да количествено измерват собствената си несигурност за всеки изход и да сигнализират за потенциални грешки. Имплементацията е изключително лесна – необходими са само няколко реда код, за да се трансформира съществуващ модел във вариант, осъзнаващ несигурността си.
Capsa вече намира приложение в множество индустрии. Фармацевтични компании я използват за подобряване на AI модели, които идентифицират лекарствени кандидати и прогнозират представянето на клинични изпитвания. Разработчиците на големи езикови модели я внедряват, за да осигурят по-надеждни отговори на въпроси и да маркират ненадеждни резултати. Themis AI води и преговори с компании от полупроводниковата индустрия за подобряване на AI решенията в edge computing среда.
"Чрез автоматичното количествено измерване на алеаторната и епистемичната несигурност, Capsa е трансформираща технология, която позволява грешките на моделите да бъдат засечени преди да се превърнат в скъпи проблеми," казва Рус, която е и директор на Лабораторията по компютърни науки и изкуствен интелект на MIT. "Това разширява приложенията на AI системите в области, където безопасността и надеждността са ключови, като роботика и автономно шофиране."
С развитието на AI и навлизането му в критични сектори, решения като Capsa ще бъдат от съществено значение за изграждането на по-достоверни системи, които признават своите ограничения – ключова стъпка към отговорното внедряване на изкуствен интелект в среди с висок риск.