Системи штучного інтелекту, такі як ChatGPT, досягли вражаючої майстерності у створенні правдоподібних відповідей на практично будь-які запити. Однак ці системи часто не визнають власних обмежень і не виражають невизначеність там, де це доречно — недолік, що створює значні ризики на тлі стрімкого впровадження ШІ у критичних секторах.
Themis AI, заснована у 2021 році дослідниками MIT Даніелою Рус, Олександром Аміні та Елахе Ахмаді, запропонувала вирішення цієї проблеми. Їхня платформа Capsa може інтегруватися з будь-якою моделлю машинного навчання для виявлення та виправлення ненадійних результатів за лічені секунди.
"Ми всі бачили приклади, коли ШІ "галюцинує" або робить помилки", пояснює Аміні, співзасновник Themis AI. "Зі зростанням застосування ШІ ці помилки можуть мати катастрофічні наслідки. Themis дозволяє будь-якому ШІ передбачати та прогнозувати власні збої ще до їх виникнення".
Технологія працює шляхом модифікації моделей ШІ для розпізнавання патернів у їхньому обробленні даних, що вказують на неоднозначність, неповноту чи упередженість. Це дозволяє моделям кількісно оцінювати власну невизначеність для кожного результату та позначати потенційні помилки. Впровадження надзвичайно просте — достатньо кількох рядків коду, щоб перетворити існуючу модель на варіант, що враховує невизначеність.
Capsa вже використовується у різних галузях. Фармацевтичні компанії застосовують її для вдосконалення моделей ШІ, що ідентифікують кандидатів на ліки та прогнозують результати клінічних випробувань. Розробники великих мовних моделей впроваджують Capsa для підвищення надійності відповідей і позначення ненадійних результатів. Themis AI також веде переговори з виробниками напівпровідників щодо підвищення ефективності ШІ-рішень для edge-комп'ютингу.
"Автоматично квантифікуючи алеаторну та епістемічну невизначеність, Capsa стає трансформаційною технологією, яка дозволяє виявляти помилки моделі до того, як вони призведуть до дорогих наслідків", зазначає Рус, яка також очолює Лабораторію комп'ютерних наук та штучного інтелекту MIT. "Це розширює можливості застосування ШІ у сферах, де ключовими є безпека та надійність, зокрема у робототехніці та автономному водінні".
У міру того, як ШІ продовжує розвиватися та проникати у критично важливі сектори, рішення на кшталт Capsa стануть ключовими для створення більш надійних систем, що визнають власні обмеження — це важливий крок до відповідального впровадження ШІ у сферах з високими ставками.