Systémy umelej inteligencie ako ChatGPT sa stali mimoriadne zručnými v generovaní presvedčivo znejúcich odpovedí na takmer akúkoľvek otázku. Tieto systémy však často nedokážu priznať svoje obmedzenia alebo vyjadriť neistotu, keď je to na mieste – čo predstavuje významné riziko, keďže adopcia AI zrýchľuje v kritických sektoroch.
Themis AI, založená v roku 2021 výskumníkmi z MIT Danielou Rus, Alexandrom Aminim a Elaheh Ahmadi, priniesla riešenie tohto problému. Ich platforma Capsa sa dá integrovať do akéhokoľvek modelu strojového učenia a dokáže v priebehu niekoľkých sekúnd odhaliť a opraviť nespoľahlivé výstupy.
„Všetci sme už videli príklady, keď AI halucinuje alebo robí chyby,“ vysvetľuje Amini, spoluzakladateľ Themis AI. „Ako sa AI nasadzuje čoraz širšie, tieto chyby môžu viesť k devastačným následkom. Themis umožňuje, aby každá AI vedela predpovedať a identifikovať svoje vlastné zlyhania ešte predtým, než k nim dôjde.“
Technológia funguje tak, že modifikuje AI modely, aby rozpoznali vzory vo svojom spracovaní dát, ktoré naznačujú nejednoznačnosť, neúplnosť alebo zaujatosť. Modely tak dokážu kvantifikovať svoju vlastnú neistotu pri každom výstupe a označiť potenciálne chyby. Implementácia je mimoriadne jednoduchá – stačí niekoľko riadkov kódu na transformáciu existujúceho modelu na variant, ktorý si je vedomý svojej neistoty.
Capsa už nachádza uplatnenie v rôznych odvetviach. Farmaceutické spoločnosti ju využívajú na zlepšenie AI modelov, ktoré identifikujú kandidátov na lieky a predpovedajú úspešnosť klinických štúdií. Vývojári veľkých jazykových modelov ju implementujú na spoľahlivejšie odpovedanie na otázky a označovanie nespoľahlivých výstupov. Themis AI tiež rokuje s polovodičovými spoločnosťami o posilnení AI riešení pre edge computing prostredia.
„Automatickým kvantifikovaním aleatorickej a epistemickej neistoty je Capsa transformačnou technológiou, ktorá umožňuje zachytiť chyby modelu ešte predtým, než sa stanú nákladnými omylmi,“ hovorí Rus, ktorá je zároveň riaditeľkou MIT Computer Science and Artificial Intelligence Laboratory. „Rozširuje možnosti využitia AI systémov v aplikáciách, kde sú kľúčové bezpečnosť a spoľahlivosť, ako je robotika či autonómne riadenie.“
Ako sa AI ďalej vyvíja a preniká do kritických sektorov, riešenia ako Capsa budú kľúčové pre budovanie dôveryhodnejších systémov, ktoré si uvedomujú svoje limity – čo je zásadný krok k zodpovednému nasadzovaniu AI v prostrediach s vysokými nárokmi.