V strategickom kroku po významných legislatívnych udalostiach predstavila spoločnosť Anthropic komplexný rámec transparentnosti pre pokročilé AI systémy, ktorý by mohol zásadne ovplyvniť štandardy bezpečnosti a zodpovednosti v odvetví.
Dňa 7. júla 2025, len niekoľko dní po tom, čo americký Senát v pomere hlasov 99:1 zrušil kontroverzné desaťročné moratórium na štátne regulácie AI z domáceho politického návrhu prezidenta Trumpa, Anthropic uviedol tzv. „cielený rámec transparentnosti“, ktorý má za cieľ vyvážiť inovácie so zodpovedným vývojom.
Rámec sa zámerne zameriava len na najväčších vývojárov AI, pričom menšie firmy a startupy chráni pred potenciálne zaťažujúcimi požiadavkami. Anthropic navrhuje konkrétne prahové hodnoty – napríklad ročný obrat nad 100 miliónov dolárov alebo výdavky na výskum a vývoj presahujúce 1 miliardu dolárov – ktoré určia, na ktoré spoločnosti sa budú vzťahovať povinnosti zverejňovania podľa tohto rámca.
„Kým odvetvie, vlády, akademická obec a ďalší pracujú na vytvorení dohodnutých bezpečnostných štandardov a komplexných hodnotiacich metód – čo môže trvať mesiace až roky – potrebujeme dočasné kroky, ktoré zabezpečia, že veľmi výkonná AI bude vyvíjaná bezpečne, zodpovedne a transparentne,“ uviedla spoločnosť Anthropic vo svojom oznámení.
Jadrom rámca je požiadavka, aby kvalifikované spoločnosti vytvorili a verejne zverejnili „Rámec bezpečného vývoja“, v ktorom podrobne opíšu, ako hodnotia a zmierňujú závažné riziká, vrátane tých súvisiacich so zneužitím chemických, biologických, rádiologických a jadrových technológií, ako aj potenciálnych škôd spôsobených nesprávne nastavenou autonómiou modelov. Spoločnosti budú tiež povinné publikovať systémové karty so zhrnutím testovacích postupov a zaviesť ochranu oznamovateľov.
Návrh si získal pochvalu od skupín presadzujúcich zodpovedný rozvoj AI. Výkonný riaditeľ organizácie Americans for Responsible Innovation Eric Gastfriend uviedol: „Rámec spoločnosti Anthropic posúva vpred niektoré základné požiadavky na transparentnosť, ktoré potrebujeme, ako napríklad zverejňovanie plánov na zmiernenie rizík a zodpovednosť vývojárov za tieto plány.“ Ľahká a flexibilná povaha rámca reflektuje rýchlo sa vyvíjajúcu povahu AI technológií a zároveň stanovuje základné očakávania pre zodpovedný vývoj.