Zdravotnictví a finanční služby čeká zásadní proměna po oznámení nových regulačních rámců pro aplikace umělé inteligence v těchto odvětvích dne 25. července.
Regulace, které vznikly ve spolupráci federálních úřadů a zástupců průmyslu, stanovují jasná pravidla pro AI systémy, jež činí nebo ovlivňují rozhodnutí týkající se péče o pacienty, pojistného krytí, finančních služeb a správy investic. Tato opatření reagují na narůstající obavy ohledně bezpečnosti AI, algoritmické zaujatosti a možného dopadu na pracovní místa a soukromí.
Ve zdravotnictví nové předpisy vyžadují, aby poskytovatelé a pojišťovny zavedli důkladné mechanismy dohledu nad AI systémy pro diagnostiku a doporučování léčby. Zdravotnické organizace musí zajistit, že AI nástroje nebudou mít diskriminační dopad na pacienty, zejména v oblasti diagnóz, rozhodování o léčbě a přidělování zdrojů. Regulace rovněž ukládají povinnost lidského klinického přezkumu rozhodnutí AI v oblasti řízení využití péče, což má zabránit tomu, aby automatizované systémy neoprávněně odmítaly nezbytnou péči.
Pro finanční sektor rámec stanovuje standardy pro AI systémy využívané při rozhodování o úvěrech, detekci podvodů a správě investic. Finanční instituce musí prokázat, že jejich AI modely jsou vysvětlitelné, transparentní a prosté diskriminační zaujatosti. Regulace se rovněž zabývají ochranou dat a stanovují požadavky na řízení rizik při využívání AI pro správu portfolia, obchodování a aplikace zaměřené na klienty.
Regulační přístup odráží důraz současné administrativy na podporu amerického vedení v oblasti AI při současném zavádění cílených záruk v klíčových sektorech. Prezident Trump, který nedávno podepsal exekutivní příkazy na urychlení rozvoje AI, zdůraznil potřebu „nechat to dítě růst a vzkvétat“, přičemž je třeba zajistit odpovídající ochranu v citlivých oblastech.
Reakce průmyslu jsou smíšené – některé organizace vítají jasnost, kterou nové rámce přinášejí, jiné vyjadřují obavy z možných nároků na dodržování předpisů. Lídři ve zdravotnictví a finančních službách nyní čelí výzvě implementovat tyto požadavky a zároveň dále využívat přínosy AI pro efektivitu provozu a lepší výsledky.