Odvetvia zdravotníctva a finančných služieb čaká výrazná transformácia po oznámení nových regulačných rámcov pre aplikácie umelej inteligencie, ktoré v týchto oblastiach pôsobia, zo dňa 25. júla.
Nariadenia, ktoré vznikli v spolupráci federálnych agentúr a zástupcov priemyslu, stanovujú jasné smernice pre AI systémy, ktoré rozhodujú alebo ovplyvňujú rozhodnutia týkajúce sa starostlivosti o pacientov, poistného krytia, finančných služieb či správy investícií. Tieto opatrenia reagujú na narastajúce obavy týkajúce sa bezpečnosti AI, algoritmickej zaujatosti a možných dopadov na pracovné miesta a súkromie.
V zdravotníctve nové pravidlá vyžadujú, aby poskytovatelia a poisťovne zaviedli dôkladné mechanizmy dohľadu nad AI systémami určenými na diagnostiku a odporúčanie liečby. Zdravotnícke organizácie musia zabezpečiť, že AI nástroje nebudú viesť k diskriminačným dôsledkom pre pacientov, najmä v oblasti diagnostiky, rozhodovania o liečbe a prideľovania zdrojov. Nariadenia tiež prikazujú, aby rozhodnutia AI o využívaní zdravotnej starostlivosti podliehali klinickému prehodnoteniu človekom, čím sa riešia obavy, že automatizované systémy by mohli neoprávnene odmietnuť potrebnú starostlivosť.
Pre finančný sektor rámec stanovuje štandardy pre AI systémy zapojené do rozhodovania o úveroch, odhaľovania podvodov a správy investícií. Finančné inštitúcie musia preukázať, že ich AI modely sú vysvetliteľné, transparentné a bez diskriminačnej zaujatosti. Nariadenia sa tiež zaoberajú ochranou údajov a stanovujú požiadavky na riadenie rizík pri využívaní AI na správu portfólií, obchodovanie a aplikácie orientované na zákazníka.
Regulačný prístup odráža dôraz súčasnej administratívy na podporu amerického líderstva v oblasti AI pri súčasnom zavádzaní cielených ochranných opatrení v kľúčových sektoroch. Prezident Trump, ktorý nedávno podpísal výkonné nariadenia na urýchlenie rozvoja AI, zdôraznil potrebu „nechať toto dieťa rásť a prosperovať“, pričom je potrebné zabezpečiť primerané ochrany v citlivých oblastiach.
Reakcie odvetví sú zmiešané – niektoré organizácie vítajú jasnosť, ktorú nové rámce prinášajú, iné vyjadrujú obavy z možnej záťaže vyplývajúcej z požiadaviek na súlad. Líderov zdravotníctva a finančných služieb teraz čaká výzva implementovať tieto požiadavky a zároveň naďalej využívať prínosy AI pre efektivitu prevádzky a zlepšenie výsledkov.