Zdravstveni i financijski sektor suočavaju se sa značajnim transformacijama nakon najave novih regulatornih okvira za primjenu umjetne inteligencije u tim područjima, objavljene 25. srpnja.
Regulativa, razvijena kroz suradnju saveznih agencija i industrijskih dionika, postavlja jasne smjernice za AI sustave koji donose ili utječu na odluke o skrbi za pacijente, pokriću osiguranja, financijskim uslugama i upravljanju investicijama. Ove mjere odgovaraju na sve veće zabrinutosti vezane uz sigurnost AI-ja, algoritamsku pristranost te moguće utjecaje na radna mjesta i privatnost.
U zdravstvu, nova pravila zahtijevaju od pružatelja usluga i osiguravatelja da uvedu snažne mehanizme nadzora nad AI sustavima za dijagnostiku i preporuke liječenja. Zdravstvene organizacije moraju osigurati da AI alati ne dovode do diskriminatornih posljedica za pacijente, posebno u dijagnostici, odlukama o liječenju i raspodjeli resursa. Regulativa također nalaže klinički ljudski nadzor nad AI odlukama vezanim uz upravljanje korištenjem zdravstvenih usluga, čime se adresira zabrinutost da bi automatizirani sustavi mogli neprimjereno uskratiti potrebnu skrb.
Za financijski sektor, okvir postavlja standarde za AI sustave koji sudjeluju u odlukama o kreditiranju, otkrivanju prijevara i upravljanju investicijama. Financijske institucije moraju dokazati da su njihovi AI modeli objašnjivi, transparentni i bez diskriminatorne pristranosti. Regulativa također rješava pitanja privatnosti podataka te postavlja zahtjeve za upravljanje rizicima kada se AI koristi za upravljanje portfeljem, trgovanje i aplikacije usmjerene prema klijentima.
Regulatorni pristup odražava naglasak aktualne administracije na promicanje američkog vodstva u području AI-ja, uz istovremeno uvođenje ciljane zaštite u ključnim sektorima. Predsjednik Trump, koji je nedavno potpisao izvršne naredbe za ubrzanje razvoja AI-ja, naglasio je potrebu da se 'to dijete razvija i napreduje', uz osiguravanje odgovarajuće zaštite u osjetljivim područjima.
Reakcije industrije su podijeljene; neke organizacije pozdravljaju jasnoću koju donose novi okviri, dok druge izražavaju zabrinutost zbog mogućih opterećenja usklađivanja. Lideri zdravstvenog i financijskog sektora sada se suočavaju s izazovom implementacije ovih zahtjeva, uz nastavak korištenja prednosti AI-ja za operativnu učinkovitost i poboljšane rezultate.