Sundheds- og finanssektoren står over for markante forandringer efter offentliggørelsen den 25. juli af nye regulatoriske rammer for anvendelsen af kunstig intelligens i disse brancher.
Reglerne, som er udviklet i samarbejde mellem føderale myndigheder og brancheaktører, fastlægger klare retningslinjer for AI-systemer, der træffer eller påvirker beslutninger om patientbehandling, forsikringsdækning, finansielle ydelser og investeringsstyring. Tiltagene er et svar på voksende bekymringer om AI-sikkerhed, algoritmisk bias og potentielle konsekvenser for job og privatliv.
Inden for sundhedsområdet kræver de nye regler, at udbydere og forsikringsselskaber indfører solide kontrolmekanismer for AI-drevne diagnose- og behandlingsanbefalingssystemer. Sundhedsorganisationer skal sikre, at AI-værktøjer ikke fører til diskriminerende konsekvenser for patienter, især i forhold til diagnosticering, behandlingsvalg og ressourcefordeling. Reglerne påbyder desuden, at AI-baserede beslutninger om ressourceanvendelse gennemgås af sundhedsfagligt personale, for at imødegå bekymringer om, at automatiserede systemer uberettiget kan nægte nødvendig behandling.
For finanssektoren opstiller rammerne standarder for AI-systemer, der anvendes til kreditvurdering, svindelopsporing og investeringsstyring. Finansielle institutioner skal kunne dokumentere, at deres AI-modeller er forklarlige, gennemsigtige og fri for diskriminerende bias. Reglerne adresserer også databeskyttelse og opstiller krav til risikostyring, når AI anvendes til porteføljestyring, handel og kundeorienterede løsninger.
Den regulatoriske tilgang afspejler den nuværende administrations fokus på at fremme amerikansk AI-lederskab, samtidig med at der indføres målrettede værn i kritiske sektorer. Præsident Trump, der for nylig har underskrevet bekendtgørelser for at accelerere AI-udviklingen, har understreget behovet for at "lade barnet vokse og trives", samtidig med at der sikres passende beskyttelse i følsomme områder.
Reaktionerne fra branchen har været blandede. Nogle organisationer byder den øgede klarhed velkommen, mens andre udtrykker bekymring for potentielle byrder ved overholdelse. Ledere i sundheds- og finanssektoren står nu over for udfordringen med at implementere de nye krav, samtidig med at de fortsat udnytter AI's fordele for effektivitet og bedre resultater.