Hälso- och finanssektorn står inför stora förändringar efter tillkännagivandet den 25 juli av nya regulatoriska ramverk för artificiell intelligens inom dessa områden.
Regelverken, som tagits fram i samarbete mellan federala myndigheter och branschaktörer, etablerar tydliga riktlinjer för AI-system som fattar eller påverkar beslut kring patientvård, försäkringsskydd, finansiella tjänster och kapitalförvaltning. Åtgärderna är ett svar på ökande oro kring AI-säkerhet, algoritmisk partiskhet samt potentiella effekter på arbetstillfällen och integritet.
Inom hälsosektorn kräver de nya reglerna att vårdgivare och försäkringsbolag inför robusta kontrollmekanismer för AI-drivna system för diagnos och behandlingsrekommendationer. Hälsoorganisationer måste säkerställa att AI-verktyg inte leder till diskriminerande effekter för patienter, särskilt vad gäller diagnoser, behandlingsbeslut och resursfördelning. Reglerna kräver även att AI-baserade beslut om vårdbehov granskas av klinisk personal, för att motverka risken att automatiserade system felaktigt nekar nödvändig vård.
För finanssektorn fastställer ramverket standarder för AI-system som används vid kreditbedömning, bedrägeribekämpning och kapitalförvaltning. Finansiella institutioner måste kunna visa att deras AI-modeller är förklarliga, transparenta och fria från diskriminerande partiskhet. Reglerna adresserar även frågor om dataskydd och ställer krav på riskhantering när AI används för portföljförvaltning, handel och kundnära applikationer.
Det regulatoriska tillvägagångssättet speglar den nuvarande administrationens fokus på att främja amerikanskt AI-ledarskap, samtidigt som riktade skyddsåtgärder införs i kritiska sektorer. President Trump, som nyligen undertecknat presidentdekret för att påskynda AI-utvecklingen, har betonat vikten av att "låta AI växa och blomstra" samtidigt som lämpliga skydd upprätthålls i känsliga områden.
Branschreaktionerna har varit blandade, där vissa organisationer välkomnar den tydlighet de nya ramverken innebär, medan andra uttrycker oro för ökade krav på efterlevnad. Ledare inom hälso- och finanssektorn står nu inför utmaningen att implementera dessa krav samtidigt som de fortsätter att dra nytta av AI:s möjligheter till ökad effektivitet och förbättrade resultat.