De zorg- en financiële sector staan voor ingrijpende veranderingen na de aankondiging op 25 juli van nieuwe regelgevende kaders voor kunstmatige intelligentie in deze sectoren.
De regels, ontwikkeld in samenwerking tussen federale instanties en branchepartijen, stellen duidelijke richtlijnen op voor AI-systemen die beslissingen nemen of beïnvloeden over patiëntenzorg, verzekeringsdekking, financiële dienstverlening en vermogensbeheer. Met deze maatregelen wordt ingespeeld op toenemende zorgen over AI-veiligheid, algoritmische vooringenomenheid en mogelijke gevolgen voor werkgelegenheid en privacy.
In de zorg verplichten de nieuwe regels zorgverleners en verzekeraars tot het invoeren van stevige toezichtmechanismen voor AI-gedreven diagnostiek en behandeladviezen. Zorgorganisaties moeten waarborgen dat AI-toepassingen niet leiden tot discriminatie van patiënten, met name bij diagnose, behandelbeslissingen en toewijzing van middelen. Ook wordt menselijke klinische beoordeling verplicht gesteld bij AI-gebaseerde beslissingen over zorgtoewijzing, om te voorkomen dat geautomatiseerde systemen onterecht noodzakelijke zorg weigeren.
Voor de financiële sector stelt het kader normen vast voor AI-systemen die worden ingezet bij kredietbeoordeling, fraudedetectie en vermogensbeheer. Financiële instellingen moeten aantonen dat hun AI-modellen uitlegbaar, transparant en vrij van discriminerende vooroordelen zijn. De regelgeving adresseert tevens zorgen over gegevensprivacy en stelt eisen aan risicomanagement bij het gebruik van AI voor portefeuillebeheer, handel en klantgerichte toepassingen.
De regulatoire aanpak weerspiegelt de nadruk van de huidige regering op het bevorderen van Amerikaans AI-leiderschap, terwijl gerichte waarborgen worden ingevoerd in kritieke sectoren. President Trump, die onlangs nog presidentiële decreten ondertekende om AI-ontwikkeling te versnellen, benadrukte het belang om "dat kindje te laten groeien en bloeien" met tegelijkertijd passende bescherming in gevoelige domeinen.
De reacties uit de sector zijn gemengd: sommige organisaties verwelkomen de duidelijkheid van de nieuwe kaders, terwijl anderen zich zorgen maken over de mogelijke nalevingslasten. Leiders in de zorg- en financiële sector staan nu voor de uitdaging om aan de eisen te voldoen en tegelijkertijd de voordelen van AI te blijven benutten voor operationele efficiëntie en betere resultaten.