Sektory opieki zdrowotnej i usług finansowych stoją przed znaczącą transformacją po ogłoszeniu 25 lipca nowych ram regulacyjnych dla zastosowań sztucznej inteligencji działających w tych branżach.
Regulacje, opracowane we współpracy agencji federalnych z przedstawicielami branży, ustanawiają jasne wytyczne dla systemów AI, które podejmują lub wpływają na decyzje dotyczące opieki nad pacjentem, zakresu ubezpieczenia, usług finansowych oraz zarządzania inwestycjami. Środki te są odpowiedzią na narastające obawy związane z bezpieczeństwem AI, stronniczością algorytmiczną oraz potencjalnym wpływem na miejsca pracy i prywatność.
W sektorze opieki zdrowotnej nowe przepisy wymagają od świadczeniodawców i ubezpieczycieli wdrożenia solidnych mechanizmów nadzoru nad systemami AI wspierającymi diagnostykę i rekomendacje terapeutyczne. Organizacje medyczne muszą zapewnić, że narzędzia oparte na AI nie prowadzą do dyskryminujących skutków dla pacjentów, zwłaszcza w zakresie diagnozowania, podejmowania decyzji terapeutycznych i alokacji zasobów. Przepisy nakładają także obowiązek przeprowadzania ludzkiej, klinicznej weryfikacji decyzji zarządzania wykorzystaniem zasobów opartych na AI, odpowiadając na obawy, że zautomatyzowane systemy mogą niewłaściwie odmawiać niezbędnej opieki.
W sektorze finansowym ramy ustanawiają standardy dla systemów AI zaangażowanych w decyzje kredytowe, wykrywanie oszustw oraz zarządzanie inwestycjami. Instytucje finansowe muszą wykazać, że ich modele AI są zrozumiałe, transparentne i wolne od dyskryminującej stronniczości. Przepisy odnoszą się także do kwestii prywatności danych oraz wprowadzają wymogi dotyczące zarządzania ryzykiem przy wykorzystaniu AI do zarządzania portfelami, handlu i aplikacji skierowanych do klientów.
Nowe podejście regulacyjne odzwierciedla nacisk obecnej administracji na promowanie amerykańskiego przywództwa w dziedzinie AI przy jednoczesnym wdrażaniu ukierunkowanych zabezpieczeń w kluczowych sektorach. Prezydent Trump, który niedawno podpisał rozporządzenia wykonawcze mające przyspieszyć rozwój AI, podkreślał potrzebę „rozwijania tego dziecka i pozwolenia mu rozkwitać”, przy zapewnieniu odpowiednich zabezpieczeń w wrażliwych obszarach.
Reakcje branży są mieszane — część organizacji z zadowoleniem przyjęła przejrzystość, jaką dają nowe ramy, podczas gdy inne wyrażają obawy dotyczące potencjalnych obciążeń związanych z ich wdrożeniem. Liderzy sektora opieki zdrowotnej i finansowego stoją teraz przed wyzwaniem wdrożenia tych wymogów przy jednoczesnym dalszym wykorzystywaniu korzyści płynących z AI dla efektywności operacyjnej i poprawy wyników.