Sağlık ve finans hizmetleri sektörleri, 25 Temmuz’da yapay zekâ uygulamalarına yönelik yeni düzenleyici çerçevelerin açıklanmasının ardından önemli bir dönüşümle karşı karşıya.
Federal kurumlar ile sektör paydaşlarının iş birliğiyle geliştirilen bu düzenlemeler, hasta bakımı, sigorta kapsamı, finansal hizmetler ve yatırım yönetimiyle ilgili kararları alan veya etkileyen yapay zekâ sistemleri için net kurallar getiriyor. Bu önlemler, yapay zekâ güvenliği, algoritmik önyargı ve iş gücü ile mahremiyet üzerindeki olası etkilerle ilgili artan endişelere yanıt olarak hazırlandı.
Sağlık alanında yeni kurallar, hizmet sağlayıcıları ve sigorta şirketlerini, yapay zekâ destekli tanı ve tedavi öneri sistemleri için güçlü denetim mekanizmaları uygulamaya zorluyor. Sağlık kuruluşlarının, yapay zekâ araçlarının özellikle tanı, tedavi kararları ve kaynak dağıtımı konularında hastalar üzerinde ayrımcı etkilere yol açmamasını sağlaması gerekiyor. Ayrıca, düzenlemeler, yapay zekâ tabanlı kullanım yönetimi kararlarının insan klinik incelemesinden geçmesini zorunlu kılarak, otomatik sistemlerin gerekli bakımı uygunsuz şekilde reddedebileceği yönündeki kaygıları ele alıyor.
Finans sektörü için ise çerçeve, kredi kararları, dolandırıcılık tespiti ve yatırım yönetiminde kullanılan yapay zekâ sistemleri için standartlar belirliyor. Finansal kurumların, kullandıkları yapay zekâ modellerinin açıklanabilir, şeffaf ve ayrımcı önyargıdan arındırılmış olduğunu göstermeleri gerekiyor. Düzenlemeler ayrıca veri gizliliği endişelerini ele alıyor ve portföy yönetimi, alım-satım ve müşteriyle doğrudan temas eden uygulamalarda yapay zekâ kullanıldığında risk yönetimi gereklilikleri getiriyor.
Düzenleyici yaklaşım, mevcut yönetimin Amerikan yapay zekâ liderliğini teşvik ederken, kritik sektörlerde hedefe yönelik korumalar uygulama vurgusunu yansıtıyor. Son dönemde yapay zekâ gelişimini hızlandırmaya yönelik başkanlık kararnameleri imzalayan Başkan Trump, hassas alanlarda uygun korumalar sağlanırken "bu bebeği büyütüp gelişmesine izin verme" gerekliliğinin altını çizdi.
Sektörün tepkileri ise karışık. Bazı kuruluşlar yeni çerçevelerin getirdiği netliği memnuniyetle karşılarken, diğerleri olası uyum yükleri konusunda endişelerini dile getiriyor. Sağlık ve finans hizmetleri liderleri, operasyonel verimlilik ve daha iyi sonuçlar için yapay zekânın avantajlarından yararlanmaya devam ederken, bu gereklilikleri uygulama zorluğuyla karşı karşıya.