Industri layanan kesehatan dan jasa keuangan menghadapi transformasi signifikan setelah pengumuman kerangka regulasi baru untuk aplikasi kecerdasan buatan pada 25 Juli lalu.
Regulasi yang dikembangkan melalui kolaborasi antara lembaga federal dan pemangku kepentingan industri ini menetapkan pedoman jelas bagi sistem AI yang membuat atau memengaruhi keputusan terkait perawatan pasien, cakupan asuransi, layanan keuangan, dan manajemen investasi. Langkah ini merupakan respons atas kekhawatiran yang meningkat terkait keamanan AI, bias algoritmik, serta potensi dampaknya terhadap pekerjaan dan privasi.
Di sektor kesehatan, aturan baru mewajibkan penyedia layanan dan perusahaan asuransi untuk menerapkan mekanisme pengawasan ketat terhadap sistem AI yang digunakan dalam diagnosis dan rekomendasi pengobatan. Organisasi kesehatan harus memastikan bahwa alat AI tidak menimbulkan dampak diskriminatif terhadap pasien, khususnya dalam hal diagnosis, keputusan pengobatan, dan alokasi sumber daya. Regulasi ini juga mewajibkan adanya tinjauan klinis manusia terhadap keputusan manajemen pemanfaatan berbasis AI, guna mengatasi kekhawatiran bahwa sistem otomatis dapat secara tidak tepat menolak perawatan yang diperlukan.
Untuk sektor keuangan, kerangka kerja ini menetapkan standar bagi sistem AI yang terlibat dalam keputusan kredit, deteksi penipuan, dan manajemen investasi. Institusi keuangan harus membuktikan bahwa model AI mereka dapat dijelaskan, transparan, dan bebas dari bias diskriminatif. Regulasi ini juga mengatur masalah privasi data serta menetapkan persyaratan manajemen risiko ketika AI digunakan untuk pengelolaan portofolio, perdagangan, dan aplikasi yang berhadapan langsung dengan nasabah.
Pendekatan regulasi ini mencerminkan penekanan pemerintahan saat ini untuk memajukan kepemimpinan AI Amerika sembari menerapkan perlindungan terarah di sektor-sektor penting. Presiden Trump, yang baru-baru ini menandatangani perintah eksekutif untuk mempercepat pengembangan AI, menekankan perlunya "mengembangkan dan membiarkan teknologi itu berkembang" sambil memastikan perlindungan yang memadai di bidang-bidang sensitif.
Reaksi industri pun beragam, dengan sebagian organisasi menyambut kejelasan yang diberikan oleh kerangka baru ini, sementara yang lain mengkhawatirkan potensi beban kepatuhan. Para pemimpin layanan kesehatan dan jasa keuangan kini dihadapkan pada tantangan untuk mengimplementasikan persyaratan ini sembari terus memanfaatkan manfaat AI bagi efisiensi operasional dan peningkatan hasil.