Industri layanan kesihatan dan perkhidmatan kewangan kini berdepan transformasi besar susulan pengumuman rangka kerja kawal selia baharu bagi aplikasi kecerdasan buatan (AI) yang beroperasi dalam sektor-sektor ini pada 25 Julai lalu.
Peraturan yang dibangunkan melalui kerjasama antara agensi persekutuan dan pihak berkepentingan industri ini menetapkan garis panduan jelas untuk sistem AI yang membuat atau mempengaruhi keputusan berkaitan penjagaan pesakit, perlindungan insurans, perkhidmatan kewangan, dan pengurusan pelaburan. Langkah-langkah ini adalah respons kepada kebimbangan yang semakin meningkat mengenai keselamatan AI, bias algoritma, serta potensi impak terhadap pekerjaan dan privasi.
Dalam sektor kesihatan, peraturan baharu mengkehendaki penyedia perkhidmatan dan penanggung insurans melaksanakan mekanisme pengawasan yang kukuh untuk sistem AI yang digunakan dalam diagnosis dan cadangan rawatan. Organisasi kesihatan perlu memastikan alat AI tidak menyebabkan kesan diskriminasi terhadap pesakit, terutamanya dalam aspek diagnosis, keputusan rawatan, dan pengagihan sumber. Peraturan ini juga mewajibkan semakan klinikal manusia terhadap keputusan pengurusan penggunaan berasaskan AI, bagi menangani kebimbangan bahawa sistem automatik mungkin menolak rawatan yang diperlukan secara tidak wajar.
Bagi sektor kewangan, rangka kerja ini menetapkan piawaian untuk sistem AI yang terlibat dalam keputusan kredit, pengesanan penipuan, dan pengurusan pelaburan. Institusi kewangan perlu membuktikan bahawa model AI mereka boleh dijelaskan, telus, dan bebas daripada bias diskriminasi. Peraturan ini turut menangani isu privasi data dan menetapkan keperluan pengurusan risiko apabila AI digunakan untuk pengurusan portfolio, dagangan, dan aplikasi yang berinteraksi dengan pelanggan.
Pendekatan kawal selia ini mencerminkan penekanan pentadbiran semasa terhadap usaha mempromosikan kepimpinan AI Amerika sambil melaksanakan perlindungan bersasar dalam sektor kritikal. Presiden Trump, yang baru-baru ini menandatangani perintah eksekutif untuk mempercepatkan pembangunan AI, menegaskan keperluan untuk "membesarkan teknologi itu dan membiarkannya berkembang" sambil memastikan perlindungan sewajarnya dalam bidang sensitif.
Reaksi industri adalah bercampur-campur, dengan sesetengah organisasi mengalu-alukan kejelasan yang diberikan oleh rangka kerja baharu ini manakala yang lain bimbang tentang potensi beban pematuhan. Pemimpin dalam sektor kesihatan dan kewangan kini berdepan cabaran untuk melaksanakan keperluan ini sambil terus memanfaatkan kelebihan AI bagi meningkatkan kecekapan operasi dan hasil yang lebih baik.