CEO Anthropic, Dario Amodei, secara terbuka menentang inisiatif yang dipimpin Partai Republik untuk memberlakukan moratorium selama 10 tahun terhadap regulasi AI di tingkat negara bagian, menyebut pendekatan tersebut terlalu kasar untuk teknologi yang berkembang sangat cepat.
Dalam artikel opini yang diterbitkan New York Times pada hari Kamis, Amodei menulis bahwa 'AI berkembang terlalu cepat hingga membuat kepala pusing' untuk diberi larangan sepanjang itu. 'Saya percaya sistem-sistem ini bisa mengubah dunia secara fundamental dalam dua tahun; dalam 10 tahun ke depan, segalanya bisa berubah total,' ujarnya.
Ketentuan kontroversial ini, yang dimasukkan dalam RUU pajak komprehensif Presiden Donald Trump yang saat ini sedang dibahas di Kongres, akan melarang negara bagian menerapkan 'setiap undang-undang atau regulasi yang mengatur model kecerdasan buatan, sistem kecerdasan buatan, atau sistem pengambilan keputusan otomatis' selama satu dekade setelah disahkan. Langkah ini menuai kritik dari kelompok jaksa agung negara bagian lintas partai dan para legislator yang khawatir kehilangan kemampuan melindungi warganya.
Alih-alih sepenuhnya melarang pengawasan negara bagian, Amodei mengusulkan agar pengembang AI terdepan diwajibkan secara terbuka mengungkapkan kebijakan pengujian dan strategi mitigasi risiko mereka. Ia mencatat bahwa Anthropic, yang didukung Amazon, sudah secara sukarela merilis informasi transparansi tentang sistem AI mereka, begitu pula para pesaingnya seperti OpenAI dan Google DeepMind.
Namun, Amodei memperingatkan bahwa insentif perusahaan untuk mempertahankan tingkat transparansi ini bisa berubah seiring semakin kuatnya model AI, sehingga kemungkinan diperlukan persyaratan legislatif. 'Kita bisa berharap semua perusahaan AI akan berkomitmen pada keterbukaan dan pengembangan AI yang bertanggung jawab, seperti yang dilakukan beberapa perusahaan saat ini. Tapi kita tidak hanya mengandalkan harapan di sektor vital lain, dan seharusnya kita juga tidak perlu melakukannya di sini,' tegasnya.
Nasib moratorium ini masih belum pasti karena RUU tersebut kini masuk ke Senat, di mana menghadapi berbagai hambatan prosedural. Beberapa legislator menyarankan ketentuan tersebut bisa dihapus atau diubah, misalnya dengan memperpendek jangka waktu moratorium dan menambahkan kerangka regulasi federal.