Anthropic-CEO Dario Amodei heeft zich publiekelijk uitgesproken tegen een door Republikeinen geleid initiatief om een moratorium van tien jaar in te stellen op regulering van kunstmatige intelligentie op staatsniveau. Hij noemt dit een te botte maatregel voor een technologie die zich razendsnel ontwikkelt.
In zijn opiniestuk in de New York Times van donderdag schrijft Amodei dat 'AI zich veel te duizelingwekkend snel ontwikkelt' voor zo'n langdurig verbod. 'Ik geloof dat deze systemen de wereld fundamenteel kunnen veranderen binnen twee jaar; over tien jaar is alles onzeker,' waarschuwt hij.
De omstreden bepaling, die is opgenomen in het omvangrijke belastingvoorstel van voormalig president Donald Trump dat momenteel door het Congres wordt behandeld, zou staten verbieden om 'enige wet of regelgeving met betrekking tot AI-modellen, AI-systemen of geautomatiseerde beslissystemen' te handhaven gedurende tien jaar na inwerkingtreding. De maatregel stuit op kritiek van een tweepartijdige groep procureurs-generaal en wetgevers die vrezen dat zij hun burgers niet meer kunnen beschermen.
In plaats van staatscontrole volledig te blokkeren, stelt Amodei voor om ontwikkelaars van geavanceerde AI te verplichten hun testbeleid en risicobeperkende strategieën openbaar te maken. Hij merkt op dat Anthropic, gesteund door Amazon, nu al vrijwillig transparantie-informatie over zijn AI-systemen publiceert, evenals concurrenten OpenAI en Google DeepMind.
Amodei waarschuwt echter dat de prikkels voor bedrijven om dit niveau van openheid te behouden kunnen veranderen naarmate AI-modellen krachtiger worden, waardoor wettelijke verplichtingen mogelijk noodzakelijk zijn. 'We kunnen hopen dat alle AI-bedrijven zich committeren aan openheid en verantwoordelijke AI-ontwikkeling, zoals sommigen nu doen. Maar in andere vitale sectoren vertrouwen we ook niet op hoop, en dat zouden we hier ook niet moeten doen,' betoogt hij.
Het is onzeker of het moratorium standhoudt nu het wetsvoorstel naar de Senaat gaat, waar het op procedurele obstakels stuit. Sommige wetgevers hebben gesuggereerd dat de bepaling kan worden geschrapt of aangepast, bijvoorbeeld door de periode te verkorten of een kader voor federale regelgeving op te nemen.