Eine Koalition internationaler Aufsichtsbehörden hat weitreichende neue Vorschriften für KI-Chatbot-Technologien eingeführt und markiert damit einen Wendepunkt in der globalen KI-Governance.
Die am 11. Juni angekündigten Leitlinien legen verbindliche Transparenzanforderungen fest, die Unternehmen dazu verpflichten, klar offenzulegen, wenn Nutzer mit einer KI und nicht mit einem Menschen interagieren. Dies geschieht vor dem Hintergrund eines explosionsartigen Wachstums bei der Nutzung von KI-Chatbots – Plattformen wie ChatGPT verzeichneten Anfang 2025 über 400 Millionen wöchentliche aktive Nutzer.
Die Regulierung schreibt zudem ethische Nutzungsstandards vor: Entwickler müssen Schutzmechanismen gegen schädliche Ausgaben implementieren, darunter Protokolle für den Umgang mit Gesprächen über Selbstverletzung sowie Mechanismen zur Verhinderung der Generierung irreführender Informationen. Unternehmen sind außerdem verpflichtet, Verantwortlichkeitsstrukturen einzurichten, um Voreingenommenheiten in ihren Systemen zu erfassen und zu minimieren.
Der Ansatz der Koalition sucht einen Ausgleich zwischen Innovation und verantwortungsvoller Entwicklung und verzichtet auf pauschale Verbote zugunsten risikobasierter Klassifizierungen, ähnlich dem EU AI Act, der im Februar 2025 teilweise in Kraft getreten ist. Das neue globale Rahmenwerk geht jedoch noch weiter, indem es spezifische Anforderungen für Chatbot-Technologien festlegt.
Der Zeitrahmen von sechs Monaten für die Umsetzung stößt bei Branchenführern auf gemischte Reaktionen. Während große KI-Unternehmen die Standardisierung der Regulierung grundsätzlich begrüßen, äußern kleinere Entwickler Bedenken hinsichtlich der Kosten für die Einhaltung der Vorschriften. Die Regulierung erfolgt vor dem Hintergrund einer komplexen Regulierungslandschaft: Während die USA unter der Trump-Regierung einen eher freizügigen Ansatz verfolgen, setzt die EU weiterhin ihren umfassenden AI Act um.
Diese Vorschriften kommen zu einem entscheidenden Zeitpunkt, da KI zunehmend in den Alltag integriert wird. Experten sehen darin ein mögliches Vorbild für künftige internationale Kooperationen im Bereich der KI-Governance.