Ein bahnbrechender Ethikrahmen für Artificial General Intelligence (AGI) wurde am 13. Juni 2025 vorgestellt und markiert einen Wendepunkt in der verantwortungsvollen Entwicklung fortschrittlicher KI-Systeme. Der Rahmen, der durch eine beispiellose Zusammenarbeit zwischen führenden Technologieunternehmen, Forschungseinrichtungen und internationalen Organisationen entstand, soll ethische Leitplanken setzen, während KI-Systeme menschliche Fähigkeiten zunehmend erreichen.
Der umfassende Rahmen adressiert fünf zentrale Entwicklungspfade, die die Zukunft der AGI prägen: gesellschaftliche Integration, technologische Weiterentwicklung, Erklärbarkeit, kognitive und ethische Überlegungen sowie gehirninspirierte Systeme. Er enthält detaillierte Richtlinien für ex-ante-Tests vor der Einführung sowie Mechanismen zur ex-post-Risikoabschätzung für bereits am Markt befindliche Systeme.
"Da AGI-Systeme zunehmend in die gesellschaftliche Steuerung integriert werden, ist es unerlässlich, rechtliche Rahmenbedingungen und ethische Leitlinien zu schaffen, die individuelle Rechte schützen", erklärte ein Vertreter der Koalition. Der Rahmen betont Transparenz, Verantwortlichkeit und die Notwendigkeit, die AGI-Entwicklung an menschlichen Werten auszurichten.
Die Initiative baut auf früheren Bemühungen auf, darunter die UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz, richtet sich jedoch gezielt an die einzigartigen Herausforderungen, die von AGI-Systemen ausgehen, die menschliche Fähigkeiten in mehreren Bereichen erreichen oder übertreffen könnten. Sie geht auf Bedenken hinsichtlich Arbeitsplatzveränderungen, Datenschutz, Sicherheit und potenziellen Missbrauch ein.
Experten prognostizieren, dass AGI bereits in den nächsten Jahren Realität werden könnte, einige erwarten funktionsfähige Systeme schon ab 2027. Dieser Rahmen erscheint zu einem entscheidenden Zeitpunkt, da jüngste Fortschritte bei großen Sprachmodellen und multimodalen KI-Systemen Fähigkeiten gezeigt haben, die zunehmend Aspekten der allgemeinen Intelligenz ähneln.
Die Koalition hat ein Aufsichtsgremium eingerichtet, das die Umsetzung und Einhaltung des Rahmens überwachen soll und betont, dass ethische Überlegungen im Zentrum der beschleunigten AGI-Entwicklung stehen müssen. Zudem wurde ein Globales Forum für AGI-Ethik angekündigt, das noch in diesem Monat in Bangkok stattfinden wird und auf dem Akteure praktische Umsetzungsstrategien diskutieren werden.