Op 13 juni 2025 werd een baanbrekend ethisch raamwerk voor Artificial General Intelligence (AGI) onthuld, wat een cruciaal moment markeert in de verantwoorde ontwikkeling van geavanceerde AI-systemen. Het raamwerk, tot stand gekomen door een ongekende samenwerking tussen grote technologiebedrijven, onderzoeksinstellingen en internationale organisaties, heeft als doel ethische waarborgen te creëren nu AI-systemen het niveau van menselijke capaciteiten naderen.
Het uitgebreide raamwerk behandelt vijf belangrijke pijlers die de koers van AGI bepalen: maatschappelijke integratie, technologische vooruitgang, uitlegbaarheid, cognitieve en ethische overwegingen, en door het brein geïnspireerde systemen. Het biedt gedetailleerde richtlijnen voor ex-ante testen vóór ingebruikname en ex-post risicobeoordelingsmechanismen voor systemen die reeds op de markt zijn.
"Nu AGI-systemen steeds meer worden geïntegreerd in het maatschappelijk bestuur, is het essentieel om juridische kaders en ethische richtlijnen vast te stellen die individuele rechten beschermen," aldus een vertegenwoordiger van de coalitie. Het raamwerk legt de nadruk op transparantie, verantwoording en de noodzaak om AGI-ontwikkeling te laten aansluiten bij menselijke waarden.
Het initiatief bouwt voort op eerdere inspanningen, waaronder de UNESCO-aanbeveling over de ethiek van kunstmatige intelligentie, maar richt zich specifiek op de unieke uitdagingen die AGI-systemen met zich meebrengen, die mogelijk menselijke capaciteiten op meerdere terreinen kunnen evenaren of overtreffen. Er wordt aandacht besteed aan zorgen over verstoring van de arbeidsmarkt, privacy, veiligheid en het risico op misbruik.
Experts voorspellen dat AGI binnen enkele jaren werkelijkheid kan worden, waarbij sommigen verwachten dat er al in 2027 functionerende systemen zijn. Dit raamwerk komt op een cruciaal moment, nu recente doorbraken in grote taalmodellen en multimodale AI-systemen steeds meer eigenschappen van algemene intelligentie vertonen.
De coalitie heeft een toezichtscommissie opgericht om de implementatie en naleving van het raamwerk te monitoren, waarbij wordt benadrukt dat ethische overwegingen centraal moeten blijven staan naarmate de ontwikkeling van AGI versnelt. Ook zijn er plannen aangekondigd voor een Global Forum on AGI Ethics, dat later deze maand in Bangkok zal plaatsvinden, waar belanghebbenden praktische implementatiestrategieën zullen bespreken.