Et banebrydende etisk rammeværk for Artificial General Intelligence (AGI) blev præsenteret den 13. juni 2025 og markerer et afgørende øjeblik i den ansvarlige udvikling af avancerede AI-systemer. Rammeværket, som er udviklet gennem et hidtil uset samarbejde mellem store teknologivirksomheder, forskningsinstitutioner og internationale organisationer, har til formål at etablere etiske retningslinjer, efterhånden som AI-systemer nærmer sig menneskelignende kapaciteter.
Det omfattende rammeværk adresserer fem centrale områder, der former AGI’s udvikling: samfundsintegration, teknologisk fremskridt, forklarbarhed, kognitive og etiske overvejelser samt hjerneinspirerede systemer. Det indeholder detaljerede retningslinjer for ex-ante test før implementering og ex-post risikovurderingsmekanismer for systemer, der allerede er på markedet.
"Efterhånden som AGI-systemer bliver mere integrerede i samfundets styring, er det afgørende at etablere juridiske rammer og etiske retningslinjer, der beskytter individets rettigheder," udtalte en repræsentant fra koalitionen. Rammeværket lægger vægt på gennemsigtighed, ansvarlighed og nødvendigheden af at sikre, at AGI-udvikling er i overensstemmelse med menneskelige værdier.
Initiativet bygger videre på tidligere tiltag, herunder UNESCO’s anbefaling om etik for kunstig intelligens, men retter sig specifikt mod de unikke udfordringer, som AGI-systemer udgør, og som potentielt kan matche eller overgå menneskelige evner på tværs af flere områder. Rammeværket adresserer bekymringer om arbejdsmarkedets forandring, privatliv, sikkerhed og risikoen for misbrug.
Eksperter forudser, at AGI kan opstå inden for de kommende år, og nogle forventer funktionelle systemer allerede i 2027. Dette rammeværk kommer på et kritisk tidspunkt, hvor nylige fremskridt inden for store sprogmodeller og multimodale AI-systemer har vist evner, der i stigende grad minder om generel intelligens.
Koalitionen har nedsat et tilsynsudvalg, der skal overvåge implementeringen og overholdelsen af rammeværket, og understreger, at etiske hensyn fortsat skal være centrale, efterhånden som udviklingen af AGI accelererer. Derudover er der annonceret planer om et globalt forum for AGI-etik, som afholdes i Bangkok senere på måneden, hvor interessenter vil drøfte praktiske implementeringsstrategier.