2025년 6월 13일, 획기적인 인공지능 일반지능(AGI) 윤리 프레임워크가 공개되며 첨단 AI 시스템의 책임 있는 개발에 있어 중대한 전환점을 맞이했다. 이 프레임워크는 주요 기술 기업, 연구 기관, 국제기구 간의 전례 없는 협력을 통해 개발되었으며, AI 시스템이 인간 수준의 역량에 근접함에 따라 윤리적 가이드라인을 확립하는 것을 목표로 한다.
이 포괄적 프레임워크는 AGI의 발전 경로를 결정짓는 다섯 가지 핵심 분야—사회적 통합, 기술적 진보, 설명 가능성, 인지 및 윤리적 고려사항, 뇌 영감 시스템—를 다룬다. 또한, 배포 전 사전(Ex-ante) 테스트와 시장에 이미 출시된 시스템에 대한 사후(Ex-post) 위험 평가 메커니즘 등 구체적인 지침을 제공한다.
연합 측 대표는 “AGI 시스템이 사회적 거버넌스에 점점 더 통합됨에 따라, 개인의 권리를 보호할 수 있는 법적 프레임워크와 윤리적 가이드라인을 마련하는 것이 필수적”이라고 밝혔다. 프레임워크는 투명성, 책임성, 그리고 AGI 개발이 반드시 인간의 가치와 일치해야 함을 강조한다.
이번 이니셔티브는 유네스코의 ‘인공지능 윤리에 관한 권고’ 등 기존의 노력 위에 구축되었으나, 특히 여러 분야에서 인간의 능력에 필적하거나 이를 초월할 수 있는 AGI 시스템이 제기하는 독특한 도전과제에 초점을 맞춘다. 노동 시장의 변화, 프라이버시, 보안, 오용 가능성 등 다양한 우려를 다룬다.
전문가들은 AGI가 향후 수년 내 등장할 수 있으며, 일부는 2027년까지 실질적인 시스템이 개발될 것으로 전망한다. 최근 대규모 언어모델과 멀티모달 AI 시스템의 발전이 일반지능의 일부 측면을 점점 더 닮아가고 있는 가운데, 이번 프레임워크는 매우 중요한 시점에 도입됐다.
연합은 프레임워크의 이행 및 준수 여부를 감독할 감독위원회를 설립했으며, AGI 개발이 가속화되는 상황에서 윤리적 고려가 중심에 있어야 함을 강조했다. 또한, 이해관계자들이 실질적인 이행 전략을 논의할 수 있도록 이달 말 방콕에서 ‘AGI 윤리 글로벌 포럼’을 개최할 계획임을 밝혔다.