El 13 de junio de 2025 se presentó un innovador Marco Ético para la Inteligencia Artificial General (AGI), marcando un momento clave en el desarrollo responsable de sistemas avanzados de IA. El marco, desarrollado a través de una colaboración sin precedentes entre las principales empresas tecnológicas, instituciones de investigación y organizaciones internacionales, tiene como objetivo establecer salvaguardas éticas a medida que los sistemas de IA se acercan a capacidades similares a las humanas.
El marco integral aborda cinco vías clave que moldean la trayectoria de la AGI: integración social, avance tecnológico, explicabilidad, consideraciones cognitivas y éticas, y sistemas inspirados en el cerebro. Proporciona directrices detalladas para pruebas ex-ante antes de la implementación y mecanismos de evaluación de riesgos ex-post para los sistemas ya presentes en el mercado.
"A medida que los sistemas de AGI se integran cada vez más en la gobernanza social, es imperativo establecer marcos legales y directrices éticas que protejan los derechos individuales", declaró un representante de la coalición. El marco enfatiza la transparencia, la rendición de cuentas y la necesidad de alinear el desarrollo de la AGI con los valores humanos.
La iniciativa se basa en esfuerzos previos, incluida la Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial, pero se enfoca específicamente en los desafíos únicos que plantean los sistemas de AGI, que podrían igualar o superar las capacidades humanas en múltiples ámbitos. Aborda preocupaciones sobre la disrupción laboral, la privacidad, la seguridad y el potencial de uso indebido.
Expertos predicen que la AGI podría emerger en los próximos años, con algunos pronosticando sistemas funcionales tan pronto como en 2027. Este marco llega en un momento crítico, ya que los recientes avances en modelos de lenguaje grandes y sistemas de IA multimodales han demostrado capacidades que se asemejan cada vez más a aspectos de la inteligencia general.
La coalición ha establecido un comité de supervisión para monitorear la implementación y el cumplimiento del marco, enfatizando que las consideraciones éticas deben permanecer en el centro a medida que se acelera el desarrollo de la AGI. También anunciaron planes para un Foro Global sobre Ética de la AGI que se celebrará en Bangkok a finales de este mes, donde las partes interesadas discutirán estrategias prácticas de implementación.