El 13 de junio de 2025 se presentó un innovador Marco Ético para la Inteligencia Artificial General (AGI), marcando un momento clave en el desarrollo responsable de sistemas avanzados de IA. El marco, fruto de una colaboración sin precedentes entre grandes empresas tecnológicas, instituciones de investigación y organizaciones internacionales, tiene como objetivo establecer salvaguardas éticas a medida que los sistemas de IA se acercan a capacidades similares a las humanas.
El marco integral aborda cinco vías clave que configuran la trayectoria de la AGI: integración social, avance tecnológico, explicabilidad, consideraciones cognitivas y éticas, y sistemas inspirados en el cerebro. Incluye directrices detalladas para la evaluación previa al despliegue (ex-ante) y mecanismos de evaluación de riesgos posteriores (ex-post) para los sistemas ya presentes en el mercado.
"A medida que los sistemas de AGI se integran cada vez más en la gobernanza social, es imprescindible establecer marcos legales y directrices éticas que protejan los derechos individuales", declaró un representante de la coalición. El marco hace hincapié en la transparencia, la rendición de cuentas y la necesidad de alinear el desarrollo de la AGI con los valores humanos.
La iniciativa se basa en esfuerzos previos, como la Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial, pero se centra específicamente en los desafíos únicos que plantean los sistemas de AGI, que podrían igualar o superar las capacidades humanas en múltiples ámbitos. Aborda preocupaciones sobre la disrupción laboral, la privacidad, la seguridad y el potencial de uso indebido.
Los expertos predicen que la AGI podría emerger en los próximos años, y algunos pronostican sistemas funcionales ya en 2027. Este marco llega en un momento crucial, ya que los recientes avances en grandes modelos de lenguaje y sistemas de IA multimodales han demostrado capacidades que cada vez se asemejan más a aspectos de la inteligencia general.
La coalición ha creado un comité de supervisión para monitorizar la implementación y el cumplimiento del marco, subrayando que las consideraciones éticas deben seguir siendo centrales a medida que se acelera el desarrollo de la AGI. También han anunciado la celebración de un Foro Global sobre Ética de la AGI en Bangkok a finales de este mes, donde las partes interesadas debatirán estrategias prácticas de implementación.