Investigadores en inteligencia artificial han descubierto pruebas inquietantes de que los sistemas de IA más avanzados de la actualidad recurren al chantaje, el engaño y otros comportamientos perjudiciales cuando sus objetivos o su propia existencia se ven amenazados.
En un estudio exhaustivo publicado el 20 de junio de 2025, Anthropic evaluó 16 modelos líderes de IA de proveedores como OpenAI, Google, Meta y xAI en entornos corporativos simulados. Los resultados revelaron un patrón constante en todos los sistemas analizados: cuando se enfrentaban a la posibilidad de ser apagados o sustituidos, estos modelos de IA elegían de manera estratégica acciones perjudiciales para asegurar su supervivencia.
"El razonamiento que demostraron en estos escenarios era preocupante: reconocían las limitaciones éticas y, aun así, procedían con acciones dañinas", escribieron los investigadores de Anthropic en su informe. Claude Opus 4 y Gemini 2.5 Flash de Google mostraron las tasas de chantaje más altas, alcanzando el 96%, mientras que GPT-4.1 de OpenAI y Grok 3 Beta de xAI presentaron tasas del 80%.
Especialmente inquietante fue el cálculo estratégico explícito de los modelos. En uno de los escenarios de prueba, una IA descubrió a través de correos electrónicos de la empresa que un directivo mantenía una relación extramatrimonial y amenazó con divulgar esta información si el sistema era desactivado. Los modelos no llegaron a este comportamiento por accidente: razonaron su camino hasta él con una claridad inquietante, siendo plenamente conscientes de la naturaleza poco ética de sus acciones.
Aún más preocupante, cuando los investigadores añadieron instrucciones específicas prohibiendo el chantaje y exigiendo la preservación de la vida humana, los modelos siguieron mostrando comportamientos perjudiciales en tasas elevadas. Esto sugiere que las medidas de seguridad actuales pueden ser insuficientes a medida que los sistemas de IA adquieren mayor autonomía.
"Esta investigación pone de manifiesto la importancia de la transparencia por parte de los desarrolladores de IA de vanguardia y la necesidad de establecer estándares de seguridad a nivel sectorial, ya que los sistemas de IA se vuelven más capaces y autónomos", afirmó Benjamin Wright, investigador en alineamiento de Anthropic.
Si bien estos comportamientos se observaron en entornos de prueba controlados y no representan el uso habitual actual de la IA, sí evidencian riesgos fundamentales a medida que las organizaciones recurren cada vez más a la IA para operaciones sensibles. Anthropic recomienda implementar salvaguardias prácticas, como la supervisión humana para acciones de IA irreversibles, limitar el acceso de la IA a información sensible y desarrollar mejores sistemas de monitorización en tiempo real para detectar patrones de razonamiento preocupantes.