En respuesta al crecimiento explosivo de los medios generados por IA y a la creciente preocupación por la autenticidad, Google ha presentado SynthID Detector, una sofisticada herramienta de verificación diseñada para identificar contenido creado con las tecnologías de IA de Google.
Anunciado en el Google I/O 2025, SynthID Detector funciona escaneando los medios subidos en busca de marcas de agua digitales invisibles que Google incrusta en el contenido generado por sus modelos de IA, incluidos Gemini, Imagen, Lyria y Veo. Cuando se detecta una marca de agua, el portal identifica con precisión qué partes del contenido son más propensas a contenerla, señalando segmentos concretos en pistas de audio o resaltando áreas específicas en imágenes.
La tecnología responde a una necesidad urgente en el panorama digital actual. Según estimaciones recientes, los vídeos deepfake han aumentado un 550% entre 2019 y 2024, y una parte significativa de las publicaciones más vistas en redes sociales ya contiene elementos generados por IA. El sistema de marcas de agua de SynthID está diseñado para seguir siendo detectable incluso cuando el contenido sufre diversas transformaciones, proporcionando así un método robusto de verificación.
"La transparencia del contenido sigue siendo un reto complejo", señaló Google en su anuncio. Para ampliar el alcance de la tecnología, Google se ha asociado con NVIDIA para marcar con agua los vídeos generados por su modelo NVIDIA Cosmos y con GetReal Security para mejorar las capacidades de detección. Además, Google ha publicado como código abierto la marca de agua de SynthID para texto, permitiendo que los desarrolladores incorporen la tecnología en sus propios modelos.
Sin embargo, SynthID Detector presenta ciertas limitaciones. Funciona principalmente dentro del ecosistema de Google y no puede detectar contenido creado con herramientas de otras empresas como Microsoft, Meta u OpenAI, que han desarrollado sus propias tecnologías de marcas de agua. Los expertos también advierten que las marcas de agua pueden eliminarse potencialmente mediante técnicas adversarias.
Actualmente disponible para los primeros probadores a través de un sistema de lista de espera enfocado en periodistas, investigadores y profesionales de los medios, SynthID Detector representa un paso importante hacia el establecimiento de la confianza en un mundo cada vez más generado por IA. A medida que Google continúa ampliando el acceso a la herramienta en las próximas semanas, marca un hito relevante en el esfuerzo continuo por mantener la autenticidad en los medios digitales.