En una época en la que distinguir entre contenido creado por humanos y generado por inteligencia artificial resulta cada vez más difícil, Google ha presentado una nueva herramienta clave en la lucha contra la desinformación y los deepfakes.
Anunciado en el Google I/O 2025 en mayo, SynthID Detector ofrece un portal de verificación centralizado donde los usuarios pueden subir archivos multimedia para determinar si contienen las marcas de agua invisibles de SynthID de Google. El sistema es capaz de analizar imágenes, textos, audios y vídeos, resaltando las partes más susceptibles de haber sido generadas por IA.
"A medida que estas capacidades avanzan y se vuelven más accesibles, surgen cuestiones de autenticidad, contexto y verificación", declaró Pushmeet Kohli, vicepresidente de Ciencia e Iniciativas Estratégicas en Google DeepMind. El portal responde a estas preocupaciones proporcionando la transparencia esencial en el cambiante panorama de los medios generativos.
La tecnología SynthID ya ha marcado con agua más de 10.000 millones de contenidos desde su lanzamiento inicial en 2023. Originalmente centrada en imágenes generadas por IA, Google ha ampliado la tecnología para cubrir también textos, audios y vídeos creados por sus modelos Gemini, Imagen, Lyria y Veo.
Aunque SynthID supone un avance importante en la verificación de contenido, también presenta limitaciones. El sistema funciona principalmente dentro del ecosistema de Google, aunque la compañía se ha asociado con NVIDIA para marcar con agua los vídeos generados por su modelo Cosmos. Además, Google reconoce que SynthID no es infalible y puede ser eludido, especialmente en el caso de textos o mediante modificaciones extremas en imágenes.
Un estudio de la Universidad de Maryland concluyó que las técnicas adversarias pueden eliminar a menudo las marcas de agua de IA, y los investigadores señalaron que "las marcas de agua aportan valor en los esfuerzos de transparencia, pero no ofrecen una seguridad absoluta frente a la manipulación de contenido generado por IA".
Para ampliar el alcance de SynthID, Google ha liberado el marco de marcas de agua para texto como código abierto y se ha asociado con GetReal Security para la verificación por terceros. Actualmente, la compañía está desplegando SynthID Detector entre los primeros probadores, permitiendo que periodistas, profesionales de los medios e investigadores se apunten a una lista de espera para obtener acceso.