En una era donde distinguir entre contenido creado por humanos y generado por inteligencia artificial se ha vuelto cada vez más difícil, Google ha presentado una nueva herramienta clave en la lucha contra la desinformación y los deepfakes.
Anunciado en Google I/O 2025 en mayo, SynthID Detector ofrece un portal centralizado de verificación donde los usuarios pueden subir archivos multimedia para determinar si contienen las marcas de agua invisibles de SynthID de Google. El sistema puede analizar imágenes, texto, audio y video, resaltando las partes específicas que probablemente hayan sido generadas por IA.
"A medida que estas capacidades avanzan y se vuelven más accesibles, surgen preguntas sobre autenticidad, contexto y verificación", declaró Pushmeet Kohli, vicepresidente de Ciencia e Iniciativas Estratégicas en Google DeepMind. El portal responde a estas inquietudes al brindar transparencia esencial en el panorama en rápida evolución de los medios generativos.
La tecnología SynthID ya ha marcado con agua más de 10 mil millones de contenidos desde su lanzamiento inicial en 2023. Originalmente enfocada en imágenes generadas por IA, Google ha ampliado la tecnología para cubrir texto, audio y video creados por sus modelos Gemini, Imagen, Lyria y Veo.
Si bien SynthID representa un avance significativo en la verificación de contenido, también tiene limitaciones. El sistema funciona principalmente dentro del ecosistema de Google, aunque la empresa se ha asociado con NVIDIA para marcar con agua videos generados por su modelo Cosmos. Además, Google reconoce que SynthID no es infalible y puede ser eludido, especialmente en el caso de texto o mediante modificaciones extremas a las imágenes.
Un estudio de la Universidad de Maryland encontró que técnicas adversariales pueden eliminar frecuentemente las marcas de agua de IA, concluyendo los investigadores que "las marcas de agua aportan valor en los esfuerzos de transparencia, pero no ofrecen seguridad absoluta contra la manipulación de contenido generado por IA".
Para ampliar el alcance de SynthID, Google ha liberado como código abierto su marco de marcas de agua para texto y se ha asociado con GetReal Security para la verificación por terceros. Actualmente, la empresa está desplegando SynthID Detector para los primeros evaluadores, permitiendo que periodistas, profesionales de medios y académicos se unan a una lista de espera para obtener acceso.