Numa era em que distinguir entre conteúdos criados por humanos e gerados por inteligência artificial se tornou cada vez mais desafiante, a Google apresentou uma nova ferramenta fundamental no combate à desinformação e aos deepfakes.
Anunciado em maio na Google I/O 2025, o SynthID Detector disponibiliza um portal centralizado de verificação onde os utilizadores podem carregar media para determinar se contém as marcas de água invisíveis SynthID da Google. O sistema consegue analisar imagens, texto, áudio e vídeo, destacando as partes mais prováveis de terem sido geradas por IA.
"À medida que estas capacidades evoluem e se tornam mais amplamente acessíveis, surgem questões de autenticidade, contexto e verificação", afirmou Pushmeet Kohli, Vice-Presidente de Ciência e Iniciativas Estratégicas na Google DeepMind. O portal responde a estas preocupações ao fornecer transparência essencial num panorama de media generativo em rápida evolução.
A tecnologia SynthID já marcou mais de 10 mil milhões de conteúdos desde o seu lançamento inicial em 2023. Inicialmente focada em imagens geradas por IA, a Google expandiu a tecnologia para abranger texto, áudio e vídeo criados pelos seus modelos Gemini, Imagen, Lyria e Veo.
Embora o SynthID represente um avanço significativo na verificação de conteúdos, apresenta algumas limitações. O sistema funciona sobretudo dentro do ecossistema da Google, embora a empresa tenha estabelecido uma parceria com a NVIDIA para marcar vídeos do modelo Cosmos. Além disso, a Google reconhece que o SynthID não é infalível e pode ser contornado, especialmente no caso de texto ou através de modificações extremas em imagens.
Um estudo da Universidade de Maryland concluiu que técnicas adversariais conseguem frequentemente remover marcas de água de IA, com os investigadores a referirem que "as marcas de água têm valor nos esforços de transparência, mas não oferecem segurança absoluta contra manipulação de conteúdos gerados por IA".
Para expandir o alcance do SynthID, a Google disponibilizou em open source a sua framework de marcação de texto e estabeleceu uma parceria com a GetReal Security para verificação por terceiros. A empresa está atualmente a disponibilizar o SynthID Detector a utilizadores iniciais, sendo que jornalistas, profissionais dos media e investigadores podem inscrever-se numa lista de espera para aceder à ferramenta.