Em uma era em que distinguir entre conteúdo criado por humanos e gerado por inteligência artificial se tornou cada vez mais desafiador, o Google apresentou uma nova ferramenta fundamental na luta contra a desinformação e os deepfakes.
Anunciado no Google I/O 2025, em maio, o SynthID Detector oferece um portal centralizado de verificação onde os usuários podem enviar mídias para determinar se elas contêm as marcas d’água invisíveis do SynthID do Google. O sistema é capaz de analisar imagens, textos, áudios e vídeos, destacando trechos específicos com maior probabilidade de terem sido gerados por IA.
"À medida que essas capacidades avançam e se tornam mais amplamente disponíveis, surgem questões sobre autenticidade, contexto e verificação", afirmou Pushmeet Kohli, Vice-Presidente de Ciência e Iniciativas Estratégicas do Google DeepMind. O portal busca responder a essas preocupações ao oferecer transparência essencial no cenário em rápida evolução das mídias generativas.
A tecnologia SynthID já marcou mais de 10 bilhões de conteúdos desde seu lançamento inicial em 2023. Originalmente focada em imagens geradas por IA, a tecnologia foi expandida para cobrir textos, áudios e vídeos criados pelos modelos Gemini, Imagen, Lyria e Veo do Google.
Embora o SynthID represente um avanço significativo na verificação de conteúdo, ele possui limitações. O sistema funciona principalmente dentro do ecossistema do Google, embora a empresa tenha feito parceria com a NVIDIA para marcar vídeos do modelo Cosmos. Além disso, o Google reconhece que o SynthID não é infalível e pode ser burlado, especialmente em textos ou por meio de modificações extremas em imagens.
Um estudo da Universidade de Maryland constatou que técnicas adversariais podem frequentemente remover marcas d’água de IA, com os pesquisadores concluindo que "as marcas d’água agregam valor aos esforços de transparência, mas não oferecem segurança absoluta contra manipulação de conteúdo gerado por IA".
Para ampliar o alcance do SynthID, o Google tornou seu framework de marcação de texto open source e firmou parceria com a GetReal Security para verificação por terceiros. A empresa está atualmente disponibilizando o SynthID Detector para testadores iniciais, com jornalistas, profissionais de mídia e pesquisadores podendo se inscrever em uma lista de espera para obter acesso.