À l’heure où il devient de plus en plus difficile de distinguer les contenus créés par l’homme de ceux générés par l’intelligence artificielle, Google introduit un nouvel outil essentiel dans la lutte contre la désinformation et les deepfakes.
Annoncé en mai lors de Google I/O 2025, SynthID Detector offre un portail centralisé de vérification où les utilisateurs peuvent téléverser des médias afin de déterminer s’ils contiennent les filigranes invisibles SynthID de Google. Le système est capable d’analyser images, textes, audios et vidéos, en mettant en évidence les parties les plus susceptibles d’être générées par l’IA.
« À mesure que ces capacités progressent et deviennent plus largement accessibles, des questions d’authenticité, de contexte et de vérification se posent », a déclaré Pushmeet Kohli, vice-président Science et Initiatives Stratégiques chez Google DeepMind. Ce portail répond à ces préoccupations en offrant une transparence essentielle dans le paysage en rapide évolution des médias génératifs.
La technologie SynthID a déjà marqué plus de 10 milliards de contenus depuis son lancement initial en 2023. D’abord centrée sur l’imagerie générée par l’IA, Google a élargi la technologie pour couvrir également les textes, audios et vidéos produits par ses modèles Gemini, Imagen, Lyria et Veo.
Si SynthID représente une avancée majeure dans la vérification des contenus, la solution présente toutefois des limites. Le système fonctionne principalement dans l’écosystème Google, même si l’entreprise s’est associée à NVIDIA pour marquer les vidéos issues de leur modèle Cosmos. Google reconnaît également que SynthID n’est pas infaillible et peut être contourné, notamment avec les textes ou via des modifications extrêmes des images.
Une étude de l’Université du Maryland a montré que des techniques adversariales peuvent souvent supprimer les filigranes d’IA, les chercheurs concluant que « les filigranes apportent une valeur en matière de transparence, mais n’offrent pas une sécurité absolue contre la manipulation de contenus générés par l’IA ».
Pour étendre la portée de SynthID, Google a rendu open source son framework de filigranage de texte et s’est associé à GetReal Security pour la vérification par des tiers. L’entreprise déploie actuellement SynthID Detector auprès des premiers testeurs, les journalistes, professionnels des médias et chercheurs pouvant s’inscrire sur une liste d’attente pour y accéder.