Face à la croissance fulgurante des médias générés par l’IA et aux inquiétudes croissantes concernant l’authenticité des contenus, Google a dévoilé SynthID Detector, un outil de vérification sophistiqué conçu pour identifier les contenus créés à l’aide des technologies d’IA de Google.
Annoncé lors de Google I/O 2025, SynthID Detector fonctionne en analysant les médias téléchargés à la recherche de filigranes numériques invisibles que Google intègre dans les contenus générés par ses modèles d’IA, notamment Gemini, Imagen, Lyria et Veo. Lorsqu’un filigrane est détecté, le portail identifie précisément les parties du contenu les plus susceptibles d’en contenir – en pointant des segments spécifiques dans les pistes audio ou en surlignant certaines zones dans les images.
Cette technologie répond à un besoin urgent dans le paysage numérique actuel. Selon des estimations récentes, les vidéos deepfake ont augmenté de 550 % entre 2019 et 2024, une part importante des publications les plus vues sur les réseaux sociaux comportant désormais des éléments générés par l’IA. Le système de filigranage de SynthID est conçu pour rester détectable même lorsque le contenu subit diverses transformations, offrant ainsi une méthode de vérification robuste.
« La transparence des contenus reste un défi complexe », a souligné Google dans son annonce. Pour étendre la portée de la technologie, Google s’est associé à NVIDIA afin de filigraner les vidéos générées par leur modèle NVIDIA Cosmos, ainsi qu’à GetReal Security pour élargir les capacités de détection. De plus, Google a rendu open source le filigranage de texte SynthID, permettant aux développeurs d’intégrer cette technologie dans leurs propres modèles.
Cependant, SynthID Detector présente certaines limites. Il fonctionne principalement dans l’écosystème Google et ne peut pas détecter les contenus créés avec des outils d’autres entreprises comme Microsoft, Meta ou OpenAI, qui ont développé leurs propres technologies de filigranage. Des experts soulignent également que les filigranes peuvent potentiellement être supprimés via des techniques d’attaque adversariale.
Actuellement disponible pour des testeurs précoces via une liste d’attente, avec un accent mis sur les journalistes, chercheurs et professionnels des médias, SynthID Detector constitue une étape importante vers l’établissement de la confiance dans un monde de plus en plus généré par l’IA. Alors que Google prévoit d’élargir l’accès à l’outil dans les semaines à venir, cela marque une avancée significative dans l’effort continu pour préserver l’authenticité des médias numériques.