À une époque où il devient de plus en plus difficile de distinguer le contenu créé par des humains de celui généré par l’IA, Google introduit un nouvel outil essentiel dans la lutte contre la désinformation et les deepfakes.
Annoncé lors de Google I/O 2025 en mai, SynthID Detector offre un portail centralisé de vérification où les utilisateurs peuvent téléverser des médias afin de déterminer s’ils contiennent les filigranes invisibles SynthID de Google. Le système peut analyser des images, du texte, de l’audio et de la vidéo, en mettant en évidence les parties les plus susceptibles d’avoir été générées par l’IA.
« À mesure que ces capacités progressent et deviennent plus largement accessibles, des questions d’authenticité, de contexte et de vérification émergent », a déclaré Pushmeet Kohli, vice-président Science et Initiatives stratégiques chez Google DeepMind. Le portail répond à ces préoccupations en offrant une transparence essentielle dans un paysage médiatique génératif en pleine évolution.
La technologie SynthID a déjà marqué plus de 10 milliards de contenus depuis son lancement initial en 2023. D’abord axée sur les images générées par l’IA, Google a élargi la technologie pour couvrir également le texte, l’audio et la vidéo produits par ses modèles Gemini, Imagen, Lyria et Veo.
Bien que SynthID représente une avancée majeure en matière de vérification de contenu, le système comporte certaines limites. Il fonctionne principalement dans l’écosystème de Google, même si l’entreprise s’est associée à NVIDIA pour marquer les vidéos issues de leur modèle Cosmos. De plus, Google reconnaît que SynthID n’est pas infaillible et peut être contourné, notamment pour le texte ou en cas de modifications extrêmes apportées aux images.
Une étude de l’Université du Maryland a révélé que des techniques adversariales peuvent souvent supprimer les filigranes d’IA, les chercheurs concluant que « les filigranes offrent une valeur en matière de transparence, mais n’apportent pas une sécurité absolue contre la manipulation de contenu généré par l’IA ».
Pour élargir la portée de SynthID, Google a rendu public son cadre de filigranage de texte et s’est associé à GetReal Security pour la vérification par des tiers. L’entreprise déploie actuellement SynthID Detector auprès de premiers testeurs, les journalistes, professionnels des médias et chercheurs pouvant s’inscrire sur une liste d’attente pour y accéder.