В епоху, коли дедалі складніше відрізнити контент, створений людиною, від матеріалів, згенерованих штучним інтелектом, Google представила важливий інструмент у боротьбі з дезінформацією та дипфейками.
Анонсований у травні на Google I/O 2025 SynthID Detector пропонує централізований портал для перевірки, де користувачі можуть завантажувати медіа, щоб визначити, чи містить воно невидимі водяні знаки SynthID від Google. Система аналізує зображення, текст, аудіо та відео, виділяючи фрагменти, які з найбільшою ймовірністю були створені ШІ.
«Із розвитком цих можливостей та їх ширшим розповсюдженням виникають питання автентичності, контексту й верифікації», — зазначив Пушміт Кохлі, віцепрезидент із науки та стратегічних ініціатив Google DeepMind. Портал покликаний забезпечити необхідну прозорість у стрімко мінливому світі генеративних медіа.
Технологія SynthID уже позначила водяними знаками понад 10 мільярдів одиниць контенту з моменту запуску в 2023 році. Спочатку вона була орієнтована на зображення, створені ШІ, але згодом Google розширила її на текст, аудіо та відео, згенеровані моделями Gemini, Imagen, Lyria та Veo.
Попри значний прогрес у верифікації контенту, SynthID має обмеження. Система переважно працює в екосистемі Google, хоча компанія співпрацює з NVIDIA для позначення відео, створених моделлю Cosmos. Крім того, Google визнає, що SynthID не є бездоганною і може бути обійдена, особливо у випадку з текстом або при суттєвих модифікаціях зображень.
Дослідження Університету Меріленду показало, що супротивні техніки часто здатні видаляти водяні знаки ШІ, і вчені дійшли висновку: «Водяні знаки корисні для прозорості, але не гарантують абсолютного захисту від маніпуляцій із контентом, створеним ШІ».
Щоб розширити застосування SynthID, Google відкрила вихідний код фреймворку для водяних знаків у тексті та уклала партнерство з GetReal Security для сторонньої перевірки. Наразі SynthID Detector доступний для ранніх тестувальників — журналісти, медіапрофесіонали та дослідники можуть приєднатися до списку очікування для отримання доступу.