Google сделала важный шаг к решению растущей проблемы идентификации контента, созданного искусственным интеллектом, официально запустив портал SynthID Detector для первых тестировщиков 12 июня 2025 года.
Портал верификации, анонсированный на Google I/O 2025 в прошлом месяце, позволяет пользователям загружать изображения, аудио, видео или текст, чтобы определить, были ли они созданы с помощью ИИ-инструментов Google. При обнаружении водяного знака SynthID система выделяет конкретные участки контента, которые с наибольшей вероятностью содержат этот знак, предоставляя детализированную информацию вместо простого ответа «да» или «нет».
«По мере развития генеративного ИИ и его широкого распространения возникают вопросы подлинности, контекста и верификации», — отметил Пушмит Кохли, вице-президент по науке и стратегическим инициативам Google DeepMind. Инструмент призван обеспечить необходимую прозрачность в быстро меняющемся мире ИИ-контента.
С момента первого представления в 2023 году SynthID расширил сферу применения: от водяных знаков на изображениях до маркировки текста, аудио и видео, созданных моделями Google Gemini, Imagen, Lyria и Veo. По данным Google, более 10 миллиардов единиц контента уже были помечены этой технологией, которая остаётся обнаруживаемой даже после различных преобразований или распространения на разных платформах.
Пока что инструмент ограничен обнаружением контента, созданного только с помощью ИИ-инструментов Google, однако компания работает над расширением экосистемы SynthID. Уже открыт исходный код фреймворка для водяных знаков в текстах, а также налажено сотрудничество с NVIDIA для маркировки видео, сгенерированных моделью Cosmos. Кроме того, платформа проверки контента GetReal Security сможет подтверждать наличие водяных знаков SynthID.
Инструмент имеет и ограничения. Он не способен обнаруживать ИИ-контент, созданный платформами, не использующими водяные знаки SynthID, такими как ChatGPT от OpenAI или инструменты ИИ от Meta. Эксперты также отмечают, что экстремальные модификации изображений или специальные обходные техники могут позволить скрыть водяные знаки.
Журналисты, работники медиа и исследователи, желающие получить доступ к SynthID Detector, могут записаться в лист ожидания Google. Ожидается, что в ближайшие недели инструмент станет доступен более широкому кругу пользователей.