По мере того как ИИ-контент становится все более сложным и распространённым, Google представила мощный инструмент для решения растущих проблем цифровой подлинности и прозрачности.
Анонсированный на Google I/O 2025, SynthID Detector — это портал для верификации, позволяющий быстро определить, был ли контент создан с помощью ИИ-инструментов Google. Система сканирует загружаемые файлы на наличие невидимых водяных знаков SynthID, которые Google внедряет непосредственно в сгенерированный ИИ-контент без потери его качества.
Детектор способен анализировать изображения, аудио, видео и текст, созданные ИИ-моделями Google, такими как Gemini, Imagen, Lyria и Veo. При обнаружении водяного знака портал выделяет конкретные фрагменты контента, где он, скорее всего, присутствует — например, отдельные сегменты аудиодорожки или области изображения.
«По мере развития этих технологий и их широкого распространения возникают вопросы подлинности, контекста и проверки», — говорится в заявлении Google. Компания сообщает, что с 2023 года с помощью SynthID уже было помечено более 10 миллиардов единиц контента, что свидетельствует о значительном внедрении технологии.
Однако у SynthID Detector есть ограничения. В первую очередь он определяет контент, созданный ИИ-моделями Google или партнёрами, такими как NVIDIA, которые интегрировали SynthID. Контент, созданный другими системами, например ChatGPT от OpenAI, не будет обнаружен. Эффективность водяных знаков также снижается на очень коротких текстах, при сильном редактировании или переводе на другие языки.
Для расширения экосистемы Google открыла исходный код для водяных знаков в текстах SynthID, позволяя разработчикам внедрять технологию в свои модели. Также компания заключила партнёрство с платформой GetReal Security для расширения возможностей обнаружения.
В настоящее время SynthID Detector доступен первым тестировщикам — журналисты, медиа-специалисты и исследователи могут записаться в лист ожидания, а более широкий запуск ожидается в ближайшие недели. На фоне роста числа дипфейков на 550% с 2019 по 2024 год, по некоторым оценкам, такие инструменты, как SynthID Detector, становятся важным шагом к формированию доверия в мире, где всё больше цифрового контента создаётся ИИ.