На конференции Google I/O 2025 технологический гигант представил SynthID Detector — новый портал для верификации, призванный ответить на растущие опасения по поводу подлинности контента, созданного ИИ, и распространения дезинформации.
Портал позволяет пользователям загружать медиафайлы, чтобы определить, были ли они созданы с помощью инструментов ИИ от Google. «Сегодня мы анонсируем SynthID Detector — портал для быстрой и эффективной идентификации контента, созданного с помощью Google AI. Портал обеспечивает обнаружение по разным типам данных в одном месте и предоставляет необходимую прозрачность в стремительно меняющемся мире генеративных медиа», — говорится в заявлении компании.
Если пользователь загружает изображение, аудиофайл, видео или текст, созданные с помощью ИИ-инструментов Google, портал сканирует медиа на наличие водяного знака SynthID. При обнаружении водяного знака система выделяет конкретные фрагменты контента, где он, скорее всего, присутствует. Для аудио портал указывает отдельные сегменты с водяным знаком, а для изображений — области, где он наиболее вероятен.
Запуск SynthID Detector происходит в критический момент. По оценкам, количество дипфейк-видео выросло на 550% с 2019 по 2024 год. Согласно The Times, из 20 самых просматриваемых публикаций на Facebook в США прошлой осенью четыре были «очевидно созданы ИИ».
Изначально SynthID был ориентирован только на изображения, сгенерированные ИИ, однако теперь Google расширила технологию и на текст, аудио и видео, включая контент, созданный моделями Gemini, Imagen, Lyria и Veo. Более 10 миллиардов единиц контента уже получили водяные знаки SynthID. Технология встраивает незаметные водяные знаки, которые остаются обнаруживаемыми даже после изменений, таких как обрезка, наложение фильтров или сжатие.
Для расширения экосистемы SynthID Google уже открыла исходный код для водяных знаков в тексте, чтобы любой разработчик мог использовать эту технологию и интегрировать её в собственные модели. Ранее в этом году компания сделала первый шаг к созданию партнерской экосистемы для распространения SynthID: Google заключила соглашение с NVIDIA о внедрении водяных знаков в видео, сгенерированные сервисом NVIDIA Cosmos™ preview NIM на build.nvidia.com. Это означает, что всё больше контента в интернете содержит встроенный SynthID, а не только тот, что создан Google.
Сегодня Google начинает предоставлять доступ к SynthID Detector первым тестировщикам, прежде чем сделать его более широко доступным. Журналисты, представители медиа и исследователи могут записаться в лист ожидания для получения доступа к детектору. Также компания сотрудничает с GetReal Security — ведущей платформой для верификации контента, чтобы расширить возможности обнаружения по всему интернету.