Google сделала значительный шаг вперёд в борьбе с дезинформацией, создаваемой искусственным интеллектом, представив SynthID Detector — комплексный портал для верификации, анонсированный на Google I/O 2025 в мае.
Новый инструмент позволяет пользователям быстро определить, были ли изображения, аудио, видео или текст созданы с помощью ИИ-инструментов Google, обнаруживая невидимые водяные знаки, внедрённые в процессе создания контента. SynthID Detector не только подтверждает наличие водяных знаков, но и выделяет конкретные фрагменты, которые с наибольшей вероятностью были сгенерированы искусственным интеллектом.
«Достижения в области генеративного ИИ позволяют людям создавать контент совершенно новыми способами», — отметил Пушмит Кохли, вице-президент по науке и стратегическим инициативам Google DeepMind. — «По мере развития этих возможностей и их широкого распространения возникают вопросы аутентичности, контекста и проверки».
Эта технология стала значимым достижением в масштабах: Google сообщила, что с момента первого запуска SynthID в 2023 году с его помощью были промаркированы более 10 миллиардов единиц контента. Система водяных знаков работает во всей экосистеме ИИ Google, включая контент, созданный моделями Gemini, Imagen, Lyria и Veo.
Чтобы расширить использование SynthID за пределами собственных продуктов, Google открыла исходный код фреймворка для водяных знаков в тексте и сотрудничает с такими компаниями, как NVIDIA, чтобы маркировать видео, созданные их ИИ-моделями. Компания также работает с GetReal Security для повышения эффективности обнаружения водяных знаков SynthID.
Хотя SynthID Detector предлагает перспективные решения для проверки контента, Google признаёт его ограничения. Система работает преимущественно в экосистеме Google и может быть обойдена при сильных изменениях изображений или глубокой переработке текста. Несмотря на эти сложности, инструмент является важным шагом к укреплению доверия в цифровой среде, где всё больше контента создаётся ИИ.
Журналисты, медиа-специалисты и исследователи, заинтересованные в раннем доступе к SynthID Detector, могут записаться в лист ожидания Google, пока компания готовится к более широкому запуску в ближайшие недели.