Google зробила значний крок у боротьбі з дезінформацією, створеною штучним інтелектом, представивши SynthID Detector — комплексний портал для перевірки автентичності, який був анонсований на Google I/O 2025 у травні.
Новий інструмент дозволяє користувачам швидко визначати, чи були зображення, аудіо, відео або текст створені за допомогою інструментів ШІ від Google, шляхом виявлення невидимих водяних знаків, вбудованих у процесі створення контенту. SynthID Detector не лише підтверджує наявність водяних знаків, а й виділяє конкретні фрагменти, які, ймовірно, були згенеровані ШІ.
«Досягнення у сфері генеративного ШІ дають людям змогу створювати контент абсолютно новими способами», — зазначив Пушміт Кохлі, віцепрезидент з науки та стратегічних ініціатив Google DeepMind. «Із розвитком цих можливостей та їх широким впровадженням виникають питання автентичності, контексту та перевірки».
Технологія стала значним досягненням за масштабами: Google повідомила, що з моменту першого запуску у 2023 році понад 10 мільярдів одиниць контенту вже були позначені водяними знаками SynthID. Ця система працює в екосистемі ШІ Google, зокрема з контентом, створеним моделями Gemini, Imagen, Lyria та Veo.
Щоб розширити використання SynthID поза межами власних продуктів, Google відкрила вихідний код фреймворку для водяних знаків у тексті та співпрацює з такими компаніями, як NVIDIA, для маркування відео, створених їхніми ШІ-моделями. Компанія також об'єднала зусилля з GetReal Security для підвищення ефективності виявлення водяних знаків SynthID.
Попри перспективність рішень для перевірки контенту, Google визнає обмеження системи. SynthID Detector переважно працює в екосистемі Google і може бути обійдений у разі суттєвих змін зображень або повного переписування тексту. Незважаючи на ці виклики, інструмент є важливим кроком до встановлення довіри у все більш цифровому світі, де контент генерується ШІ.
Журналісти, медіафахівці та дослідники, які зацікавлені в ранньому доступі до SynthID Detector, можуть приєднатися до списку очікування Google, поки компанія готується до ширшого запуску найближчими тижнями.