Google направи значителна крачка към решаването на нарастващото предизвикателство с разпознаването на AI-генерирано съдържание с официалния старт на портала SynthID Detector за ранни тестери на 12 юни 2025 г.
Порталът за верификация, обявен по време на Google I/O 2025 миналия месец, позволява на потребителите да качват изображения, аудио, видео или текст, за да определят дали са създадени с помощта на AI инструментите на Google. Когато бъде открит воден знак SynthID, системата подчертава конкретни части от съдържанието, които най-вероятно съдържат водния знак, предоставяйки детайлна информация вместо просто дава отговор с „да“ или „не“.
„С напредъка и по-широкото разпространение на генеративния AI възникват въпроси за автентичността, контекста и верификацията“, заяви Пушмит Кохли, вицепрезидент по науката и стратегическите инициативи в Google DeepMind. Инструментът цели да осигури необходимата прозрачност в бързо развиващата се среда на AI-генерирани медии.
От първоначалното си въвеждане през 2023 г. SynthID се разшири от маркиране на изображения към текст, аудио и видео, генерирани от моделите Gemini, Imagen, Lyria и Veo на Google. По данни на компанията, над 10 милиарда произведения вече са маркирани с тази технология, която остава разпознаваема дори при различни трансформации на съдържанието или когато то се споделя между платформи.
В момента инструментът е ограничен до разпознаване на съдържание, създадено с AI инструментите на Google, но компанията работи за разширяване на екосистемата на SynthID. Google вече е направила своята рамка за водни знаци в текст с отворен код и е партнирала с NVIDIA за маркиране на видео, генерирано от модела им Cosmos. Освен това платформата за верификация GetReal Security ще може да проверява водни знаци SynthID.
Инструментът има и ограничения. Той не може да разпознава AI съдържание, генерирано от платформи, които не използват водни знаци SynthID, като ChatGPT на OpenAI или AI инструментите на Meta. Експерти отбелязват също, че екстремни модификации на изображения или използване на противникови техники могат потенциално да заобиколят водните знаци.
Журналисти, медийни професионалисти и изследователи, които желаят да получат достъп до SynthID Detector, могат да се запишат в списъка с чакащи на Google, като по-широка наличност се очаква през следващите седмици.