Google направи сериозна крачка напред в борбата срещу дезинформацията, генерирана от изкуствен интелект, с представянето на SynthID Detector – цялостен портал за верификация, обявен на Google I/O 2025 през май.
Новият инструмент позволява на потребителите бързо да установят дали изображения, аудио, видео или текст са създадени с AI инструментите на Google, като открива невидими водни знаци, вградени по време на създаването на съдържанието. SynthID Detector не само потвърждава наличието на водни знаци, но и подчертава конкретни части, които най-вероятно са генерирани от изкуствен интелект.
„Напредъкът в генеративния изкуствен интелект дава възможност на хората да създават съдържание по напълно нови начини“, заяви Пушмит Кохли, вицепрезидент по науката и стратегическите инициативи в Google DeepMind. „С разширяването и по-широкото разпространение на тези възможности възникват въпроси за автентичността, контекста и верификацията.“
Технологията представлява значимо постижение в мащаб, като Google разкри, че над 10 милиарда елемента съдържание вече са маркирани със SynthID от първоначалното му пускане през 2023 г. Системата за водни знаци работи в цялата AI екосистема на Google, включително съдържание, генерирано от моделите Gemini, Imagen, Lyria и Veo.
За да разшири обхвата на SynthID извън собствените си продукти, Google направи рамката за водни знаци в текстовете с отворен код и си партнира с компании като NVIDIA за маркиране на видеа, генерирани от техните AI модели. Компанията също така си сътрудничи с GetReal Security за подобряване на възможностите за откриване на водни знаци SynthID.
Въпреки че SynthID Detector предлага обещаващи решения за верификация на съдържание, Google признава неговите ограничения. Системата работи основно в екосистемата на Google и може да бъде заобиколена чрез сериозни модификации на изображения или цялостно пренаписване на текст. Въпреки тези предизвикателства, инструментът представлява важна стъпка към изграждане на доверие в дигиталния свят, все по-силно доминиран от съдържание, генерирано от изкуствен интелект.
Журналисти, медийни специалисти и изследователи, които се интересуват от ранен достъп до SynthID Detector, могат да се запишат в списъка с чакащи на Google, докато компанията се подготвя за по-широко пускане на инструмента през следващите седмици.