В епоха, в която разграничаването между съдържание, създадено от хора, и такова, генерирано от изкуствен интелект, става все по-трудно, Google представи ключов нов инструмент в борбата срещу дезинформацията и дийпфейковете.
Обявен през май на Google I/O 2025, SynthID Detector предоставя централен портал за верификация, където потребителите могат да качват медийни файлове, за да проверят дали съдържат невидимите водни знаци на Google SynthID. Системата може да анализира изображения, текст, аудио и видео, като подчертава конкретни части, които най-вероятно са генерирани от AI.
"С напредъка и по-широката достъпност на тези възможности възникват въпроси за автентичността, контекста и верификацията", заяви Пушмит Кохли, вицепрезидент по науката и стратегическите инициативи в Google DeepMind. Порталът адресира тези опасения, като осигурява необходимата прозрачност в бързо развиващия се свят на генеративните медии.
Технологията SynthID вече е маркирала над 10 милиарда съдържания от първоначалното си пускане през 2023 г. Първоначално фокусирана върху AI-генерирани изображения, Google разшири технологията, за да обхване текст, аудио и видео, създадени от моделите Gemini, Imagen, Lyria и Veo.
Въпреки че SynthID представлява значителен напредък във верификацията на съдържание, системата има и ограничения. Тя работи основно в екосистемата на Google, въпреки че компанията си партнира с NVIDIA за маркиране на видеа, генерирани от модела Cosmos. Освен това Google признава, че SynthID не е безупречен и може да бъде заобиколен, особено при текст или при екстремни модификации на изображения.
Изследване на Университета на Мериленд установява, че противникови техники често могат да премахнат AI водните знаци, като изследователите заключават: "Водните знаци имат стойност за прозрачността, но не осигуряват абсолютна защита срещу манипулация на AI-генерирано съдържание."
За да разшири обхвата на SynthID, Google направи рамката за маркиране на текст с отворен код и си партнира с GetReal Security за верификация от трети страни. Компанията в момента предоставя SynthID Detector на първите тестери, като журналисти, медийни професионалисти и изследователи могат да се включат в листата на чакащи за достъп.