В отговор на експлозивния ръст на медии, генерирани от изкуствен интелект, и нарастващите опасения относно автентичността, Google представи SynthID Detector – усъвършенстван инструмент за верификация, предназначен да разпознава съдържание, създадено с помощта на AI технологиите на компанията.
Обявен на Google I/O 2025, SynthID Detector работи чрез сканиране на качени медийни файлове за невидими дигитални водни знаци, които Google вгражда в съдържанието, генерирано от нейните AI модели, включително Gemini, Imagen, Lyria и Veo. Когато бъде открит воден знак, порталът прецизно идентифицира кои части от съдържанието най-вероятно го съдържат – посочвайки конкретни сегменти в аудио записи или подчертавайки определени зони в изображенията.
Технологията отговаря на належдаща нужда в съвременната дигитална среда. По последни оценки, само дийпфейк видеата са нараснали с 550% между 2019 и 2024 г., като значителна част от най-гледаните публикации в социалните мрежи вече съдържат елементи, генерирани от ИИ. Системата за водни знаци на SynthID е проектирана да остане откриваема дори при различни трансформации на съдържанието, осигурявайки надежден метод за верификация.
"Прозрачността на съдържанието остава сложен проблем", отбелязват от Google в съобщението си. За да разшири обхвата на технологията, Google си партнира с NVIDIA за маркиране на видеа, генерирани от модела NVIDIA Cosmos, както и с GetReal Security за по-широки възможности за откриване. Освен това, Google предостави като отворен код технологията за воден знак в текстовете на SynthID, което позволява на разработчиците да я интегрират в собствените си модели.
Все пак, SynthID Detector има и ограничения. Той работи основно в екосистемата на Google и не може да открива съдържание, създадено с инструменти на други компании като Microsoft, Meta или OpenAI, които са разработили собствени технологии за воден знак. Експертите също така отбелязват, че водните знаци потенциално могат да бъдат премахнати чрез противникови техники.
В момента инструментът е достъпен за ранни тестери чрез система с изчакване, насочена към журналисти, изследователи и медийни професионалисти. SynthID Detector представлява важна стъпка към изграждане на доверие в свят, в който съдържанието, генерирано от ИИ, става все по-масово. С разширяването на достъпа до инструмента през следващите седмици, Google отбелязва значим етап в усилията за запазване на автентичността в дигиталните медии.