С нарастващата сложност и разпространение на съдържание, генерирано от изкуствен интелект, Google представи мощен нов инструмент, който да отговори на нарастващите притеснения относно дигиталната автентичност и прозрачност.
Обявен по време на Google I/O 2025, SynthID Detector е портал за верификация, който позволява на потребителите бързо да идентифицират дали дадено съдържание е създадено с AI инструментите на Google. Системата работи чрез сканиране на качени файлове за невидими водни знаци SynthID, които Google вгражда директно в AI съдържанието, без да влияе на качеството му.
Детекторът може да анализира изображения, аудио, видео и текст, създадени от AI моделите на Google, включително Gemini, Imagen, Lyria и Veo. Когато бъде открит воден знак, порталът подчертава конкретните части от съдържанието, в които най-вероятно се намира той – например определени сегменти в аудио записи или специфични области в изображенията.
„С напредъка и по-широката достъпност на тези възможности възникват въпроси за автентичност, контекст и верификация“, заявиха от Google в анонса си. Компанията съобщава, че над 10 милиарда съдържания вече са маркирани със SynthID от старта на технологията през 2023 г., което показва значително възприемане.
Въпреки обещаващите възможности, SynthID Detector има и ограничения. Той основно разпознава съдържание, създадено с AI моделите на Google или на партньори като NVIDIA, които са интегрирали технологията SynthID. Съдържание, генерирано от други AI системи, като ChatGPT на OpenAI, няма да бъде засечено. Системата за водни знаци също става по-малко ефективна при много кратки текстове, силно редактирано съдържание или при превод на други езици.
За да разшири екосистемата, Google направи SynthID за текст с отворен код, позволявайки на разработчиците да внедряват технологията в собствените си модели. Компанията си партнира и с GetReal Security – платформа за верификация на съдържание, с цел разширяване на възможностите за детекция.
В момента инструментът е достъпен за ранни тестери, а журналисти, медийни професионалисти и изследователи могат да се запишат в списък с чакащи за достъп, като по-широка наличност се очаква през следващите седмици. Според някои оценки, дийпфейк видеата са се увеличили с 550% между 2019 и 2024 г., което прави инструменти като SynthID Detector важна стъпка към изграждане на доверие в един все по-генериран от AI дигитален свят.