Într-o eră în care devine tot mai dificil să diferențiem conținutul creat de oameni de cel generat de inteligența artificială, Google a introdus un instrument esențial în lupta împotriva dezinformării și a deepfake-urilor.
Anunțat la Google I/O 2025 în luna mai, SynthID Detector oferă un portal centralizat de verificare unde utilizatorii pot încărca materiale media pentru a verifica dacă acestea conțin watermark-uri invizibile SynthID de la Google. Sistemul poate analiza imagini, texte, materiale audio și video, evidențiind porțiunile cel mai probabil generate de AI.
„Pe măsură ce aceste capabilități avansează și devin tot mai accesibile, apar întrebări legate de autenticitate, context și verificare”, a declarat Pushmeet Kohli, Vicepreședinte al departamentului de Știință și Inițiative Strategice la Google DeepMind. Portalul răspunde acestor preocupări, oferind transparență esențială într-un peisaj media generativ aflat într-o evoluție rapidă.
Tehnologia SynthID a marcat deja peste 10 miliarde de materiale de la lansarea sa inițială în 2023. Inițial concentrată pe imagini generate de AI, Google a extins tehnologia pentru a acoperi și texte, audio și video create de modelele sale Gemini, Imagen, Lyria și Veo.
Deși SynthID reprezintă un progres semnificativ în verificarea conținutului, există și limitări. Sistemul funcționează în principal în ecosistemul Google, deși compania a încheiat un parteneriat cu NVIDIA pentru a marca video-urile generate de modelul Cosmos. În plus, Google recunoaște că SynthID nu este infailibil și poate fi ocolit, în special în cazul textelor sau prin modificări extreme ale imaginilor.
Un studiu realizat de Universitatea din Maryland a arătat că tehnicile adversariale pot elimina adesea watermark-urile AI, cercetătorii concluzionând că „watermark-urile aduc valoare eforturilor de transparență, dar nu oferă securitate absolută împotriva manipulării conținutului generat de AI”.
Pentru a extinde impactul SynthID, Google a open-sourcuit cadrul său pentru watermarking-ul textului și a încheiat un parteneriat cu GetReal Security pentru verificare de la terți. Compania lansează în prezent SynthID Detector către primii testeri, iar jurnaliștii, profesioniștii din media și cercetătorii se pot înscrie pe o listă de așteptare pentru acces.