Google a făcut un pas semnificativ în abordarea provocării tot mai mari de identificare a conținutului generat de inteligență artificială, odată cu lansarea oficială a portalului SynthID Detector pentru testeri timpurii, pe 12 iunie 2025.
Portalul de verificare, anunțat la Google I/O 2025 luna trecută, permite utilizatorilor să încarce imagini, fișiere audio, video sau text pentru a determina dacă acestea au fost create folosind instrumentele AI ale Google. Atunci când este detectat un watermark SynthID, sistemul evidențiază porțiunile specifice din conținut cel mai probabil să conțină watermark-ul, oferind informații detaliate, nu doar răspunsuri de tip da sau nu.
„Pe măsură ce capabilitățile AI generative avansează și devin tot mai accesibile, apar întrebări legate de autenticitate, context și verificare”, a declarat Pushmeet Kohli, Vicepreședinte al departamentului de Știință și Inițiative Strategice la Google DeepMind. Instrumentul își propune să ofere transparență esențială într-un peisaj media generat de AI în continuă schimbare.
De la introducerea inițială în 2023, SynthID s-a extins de la watermarking-ul imaginilor la acoperirea conținutului text, audio și video generat de modelele Gemini, Imagen, Lyria și Veo ale Google. Potrivit companiei, peste 10 miliarde de materiale au fost deja marcate cu această tehnologie, care rămâne detectabilă chiar și atunci când conținutul suferă diverse transformări sau este distribuit pe diferite platforme.
Deși momentan limitat la detectarea conținutului creat cu instrumentele AI ale Google, compania lucrează la extinderea ecosistemului SynthID. Google a open-sourcit deja cadrul de watermarking pentru text și a încheiat un parteneriat cu NVIDIA pentru a marca video-urile generate de modelul Cosmos. În plus, platforma de verificare a conținutului GetReal Security va putea verifica watermark-urile SynthID.
Instrumentul are totuși limitări. Nu poate detecta conținut AI generat de platforme care nu utilizează watermark-uri SynthID, precum ChatGPT de la OpenAI sau instrumentele AI de la Meta. Experții mai subliniază că modificările extreme ale imaginilor sau tehnicile adversariale pot, potențial, să ocolească watermark-urile.
Jurnaliștii, profesioniștii din media și cercetătorii interesați să acceseze SynthID Detector se pot înscrie pe lista de așteptare a Google, disponibilitatea extinsă fiind așteptată în următoarele săptămâni.