La Google I/O 2025, gigantul tehnologic a prezentat SynthID Detector, un nou portal de verificare conceput pentru a răspunde preocupărilor tot mai mari legate de autenticitatea și dezinformarea conținutului generat de AI.
Portalul permite utilizatorilor să încarce fișiere media pentru a determina dacă acestea au fost create folosind instrumentele AI ale Google. Astăzi anunțăm SynthID Detector, un portal de verificare care identifică rapid și eficient conținutul generat de AI cu ajutorul Google AI. Portalul oferă capabilități de detecție pentru diferite tipuri de conținut într-un singur loc și asigură transparență esențială într-un peisaj în continuă evoluție al mediilor generate de AI.
Când încărcați o imagine, o piesă audio, un videoclip sau un text creat cu instrumentele AI ale Google, portalul va scana materialul pentru a detecta un watermark SynthID. Dacă este identificat un watermark, portalul va evidenția porțiunile specifice ale conținutului cel mai probabil marcate. Pentru audio, portalul indică segmentele exacte unde este detectat watermark-ul SynthID, iar pentru imagini, evidențiază zonele cel mai probabil marcate.
Lansarea vine într-un moment critic. Debutul SynthID Detector are loc în contextul în care media generată de AI inundă internetul. Numărul videoclipurilor deepfake a crescut cu 550% între 2019 și 2024, potrivit unei estimări. Conform The Times, dintre cele mai vizualizate 20 de postări de pe Facebook în SUA, toamna trecută, patru au fost „evident create de AI”.
Deși inițial s-a concentrat doar pe imagini generate de AI, Google a extins SynthID pentru a acoperi și text, audio și video generate de AI, inclusiv conținut creat cu modelele Gemini, Imagen, Lyria și Veo. Peste 10 miliarde de materiale au fost deja marcate cu SynthID. Tehnologia inserează watermark-uri imperceptibile, care rămân detectabile chiar și atunci când conținutul este modificat prin decupare, filtrare sau compresie.
Pentru a extinde ecosistemul SynthID, Google a open-sourcizat deja tehnologia de watermarking pentru text SynthID, astfel încât orice dezvoltator să o poată integra în propriile modele. Mai mult, la începutul acestui an, Google a făcut primul pas spre crearea unui ecosistem de parteneri din industrie pentru a extinde utilizarea SynthID: compania a colaborat cu NVIDIA pentru a marca videoclipurile generate de serviciul NVIDIA Cosmos™ preview NIM pe build.nvidia.com. Acest lucru înseamnă că tot mai mult conținut de pe internet va include SynthID, nu doar cel generat de Google.
Google începe astăzi să ofere acces primilor testeri, urmând ca disponibilitatea să fie extinsă ulterior. Jurnaliștii, profesioniștii din media și cercetătorii se pot înscrie pe lista de așteptare pentru a obține acces la SynthID Detector. Compania a încheiat, de asemenea, un parteneriat cu GetReal Security, o platformă de top pentru verificarea conținutului, pentru a extinde și mai mult capabilitățile de detecție la nivel web.