Aikana, jolloin ihmisen ja tekoälyn tuottaman sisällön erottaminen on yhä vaikeampaa, Google on esitellyt uuden tehokkaan tunnistustyökalun I/O 2025 -kehittäjäkonferenssissaan.
SynthID Detector -portaali mahdollistaa tekoälyn tuottaman sisällön nopean tunnistamisen etsimällä Googlen tekoälyjärjestelmien upottamia näkymättömiä vesileimoja. Kun käyttäjä lataa kuvan, äänitiedoston, videon tai tekstin, joka on luotu Googlen tekoälytyökaluilla kuten Gemini, Imagen, Lyria tai Veo, portaali ei ainoastaan tunnista, löytyykö sisällöstä SynthID-vesileima, vaan myös korostaa todennäköisimmin vesileimatut kohdat.
Tämä teknologia vastaa kriittiseen tarpeeseen, sillä tekoälyn tuottama media tulvii internetiin. Tuoreiden arvioiden mukaan deepfake-videoiden määrä kasvoi 550 % vuosien 2019 ja 2024 välillä, ja merkittävä osa katsotuimmista sosiaalisen median julkaisuista sisältää nykyään tekoälyllä tuotettua sisältöä. SynthID:n vesileimausjärjestelmä säilyy havaittavana, vaikka sisältöä muokattaisiin esimerkiksi rajaamalla, muuttamalla kokoa tai tekemällä muita muutoksia, mikä tekee siitä erityisen tehokkaan tekoälyn alkuperän peittely-yrityksiä vastaan.
Google on laajentanut SynthID:n käyttöä oman ekosysteeminsä ulkopuolelle strategisten kumppanuuksien avulla. Yhtiö on avannut tekstin vesileimausteknologiansa avoimeen lähdekoodiin ja tehnyt yhteistyötä NVIDIAn kanssa, jotta NVIDIAn Cosmos-mallilla tuotetut videot voidaan vesileimata. Lisäksi yhteistyö GetReal Securityn kanssa mahdollistaa ulkopuolisen SynthID-vesileimojen varmentamisen, mikä auttaa rakentamaan luotettavampaa digitaalista ekosysteemiä.
Vaikka SynthID Detector on merkittävä edistysaskel sisällön varmentamisessa, sillä on myös rajoituksia. Työkalu toimii ensisijaisesti Googlen tekoälymalleilla ja niillä, jotka hyödyntävät sen vesileimausteknologiaa, joten muiden alustojen sisältö jää tunnistamatta. Kritiikkiä on myös siitä, ettei vesileimaus estä sisällön väärinkäyttöä, vaan mahdollistaa ainoastaan jälkikäteisen tunnistamisen.
SynthID Detector on tällä hetkellä saatavilla rajatulle joukolle varhaisia testaajia, ja toimittajat, mediatoimijat, tutkijat sekä opettajat voivat liittyä jonotuslistalle saadakseen käyttöoikeuden. Laajempi julkaisu on odotettavissa lähiviikkoina, kun Google jatkaa tämän tärkeän työkalun kehittämistä taistelussa tekoälyllä tuotettua misinformaatiota vastaan.