Aikana, jolloin ihmisen tuottaman ja tekoälyn generoiman sisällön erottaminen toisistaan on yhä vaikeampaa, Google on tuonut markkinoille uuden tärkeän työkalun taistelussa väärää tietoa ja deepfake-ilmiötä vastaan.
Google I/O 2025 -tapahtumassa toukokuussa esitelty SynthID Detector tarjoaa keskitetyn varmennusportaalin, johon käyttäjät voivat ladata mediaa selvittääkseen, sisältääkö se Googlen näkymättömän SynthID-vesileiman. Järjestelmä pystyy analysoimaan kuvia, tekstiä, ääntä ja videota, ja se korostaa erityisesti ne osat, joiden todennäköisyys olla tekoälyn tuottamia on suurin.
"Kun nämä kyvykkyydet kehittyvät ja yleistyvät, aitouden, kontekstin ja varmennuksen kysymykset nousevat esiin", totesi Pushmeet Kohli, Google DeepMindin Science and Strategic Initiatives -osaston varatoimitusjohtaja. Portaali vastaa näihin huoliin tarjoamalla olennaista läpinäkyvyyttä nopeasti muuttuvassa generatiivisen median kentässä.
SynthID-teknologialla on jo vesileimattu yli 10 miljardia sisältöä sen alkuperäisen julkaisun jälkeen vuonna 2023. Alun perin tekoälyllä tuotettuihin kuviin keskittynyt teknologia kattaa nyt myös tekstin, äänen ja videon, jotka on tuotettu Googlen Gemini-, Imagen-, Lyria- ja Veo-malleilla.
Vaikka SynthID on merkittävä edistysaskel sisällön varmentamisessa, sillä on myös rajoituksensa. Järjestelmä toimii pääasiassa Googlen ekosysteemissä, vaikka yhtiö onkin tehnyt yhteistyötä NVIDIAn kanssa vesileimatakseen Cosmos-mallilla tuotettuja videoita. Lisäksi Google myöntää, ettei SynthID ole aukoton ja että sitä voidaan kiertää, erityisesti tekstin kohdalla tai tekemällä äärimmäisiä muutoksia kuviin.
Marylandin yliopiston tutkimuksessa havaittiin, että vihamieliset tekniikat voivat usein poistaa tekoälyvesileimat. Tutkijat totesivat, että "vesileimoista on hyötyä läpinäkyvyyden lisäämisessä, mutta ne eivät tarjoa ehdotonta suojaa tekoälyn tuottaman sisällön manipulointia vastaan".
Laajentaakseen SynthID:n käyttöä Google on avannut tekstin vesileimauskehyksensä avoimeen lähdekoodiin ja tehnyt yhteistyötä GetReal Securityn kanssa kolmannen osapuolen varmennusta varten. Yhtiö ottaa parhaillaan SynthID Detectoria käyttöön varhaisille testaajille, ja toimittajat, mediatalojen ammattilaiset sekä tutkijat voivat liittyä jonotuslistalle saadakseen pääsyn.