AI 생성 콘텐츠가 점점 더 정교해지고 확산됨에 따라, 구글은 디지털 진위성과 투명성에 대한 우려를 해소하기 위한 강력한 신규 도구를 선보였다.
구글 I/O 2025에서 공개된 'SynthID 디텍터'는 사용자가 구글의 AI 도구로 생성된 콘텐츠인지 신속하게 확인할 수 있는 검증 포털이다. 이 시스템은 사용자가 업로드한 파일을 스캔해, 구글이 AI 생성 콘텐츠에 직접 삽입한 보이지 않는 SynthID 워터마크를 감지한다. 이 워터마크는 콘텐츠 품질에는 영향을 주지 않는다.
디텍터는 구글의 AI 모델(Gemini, Imagen, Lyria, Veo 등)로 생성된 이미지, 오디오, 비디오, 텍스트를 분석할 수 있다. 워터마크가 감지되면, 포털은 오디오 트랙의 특정 구간이나 이미지의 특정 영역 등 워터마크가 포함된 부분을 정확히 표시해준다.
구글은 발표문에서 "이러한 기술이 발전하고 널리 보급됨에 따라 진위성, 맥락, 검증에 대한 질문이 제기되고 있다"고 밝혔다. 구글에 따르면 2023년 SynthID 출시 이후 이미 100억 개 이상의 콘텐츠에 워터마크가 삽입되었으며, 이는 기술의 빠른 확산을 보여준다.
하지만 SynthID 디텍터에도 한계가 있다. 주로 구글 자체 AI 모델이나 SynthID 기술을 통합한 NVIDIA 등 파트너의 모델로 생성된 콘텐츠만 식별할 수 있다. OpenAI의 ChatGPT 등 타사 AI 시스템에서 생성된 콘텐츠는 감지되지 않는다. 또한 워터마크는 매우 짧은 텍스트, 과도하게 편집된 콘텐츠, 다른 언어로 번역된 경우에는 효과가 떨어질 수 있다.
구글은 생태계 확장을 위해 SynthID 텍스트 워터마킹 기술을 오픈소스로 공개해, 개발자들이 자체 모델에 적용할 수 있도록 했다. 또한 콘텐츠 검증 플랫폼인 GetReal Security와 협력해 감지 범위를 확대하고 있다.
현재 SynthID 디텍터는 초기 테스터에게 제공되고 있으며, 언론인, 미디어 전문가, 연구자들은 대기자 명단에 등록해 접근 권한을 신청할 수 있다. 앞으로 몇 주 내로 더 넓은 공개가 예상된다. 2019년부터 2024년까지 딥페이크 영상이 550% 증가했다는 일부 추정치에 비춰볼 때, SynthID 디텍터와 같은 도구는 AI 생성 디지털 환경에서 신뢰를 구축하는 중요한 진전으로 평가된다.