구글이 AI 생성 콘텐츠 식별이라는 점점 커지는 과제에 대응하기 위해 2025년 6월 12일, SynthID 디텍터 포털을 공식적으로 초기 테스터들에게 공개했다.
지난달 Google I/O 2025에서 발표된 이 검증 포털은 사용자가 이미지, 오디오, 비디오, 텍스트를 업로드해 해당 콘텐츠가 구글의 AI 도구로 생성된 것인지 확인할 수 있도록 한다. SynthID 워터마크가 감지되면, 시스템은 워터마크가 포함된 것으로 추정되는 특정 부분을 강조 표시해 단순한 예/아니오 답변이 아닌 세밀한 정보를 제공한다.
구글 딥마인드의 과학 및 전략 이니셔티브 부사장 푸쉬밋 콜리(Pushmeet Kohli)는 “생성형 AI의 역량이 발전하고 널리 보급됨에 따라 진위, 맥락, 검증에 대한 질문이 제기되고 있다”며, 이 도구가 빠르게 진화하는 AI 생성 미디어 환경에서 필수적인 투명성을 제공하는 것을 목표로 한다고 밝혔다.
2023년 처음 도입된 이후 SynthID는 이미지 워터마킹에서 출발해 구글의 Gemini, Imagen, Lyria, Veo 모델이 생성한 텍스트, 오디오, 비디오 콘텐츠까지 적용 범위를 넓혔다. 구글에 따르면 이미 100억 건 이상의 콘텐츠에 이 기술이 워터마크로 삽입되었으며, 다양한 변환이나 플랫폼 간 공유에도 워터마크가 감지 가능하다.
현재는 구글의 AI 도구로 생성된 콘텐츠만 감지할 수 있지만, 구글은 SynthID 생태계 확장에 박차를 가하고 있다. 이미 텍스트 워터마킹 프레임워크를 오픈소스로 공개했으며, NVIDIA와 협력해 Cosmos 모델로 생성된 비디오에도 워터마크를 적용하고 있다. 또한 콘텐츠 검증 플랫폼인 GetReal Security에서도 SynthID 워터마크 검증이 가능하다.
이 도구에도 한계는 있다. SynthID 워터마크를 사용하지 않는 OpenAI의 ChatGPT나 Meta의 AI 도구 등에서 생성된 AI 콘텐츠는 감지할 수 없다. 전문가들은 이미지에 극단적인 변형을 가하거나 적대적 기법을 사용할 경우 워터마크 우회가 가능하다고 지적한다.
SynthID 디텍터 사용을 원하는 언론인, 미디어 전문가, 연구자들은 구글의 대기자 명단에 등록할 수 있으며, 향후 몇 주 내로 더 넓은 공개가 이뤄질 예정이다.