구글은 AI 기반 허위정보와의 전쟁에서 한 단계 도약하며, 2025년 5월 Google I/O에서 종합 인증 포털인 'SynthID Detector'를 공개했다.
이 새로운 도구는 사용자가 이미지, 오디오, 비디오, 텍스트 등 다양한 미디어가 구글의 AI 도구로 생성되었는지 여부를 신속하게 확인할 수 있도록 지원한다. 이는 콘텐츠 생성 과정에서 삽입된 보이지 않는 워터마크를 감지하는 방식으로 작동한다. SynthID Detector는 콘텐츠에 워터마크가 포함되어 있는지 확인할 뿐만 아니라, AI로 생성되었을 가능성이 높은 특정 부분도 강조해준다.
구글 딥마인드의 과학 및 전략 이니셔티브 부문 부사장 푸시밋 콜리(Pushmeet Kohli)는 "생성형 AI의 발전으로 사람들이 완전히 새로운 방식으로 콘텐츠를 만들 수 있게 됐다"며, "이러한 기술이 발전하고 널리 보급됨에 따라 진위, 맥락, 검증에 대한 질문이 제기되고 있다"고 말했다.
이 기술은 대규모로 구현된 점에서 큰 의미가 있다. 구글은 2023년 최초 출시 이후 SynthID로 워터마크가 삽입된 콘텐츠가 이미 100억 건을 돌파했다고 밝혔다. 이 워터마킹 시스템은 Gemini, Imagen, Lyria, Veo 등 구글의 AI 모델로 생성된 콘텐츠 전반에 적용된다.
구글은 SynthID의 적용 범위를 자사 제품 외로 확대하기 위해 텍스트 워터마킹 프레임워크를 오픈소스로 공개했으며, NVIDIA와 협력해 이들의 AI 모델로 생성된 비디오에도 워터마크를 적용하고 있다. 또한 GetReal Security와의 협업을 통해 SynthID 워터마크 감지 기능도 강화했다.
SynthID Detector는 콘텐츠 검증에 유망한 솔루션을 제공하지만, 구글은 한계점도 인정한다. 이 시스템은 주로 구글 생태계 내에서 작동하며, 이미지에 극단적인 변형을 가하거나 텍스트를 완전히 재작성할 경우 우회가 가능하다. 그럼에도 불구하고, 이 도구는 AI가 생성하는 디지털 환경에서 신뢰를 구축하는 중요한 첫걸음으로 평가받고 있다.
초기 접근을 원하는 언론인, 미디어 전문가, 연구자들은 구글의 대기자 명단에 등록할 수 있으며, 향후 몇 주 내로 더 폭넓은 공개가 이뤄질 예정이다.