인간이 만든 콘텐츠와 AI가 생성한 콘텐츠를 구별하기 점점 더 어려워지는 시대에, 구글은 허위 정보와 딥페이크에 맞서기 위한 중요한 도구를 선보였다.
2025년 5월 구글 I/O에서 발표된 'SynthID 디텍터'는 사용자가 미디어 파일을 업로드해 구글의 보이지 않는 SynthID 워터마크가 포함되어 있는지 확인할 수 있는 중앙화된 검증 포털을 제공한다. 이 시스템은 이미지, 텍스트, 오디오, 비디오를 분석해 AI 생성 가능성이 높은 특정 부분을 강조 표시한다.
구글 딥마인드의 과학 및 전략 이니셔티브 부사장 푸시밋 콜리(Pushmeet Kohli)는 "이러한 기술이 발전하고 널리 보급됨에 따라 진위, 맥락, 검증에 대한 질문이 제기된다"며, 이 포털이 생성형 미디어 환경의 빠른 변화 속에서 필수적인 투명성을 제공한다고 밝혔다.
SynthID 기술은 2023년 첫 출시 이후 이미 100억 개 이상의 콘텐츠에 워터마크를 적용했다. 처음에는 AI 생성 이미지에 집중했으나, 현재는 구글의 Gemini, Imagen, Lyria, Veo 모델로 생성된 텍스트, 오디오, 비디오까지 적용 범위를 확장했다.
SynthID는 콘텐츠 검증 분야에서 중요한 진전이지만 한계도 존재한다. 이 시스템은 주로 구글 생태계 내에서 작동하며, 구글은 NVIDIA와 협력해 그들의 Cosmos 모델로 생성된 비디오에도 워터마크를 적용하고 있다. 또한 구글은 SynthID가 완벽하지 않으며, 특히 텍스트나 이미지에 극단적인 변형을 가할 경우 우회될 수 있음을 인정했다.
메릴랜드 대학교 연구에 따르면, 적대적 기법을 통해 AI 워터마크를 제거할 수 있는 경우가 많으며, 연구진은 "워터마크는 투명성 확보에 기여하지만, AI 생성 콘텐츠 조작에 대한 절대적인 보안을 제공하지는 않는다"고 결론지었다.
구글은 SynthID의 확장성을 위해 텍스트 워터마킹 프레임워크를 오픈소스로 공개하고, 써드파티 검증을 위해 GetReal Security와 파트너십을 맺었다. 현재 구글은 SynthID 디텍터를 초기 테스터에게 제공하고 있으며, 언론인, 미디어 전문가, 연구자들은 대기자 명단을 통해 접근을 신청할 수 있다.