생성형 AI가 인간과 기계가 만든 콘텐츠의 경계를 모호하게 만드는 가운데, 구글이 디지털 신뢰를 지키기 위한 중요한 도구를 선보였다. 구글 I/O 2025에서 공개된 'SynthID Detector' 포털은 구글의 보이지 않는 SynthID 워터마크가 삽입된 콘텐츠를 검증할 수 있는 중앙화된 플랫폼을 제공한다.
이 기술은 업로드된 미디어에서 AI 생성 과정 중 삽입된 미세한 워터마크를 스캔해 감지한다. 워터마크가 발견되면, 시스템은 이미지의 특정 영역, 오디오나 비디오의 일부 구간, 텍스트의 특정 부분 등 워터마크가 포함된 위치를 정확히 표시한다. 이러한 세밀한 접근 방식은 사용자가 단순히 AI 생성 여부뿐 아니라, 어떤 부분이 구글의 AI 도구로 생성 또는 수정됐는지까지 파악할 수 있게 해준다.
SynthID는 2023년 첫 도입 이후 큰 발전을 이뤘다. 초기에는 이미지에만 적용됐으나, 현재는 모든 주요 콘텐츠 유형으로 확장됐으며, 구글의 AI 생태계 전반에서 작동한다. 텍스트는 Gemini, 이미지는 Imagen, 오디오는 Lyria, 비디오는 Veo 등 다양한 구글 AI 모델에 적용되고 있다. 지금까지 100억 개 이상의 콘텐츠에 워터마크가 삽입되며 광범위하게 활용되고 있다.
구글은 SynthID의 적용 범위를 자사 생태계를 넘어 확장하기 위해 NVIDIA와 협력, Cosmos 마이크로서비스로 생성된 비디오에도 워터마크를 적용하고, GetReal Security와 파트너십을 맺어 서드파티 검증 기능을 제공한다. 또한, SynthID 텍스트 워터마킹 프레임워크를 오픈소스로 공개해 개발자들이 자체 모델에 기술을 적용할 수 있도록 했다.
이러한 진전에도 불구하고 SynthID에는 한계가 존재한다. 주로 구글의 AI 도구나 워터마킹 기술을 사용하는 콘텐츠에만 적용되며, OpenAI의 ChatGPT 등 타사 AI에서 생성된 콘텐츠는 감지할 수 없다. 또한, 구글은 SynthID가 완벽하지 않으며, 특히 텍스트가 과도하게 재작성되거나 번역될 경우 워터마크 감지가 어려울 수 있음을 인정했다.
SynthID Detector는 현재 초기 테스터에게 제공되고 있으며, 언론인, 미디어 전문가, 연구자들이 대기자 명단에 등록해 접근할 수 있다. AI 생성 콘텐츠가 점점 정교해지는 현시점에서 SynthID와 같은 도구는 디지털 환경에서 투명성을 확보하고 허위정보에 대응하는 데 중요한 역할을 할 것으로 기대된다.