생성형 AI가 디지털 콘텐츠 제작 방식을 빠르게 변화시키는 시대에, 구글은 콘텐츠의 진위성과 검증에 대한 우려를 해소하기 위해 SynthID Detector를 선보이며 중요한 진전을 이뤘다.
구글 I/O 2025에서 공개된 SynthID Detector는 구글의 SynthID 워터마크가 삽입된 AI 생성 콘텐츠를 식별할 수 있도록 설계된 전문 검증 포털이다. 이 보이지 않는 디지털 서명은 Gemini, Imagen, Lyria, Veo 등 구글의 AI 모델로 생성된 콘텐츠에 삽입된다. 2023년 첫 도입 이후, 이미 100억 건이 넘는 콘텐츠에 워터마크가 적용됐다.
이 디텍터는 업로드된 미디어 파일을 스캔해 SynthID 워터마크를 탐지하며, 전체 파일 또는 특정 부분에 AI 생성 요소가 포함되어 있는지 식별할 수 있다. 이미지의 경우 워터마크가 삽입된 가능성이 높은 영역을 표시하고, 오디오의 경우 특정 시간 구간을 지정해준다. 워터마크는 크롭, 필터, 압축 등 콘텐츠가 변형되어도 탐지 가능하다.
구글의 이번 조치는 2019년부터 2024년까지 딥페이크 영상이 550% 증가했다는 충격적인 통계 속에서 나왔다. 구글은 SynthID 생태계 확장을 위해 텍스트 워터마킹 기술을 오픈소스로 공개하고, 엔비디아와의 협력을 통해 Cosmos 모델로 생성된 영상에 워터마크를 적용하며, GetReal Security 등과 전략적 파트너십을 맺어 탐지 범위를 넓히고 있다.
하지만 SynthID Detector는 한계도 있다. 구글의 SynthID 사양을 사용하는 도구로 생성된 콘텐츠만 탐지할 수 있으며, 마이크로소프트, 메타, 오픈AI 등 타사의 AI 플랫폼에서 생성된 콘텐츠는 각 사의 워터마킹 기술을 사용하기 때문에 탐지 대상이 아니다.
SynthID Detector 포털은 현재 초기 테스터를 대상으로 순차적으로 제공되고 있으며, 언론인, 미디어 전문가, 연구자들은 대기자 명단에 등록해 접근 권한을 신청할 수 있다. 이번 조치는 AI 생성 디지털 환경에서 투명성과 신뢰를 강화하려는 구글의 의지를 보여준다.