AI 생성 미디어의 폭발적 증가와 진위성에 대한 우려가 커지는 가운데, 구글이 자사의 AI 기술로 제작된 콘텐츠를 식별하는 고도화된 인증 도구 'SynthID Detector'를 공개했다.
구글 I/O 2025에서 발표된 SynthID Detector는 사용자가 업로드한 미디어에서 구글의 AI 모델(Gemini, Imagen, Lyria, Veo 등)이 삽입한 보이지 않는 디지털 워터마크를 스캔해 감지한다. 워터마크가 발견되면, 포털은 이미지의 특정 영역을 하이라이트하거나 오디오 트랙의 특정 구간을 집어내는 등, 워터마크가 포함됐을 가능성이 높은 부분을 정확히 식별한다.
이 기술은 오늘날 디지털 환경에서 시급히 요구되는 과제를 해결한다. 최근 추산에 따르면, 딥페이크 영상은 2019년 대비 2024년 550% 증가했으며, 소셜미디어에서 높은 조회수를 기록하는 게시물 중 상당수가 AI 생성 요소를 포함하고 있다. SynthID의 워터마킹 시스템은 콘텐츠가 다양한 변형을 거치더라도 감지가 가능하도록 설계돼, 신뢰성 있는 검증 수단을 제공한다.
구글은 발표에서 “콘텐츠 투명성은 여전히 복잡한 과제”라고 강조했다. 구글은 기술 확산을 위해 NVIDIA와 협력해 NVIDIA Cosmos 모델로 생성된 영상에도 워터마크를 적용하고, GetReal Security와의 협업을 통해 더 넓은 감지 범위를 확보했다. 또한 SynthID의 텍스트 워터마킹 기술을 오픈소스로 공개해, 개발자들이 자체 모델에 적용할 수 있도록 했다.
다만 SynthID Detector는 한계도 있다. 주로 구글 생태계 내에서 작동하며, 마이크로소프트, 메타, 오픈AI 등 타사 도구로 생성된 콘텐츠는 감지할 수 없다. 전문가들은 또한 적대적 기법을 통해 워터마크가 제거될 가능성도 있다고 지적한다.
현재 SynthID Detector는 대기자 명단을 통해 언론인, 연구자, 미디어 전문가 등 일부에게 우선 제공되고 있다. 구글은 향후 몇 주 내에 접근성을 확대할 계획이며, 이는 AI 생성 콘텐츠가 일상화되는 시대에 디지털 미디어의 신뢰성을 지키기 위한 중요한 이정표로 평가된다.