인간과 AI가 만든 콘텐츠를 구분하기 점점 어려워지는 시대에, 구글은 I/O 2025 개발자 컨퍼런스에서 강력한 신규 인증 도구를 선보였다.
SynthID Detector 포털은 구글의 AI 시스템이 삽입한 보이지 않는 워터마크를 스캔해 AI 생성 콘텐츠를 신속하게 식별할 수 있게 해준다. 사용자가 Gemini, Imagen, Lyria, Veo 등 구글의 AI 도구로 만든 이미지, 오디오, 비디오, 텍스트를 업로드하면, 포털은 해당 콘텐츠에 SynthID 워터마크가 포함되어 있는지 여부뿐 아니라 워터마크가 삽입된 가능성이 높은 특정 부분까지 하이라이트해준다.
이 기술은 AI 생성 미디어가 인터넷에 범람하는 현 시점에서 매우 중요한 필요를 충족한다. 최근 추산에 따르면, 딥페이크 영상은 2019년에서 2024년 사이 550% 증가했으며, 조회 수가 높은 소셜 미디어 게시물의 상당수가 AI 생성 콘텐츠를 포함하고 있다. SynthID의 워터마킹 시스템은 크롭, 리사이즈 등 변형이 이뤄져도 감지력을 유지해, AI 출처를 숨기려는 시도에도 효과적으로 대응한다.
구글은 이미 전략적 파트너십을 통해 SynthID의 적용 범위를 자사 생태계 밖으로 확장했다. 텍스트 워터마킹 기술을 오픈소스로 공개했으며, NVIDIA와 협력해 NVIDIA의 Cosmos 모델이 생성한 비디오에도 워터마크를 적용한다. 또한 GetReal Security와의 협업을 통해 SynthID 워터마크의 외부 검증도 가능해져, 더욱 신뢰할 수 있는 디지털 생태계 구축에 기여하고 있다.
SynthID Detector는 콘텐츠 인증에 큰 진전을 이뤘지만 한계도 있다. 이 도구는 주로 구글의 AI 모델과 워터마킹 기술을 사용하는 콘텐츠에만 적용되며, 타 플랫폼에서 생성된 콘텐츠는 감지할 수 없다. 또한 워터마킹은 콘텐츠 오용을 사전에 막는 것이 아니라 사후에만 탐지할 수 있다는 점에서 한계가 있다는 지적도 있다.
SynthID Detector는 현재 일부 초기 테스터에게만 제공되고 있으며, 언론인, 미디어 전문가, 연구자, 교육자 등은 대기자 명단에 등록해 접근 권한을 신청할 수 있다. 구글은 이 중요한 도구를 더욱 정교하게 다듬어 수주 내로 더 폭넓게 공개할 계획이다.