구글은 2025년 Google I/O에서 AI 생성 콘텐츠의 진위와 허위정보에 대한 우려가 커지는 가운데, 새로운 검증 포털인 SynthID Detector를 선보였다.
이 포털은 사용자가 미디어 파일을 업로드하면 해당 콘텐츠가 구글의 AI 도구로 생성된 것인지 확인할 수 있다. 오늘 우리는 Google AI로 생성된 AI 콘텐츠를 빠르고 효율적으로 식별할 수 있는 검증 포털, SynthID Detector를 발표합니다. 이 포털은 다양한 형태의 콘텐츠를 한 곳에서 감지할 수 있으며, 생성형 미디어가 빠르게 발전하는 환경에서 필수적인 투명성을 제공합니다.
이미지, 오디오, 비디오 또는 텍스트 등 구글 AI 도구로 생성된 미디어를 업로드하면, 포털이 SynthID 워터마크를 스캔한다. 워터마크가 감지되면, 해당 워터마크가 포함됐을 가능성이 높은 특정 부분을 하이라이트한다. 오디오의 경우 워터마크가 감지된 특정 구간을, 이미지의 경우 워터마크가 삽입된 영역을 표시한다.
이번 출시는 중요한 시점에 이루어졌다. SynthID Detector의 등장은 AI 생성 미디어가 웹을 빠르게 점령하는 상황에서 이루어졌다. 한 추정에 따르면, 딥페이크 영상의 수는 2019년부터 2024년까지 550% 급증했다. The Times에 따르면, 지난해 가을 미국 페이스북에서 가장 많이 본 상위 20개 게시물 중 4개가 '명백히 AI로 생성된' 콘텐츠였다.
초기에는 AI 생성 이미지에만 초점을 맞췄던 SynthID는 이제 텍스트, 오디오, 비디오 등으로 적용 범위를 넓혔다. Gemini, Imagen, Lyria, Veo 등 구글의 다양한 모델로 생성된 콘텐츠도 포함된다. 이미 100억 건 이상의 콘텐츠에 SynthID 워터마크가 삽입됐다. 이 기술은 크롭, 필터, 압축 등으로 콘텐츠가 변형돼도 감지 가능한 비가시적 워터마크를 삽입한다.
SynthID 생태계 확장을 위해, 구글은 이미 SynthID 텍스트 워터마킹을 오픈소스로 공개해, 모든 개발자가 이 기술을 활용해 자체 모델에 적용할 수 있도록 했다. 또한 올해 초, 업계 파트너들과의 협력 생태계 구축을 시작했다. 구글은 NVIDIA와 협력해, build.nvidia.com의 NVIDIA Cosmos™ 프리뷰 NIM 마이크로서비스로 생성된 영상에도 워터마크를 삽입하고 있다. 이제 구글이 생성한 콘텐츠뿐 아니라, 웹 전반에 더 많은 콘텐츠에 SynthID가 적용되고 있다.
구글은 오늘부터 초기 테스터를 대상으로 SynthID Detector를 순차적으로 공개한다. 언론인, 미디어 종사자, 연구자들은 대기자 명단에 등록해 접근 권한을 신청할 수 있다. 또한 구글은 선도적인 콘텐츠 검증 플랫폼인 GetReal Security와 협력해, 웹 전반에 걸친 감지 역량을 더욱 강화할 계획이다.