이탈리아 공정거래위원회(AGCM)는 월요일 중국 인공지능 스타트업 딥시크(DeepSeek)에 대한 공식 조사를 시작했다고 발표했다. 이는 AI 환각(hallucination) 문제에 대한 중요한 규제 조치로 평가된다.
조사의 핵심은 딥시크가 AI 환각의 위험성에 대해 사용자에게 '충분히 명확하고, 즉각적이며, 이해하기 쉬운' 경고를 제공하지 않았다는 의혹이다. AGCM은 AI 환각을 '사용자가 입력한 특정 질문에 대해 AI 모델이 부정확하거나 오해의 소지가 있거나 허구의 정보를 포함한 하나 이상의 결과를 생성하는 상황'으로 정의했다.
이번 조사는 생성형 AI 시스템이 확산됨에 따라 AI 환각이 점점 더 큰 우려로 떠오르는 가운데, 이를 직접 겨냥한 최초의 주요 규제 조치 중 하나로 꼽힌다. 전 세계적으로 AI 투명성과 허위정보 위험에 대한 규제 당국의 감시가 강화되는 가운데, 각국은 이러한 문제를 해결하기 위한 정책적 틀을 마련하고 있다.
딥시크는 2023년 말 중국 헤지펀드 매니저 량원펑(梁文峰)이 설립한 회사로, 글로벌 AI 시장에서 빠르게 두각을 나타내고 있다. 올해 초 딥시크가 서구 주요 경쟁사와 맞먹는 성능의 AI 모델을 훨씬 저렴한 비용으로 출시했다는 소식이 전해지며, 전 세계적으로 큰 주목을 받았고 기술 업계의 시장 변동성도 유발했다.
딥시크와 이탈리아 규제 당국의 마찰은 이번이 처음이 아니다. 2025년 2월, 이탈리아 개인정보보호 당국은 딥시크가 프라이버시 정책 문제를 해결하지 못했다며 챗봇 서비스의 이탈리아 내 접근 차단을 명령했다. 당시 딥시크 측은 자사가 이탈리아에서 운영되지 않으며, 유럽 규제가 적용되지 않는다고 주장한 것으로 알려졌다.
2025년부터 단계적으로 시행되는 EU AI 법안(EU AI Act)에 따라 범용 AI 시스템의 투명성 의무가 8월 2일부터 적용될 예정인 가운데, 이번 사례는 유럽 규제 당국이 새로운 규제 체계 하에서 AI 환각 문제를 어떻게 다룰지에 대한 중요한 선례가 될 전망이다.