O regulador antitruste da Itália, AGCM, anunciou nesta segunda-feira que abriu uma investigação formal contra a startup chinesa de inteligência artificial DeepSeek, marcando uma ação regulatória significativa contra alucinações de IA.
A investigação gira em torno de alegações de que a DeepSeek não forneceu aos usuários avisos "suficientemente claros, imediatos e inteligíveis" sobre o risco de alucinações de IA em seu conteúdo. A AGCM definiu essas alucinações como "situações em que, em resposta a uma determinada entrada feita por um usuário, o modelo de IA gera uma ou mais saídas contendo informações imprecisas, enganosas ou inventadas".
Esta apuração representa uma das primeiras grandes ações regulatórias direcionadas especificamente às alucinações de IA, uma preocupação crescente à medida que sistemas de IA generativa se tornam mais difundidos. A investigação ocorre em meio ao aumento do escrutínio global sobre transparência e riscos de desinformação envolvendo IA, com reguladores ao redor do mundo desenvolvendo estruturas para enfrentar esses desafios.
Fundada no final de 2023 pelo gestor de fundos de hedge chinês Liang Wenfeng, a DeepSeek rapidamente se destacou como um player relevante no cenário global de IA. A empresa ganhou atenção internacional no início deste ano ao lançar modelos de IA que, segundo relatos, igualavam as capacidades de concorrentes ocidentais líderes a uma fração do custo, provocando volatilidade no mercado de tecnologia.
Esta não é a primeira vez que a DeepSeek enfrenta reguladores italianos. Em fevereiro de 2025, a autoridade italiana de proteção de dados ordenou que a empresa bloqueasse o acesso ao seu chatbot após a DeepSeek não resolver questões relacionadas à política de privacidade. Na ocasião, a DeepSeek teria alegado que não operava na Itália e que as regulamentações europeias não se aplicavam às suas operações.
Com o início da implementação gradual da Lei de IA da União Europeia ao longo de 2025, e com os requisitos de transparência para sistemas de IA de uso geral entrando em vigor em 2 de agosto, este caso pode estabelecer precedentes importantes sobre como os reguladores europeus irão abordar questões de alucinação de IA sob o novo marco regulatório.