O regulador italiano da concorrência, AGCM, anunciou esta segunda-feira a abertura de uma investigação formal à startup chinesa de inteligência artificial DeepSeek, representando uma ação regulatória significativa contra as alucinações em IA.
A investigação centra-se nas alegações de que a DeepSeek não forneceu aos utilizadores avisos "suficientemente claros, imediatos e inteligíveis" sobre o risco de alucinações em IA nos seus conteúdos. A AGCM define estas alucinações como "situações em que, em resposta a um determinado input introduzido por um utilizador, o modelo de IA gera uma ou mais respostas contendo informações imprecisas, enganosas ou inventadas".
Esta investigação representa uma das primeiras grandes ações regulatórias especificamente direcionadas às alucinações em IA, uma preocupação crescente à medida que os sistemas de IA generativa se tornam mais difundidos. O inquérito surge num contexto de crescente escrutínio global sobre a transparência da IA e os riscos de desinformação, com reguladores de todo o mundo a desenvolverem quadros legais para enfrentar estes desafios.
A DeepSeek, fundada no final de 2023 pelo gestor de fundos de investimento chinês Liang Wenfeng, rapidamente se destacou como um interveniente relevante no panorama global da IA. A empresa ganhou atenção internacional no início deste ano ao lançar modelos de IA que, alegadamente, igualavam as capacidades dos principais concorrentes ocidentais a uma fração do custo, provocando volatilidade no setor tecnológico.
Esta não é a primeira vez que a DeepSeek se depara com reguladores italianos. Em fevereiro de 2025, a autoridade italiana de proteção de dados ordenou à empresa que bloqueasse o acesso ao seu chatbot, após a DeepSeek não ter resolvido preocupações relativas à sua política de privacidade. Na altura, a DeepSeek terá alegado que não operava em Itália e que a regulamentação europeia não se aplicava às suas operações.
Com a entrada em vigor faseada do AI Act da UE ao longo de 2025, e com os requisitos de transparência para sistemas de IA de uso geral a entrarem em vigor a 2 de agosto, este caso poderá estabelecer precedentes importantes sobre a forma como os reguladores europeus abordarão as questões das alucinações em IA no novo quadro regulatório.