La autoridad antimonopolio de Italia, AGCM, anunció este lunes la apertura de una investigación formal contra la startup china de inteligencia artificial DeepSeek, marcando una acción regulatoria significativa en torno a las alucinaciones generadas por IA.
La investigación se centra en las acusaciones de que DeepSeek no brindó a los usuarios advertencias "suficientemente claras, inmediatas e inteligibles" sobre el riesgo de alucinaciones en los contenidos generados por su IA. AGCM definió estas alucinaciones como "situaciones en las que, en respuesta a una entrada proporcionada por el usuario, el modelo de IA genera una o más salidas que contienen información inexacta, engañosa o inventada".
Esta investigación representa una de las primeras acciones regulatorias importantes dirigidas específicamente a las alucinaciones en IA, una preocupación creciente a medida que los sistemas generativos de inteligencia artificial se vuelven más comunes. La investigación surge en un contexto de mayor escrutinio global sobre la transparencia y los riesgos de desinformación en IA, con reguladores de todo el mundo desarrollando marcos para abordar estos desafíos.
DeepSeek, fundada a finales de 2023 por el gestor de fondos de cobertura chino Liang Wenfeng, ha surgido rápidamente como un actor relevante en el panorama global de la inteligencia artificial. La empresa atrajo atención internacional a principios de este año al lanzar modelos de IA que, según reportes, igualaban las capacidades de los principales competidores occidentales a una fracción del costo, lo que provocó volatilidad en el sector tecnológico.
No es la primera vez que DeepSeek enfrenta a los reguladores italianos. En febrero de 2025, la autoridad de protección de datos de Italia ordenó a la empresa bloquear el acceso a su chatbot tras no resolver preocupaciones sobre su política de privacidad. En ese momento, DeepSeek afirmó que no operaba en Italia y que las regulaciones europeas no aplicaban a sus operaciones.
A medida que la Ley de IA de la Unión Europea comienza su implementación gradual a lo largo de 2025, con requisitos de transparencia para sistemas de IA de propósito general que entrarán en vigor el 2 de agosto, este caso podría sentar precedentes importantes sobre cómo los reguladores europeos abordarán los problemas de alucinaciones en IA bajo el nuevo marco regulatorio.