Autoritatea antitrust din Italia, AGCM, a anunțat luni că a deschis o investigație oficială asupra startup-ului chinez de inteligență artificială DeepSeek, marcând o acțiune de reglementare semnificativă împotriva fenomenului de halucinații AI.
Investigația se concentrează pe acuzațiile conform cărora DeepSeek nu a oferit utilizatorilor avertismente „suficient de clare, imediate și inteligibile” privind riscul de halucinații AI în conținutul generat. AGCM definește aceste halucinații drept „situații în care, ca răspuns la un input introdus de un utilizator, modelul AI generează unul sau mai multe rezultate care conțin informații inexacte, înșelătoare sau inventate”.
Această anchetă reprezintă una dintre primele acțiuni majore de reglementare care vizează în mod specific halucinațiile AI, o preocupare în creștere pe măsură ce sistemele generative de inteligență artificială devin tot mai răspândite. Investigația are loc pe fondul unei atenții sporite la nivel global privind transparența AI și riscurile de dezinformare, autoritățile de reglementare din întreaga lume dezvoltând cadre legislative pentru a aborda aceste provocări.
DeepSeek, fondată la sfârșitul anului 2023 de managerul chinez de fonduri speculative Liang Wenfeng, a devenit rapid un jucător important pe scena globală a inteligenței artificiale. Compania a atras atenția internațională la începutul acestui an, când a lansat modele AI care, potrivit relatărilor, rivalizau cu cele ale principalilor concurenți occidentali la o fracțiune din cost, provocând volatilitate pe piața tehnologică.
Nu este prima dată când DeepSeek se confruntă cu autoritățile italiene. În februarie 2025, autoritatea italiană pentru protecția datelor a ordonat companiei să blocheze accesul la chatbot-ul său, după ce DeepSeek nu a soluționat problemele legate de politica de confidențialitate. La acel moment, DeepSeek ar fi susținut că nu operează în Italia și că reglementările europene nu se aplică activităților sale.
Pe măsură ce Legea UE privind Inteligența Artificială începe să fie implementată etapizat în 2025, cu cerințe de transparență pentru sistemele AI de uz general care intră în vigoare pe 2 august, acest caz ar putea stabili precedente importante pentru modul în care autoritățile europene vor aborda problematica halucinațiilor AI în noul cadru de reglementare.