Inanunsyo ng antitrust regulator ng Italya na AGCM nitong Lunes na nagsimula na ito ng pormal na imbestigasyon laban sa Chinese artificial intelligence startup na DeepSeek, na nagmamarka ng isang mahalagang hakbang ng regulasyon laban sa AI hallucinations.
Nakatuon ang imbestigasyon sa mga alegasyong nabigong magbigay ang DeepSeek ng "sapat na malinaw, agarang at madaling maunawaang" babala sa mga gumagamit tungkol sa panganib ng AI hallucinations sa kanilang mga nilalaman. Inilarawan ng AGCM ang mga hallucination na ito bilang "mga sitwasyon kung saan, bilang tugon sa isang input na inilagay ng gumagamit, ang AI model ay lumilikha ng isa o higit pang output na naglalaman ng maling, nakalilito, o imbentong impormasyon."
Isa ito sa mga unang pangunahing hakbang ng regulasyon na partikular na tumututok sa AI hallucinations, isang lumalaking isyu habang lalong lumalaganap ang generative AI systems. Ang imbestigasyon ay kasabay ng tumitinding global na pagsusuri sa transparency ng AI at panganib ng maling impormasyon, kung saan ang mga regulator sa buong mundo ay bumubuo ng mga balangkas upang tugunan ang mga hamong ito.
Itinatag noong huling bahagi ng 2023 ng Chinese hedge fund manager na si Liang Wenfeng, mabilis na sumikat ang DeepSeek bilang isang mahalagang manlalaro sa pandaigdigang AI landscape. Nakakuha ng internasyonal na atensyon ang kumpanya ngayong taon nang maglabas ito ng mga AI model na sinasabing pumapantay sa kakayahan ng mga nangungunang Western competitor sa mas mababang halaga, na nagdulot ng pag-uga sa merkado ng teknolohiya.
Hindi ito ang unang pagkakataon na nakaharap ng DeepSeek ang mga regulator ng Italya. Noong Pebrero 2025, iniutos ng data protection authority ng Italya na harangin ng kumpanya ang access sa kanilang chatbot matapos mabigong tugunan ng DeepSeek ang mga alalahanin sa privacy policy. Ayon sa ulat noon, iginiit ng DeepSeek na hindi ito nag-ooperate sa Italya at hindi saklaw ng mga regulasyon ng Europa ang kanilang operasyon.
Habang nagsisimula ang phased implementation ng EU AI Act sa buong 2025, kung saan magkakabisa ang mga transparency requirement para sa general-purpose AI systems sa Agosto 2, maaaring maging mahalagang precedent ang kasong ito kung paano haharapin ng mga European regulator ang mga isyu ng AI hallucination sa ilalim ng bagong regulatory framework.