Η ιταλική ρυθμιστική αρχή ανταγωνισμού AGCM ανακοίνωσε τη Δευτέρα ότι ξεκίνησε επίσημη έρευνα κατά της κινεζικής startup τεχνητής νοημοσύνης DeepSeek, σηματοδοτώντας μια σημαντική ρυθμιστική παρέμβαση σχετικά με τις ψευδαισθήσεις AI.
Η έρευνα επικεντρώνεται σε καταγγελίες ότι η DeepSeek απέτυχε να παρέχει στους χρήστες «επαρκώς σαφείς, άμεσες και κατανοητές» προειδοποιήσεις για τον κίνδυνο ψευδαισθήσεων AI στο περιεχόμενό της. Η AGCM όρισε αυτές τις ψευδαισθήσεις ως «καταστάσεις στις οποίες, σε απάντηση σε μια δεδομένη είσοδο από τον χρήστη, το μοντέλο AI παράγει μία ή περισσότερες εξόδους που περιέχουν ανακριβείς, παραπλανητικές ή επινοημένες πληροφορίες».
Αυτή η έρευνα αποτελεί μία από τις πρώτες σημαντικές ρυθμιστικές ενέργειες που στοχεύουν ειδικά τις ψευδαισθήσεις AI, ένα αυξανόμενο ζήτημα καθώς τα συστήματα γενετικής τεχνητής νοημοσύνης διαδίδονται ευρέως. Η έρευνα έρχεται εν μέσω αυξανόμενης παγκόσμιας προσοχής στους κινδύνους διαφάνειας και παραπληροφόρησης από AI, με ρυθμιστικές αρχές διεθνώς να αναπτύσσουν πλαίσια αντιμετώπισης αυτών των προκλήσεων.
Η DeepSeek, που ιδρύθηκε στα τέλη του 2023 από τον Κινέζο διαχειριστή hedge fund Liang Wenfeng, έχει αναδειχθεί γρήγορα σε σημαντικό παίκτη στο παγκόσμιο τοπίο της τεχνητής νοημοσύνης. Η εταιρεία προσέλκυσε διεθνή προσοχή νωρίτερα φέτος όταν κυκλοφόρησε μοντέλα AI που φέρονται να ανταγωνίζονται τις δυνατότητες κορυφαίων δυτικών ανταγωνιστών με ένα μικρό μέρος του κόστους, προκαλώντας μεταβλητότητα στην αγορά τεχνολογίας.
Δεν είναι η πρώτη φορά που η DeepSeek έρχεται αντιμέτωπη με τις ιταλικές ρυθμιστικές αρχές. Τον Φεβρουάριο του 2025, η ιταλική αρχή προστασίας δεδομένων διέταξε την εταιρεία να μπλοκάρει την πρόσβαση στο chatbot της, αφού η DeepSeek δεν αντιμετώπισε ανησυχίες σχετικά με την πολιτική απορρήτου. Εκείνη την περίοδο, η DeepSeek φέρεται να ισχυρίστηκε ότι δεν δραστηριοποιείται στην Ιταλία και ότι οι ευρωπαϊκοί κανονισμοί δεν ισχύουν για τις δραστηριότητές της.
Καθώς ο Νόμος για την Τεχνητή Νοημοσύνη της ΕΕ ξεκινά σταδιακά να εφαρμόζεται το 2025, με τις απαιτήσεις διαφάνειας για συστήματα γενικής χρήσης AI να τίθενται σε ισχύ στις 2 Αυγούστου, αυτή η υπόθεση θα μπορούσε να δημιουργήσει σημαντικά προηγούμενα για το πώς οι ευρωπαϊκές ρυθμιστικές αρχές θα προσεγγίσουν τα ζητήματα ψευδαισθήσεων AI στο νέο ρυθμιστικό πλαίσιο.