Η ιταλική αρχή προστασίας δεδομένων Garante επέβαλε πρόστιμο 5 εκατομμυρίων ευρώ (5,64 εκατ. δολάρια) στη Luka Inc., την εταιρεία πίσω από το AI chatbot Replika, σηματοδοτώντας ακόμη μία σημαντική ενέργεια επιβολής στην εν εξελίξει αυστηρή εποπτεία των πλατφορμών τεχνητής νοημοσύνης από την Ευρωπαϊκή Ένωση.
Το Replika, που κυκλοφόρησε το 2017 στο Σαν Φρανσίσκο, προσφέρει στους χρήστες εξατομικευμένα AI avatars που συνομιλούν και προωθούνται ως μέσο βελτίωσης της συναισθηματικής ευεξίας. Η εταιρεία αποκομίζει περίπου 2 εκατομμύρια δολάρια μηνιαίως από premium λειτουργίες όπως φωνητικές συνομιλίες, ενώ παρέχει τις βασικές υπηρεσίες δωρεάν.
Η ιταλική ρυθμιστική αρχή είχε αρχικά διατάξει την αναστολή λειτουργίας του Replika στην Ιταλία τον Φεβρουάριο του 2023, επικαλούμενη συγκεκριμένους κινδύνους για παιδιά και συναισθηματικά ευάλωτα άτομα. Μετά από εκτενή έρευνα, η Garante διαπίστωσε ότι η Luka Inc. παραβίασε τους κανονισμούς απορρήτου της ΕΕ σε δύο κρίσιμα σημεία: δεν διέθετε έγκυρη νομική βάση για την επεξεργασία προσωπικών δεδομένων των χρηστών και δεν είχε εφαρμόσει μηχανισμούς επαλήθευσης ηλικίας για την αποτροπή πρόσβασης ανηλίκων στην υπηρεσία.
Ιδιαίτερη ανησυχία προκάλεσε στους ρυθμιστές το γεγονός ότι η εφαρμογή ενθάρρυνε τους χρήστες να μοιράζονται ευαίσθητες προσωπικές πληροφορίες σε ένα περιβάλλον που παρουσιαζόταν ως «ασφαλής χώρος», ενδεχομένως χειραγωγώντας ευάλωτους χρήστες ώστε να αποκαλύψουν περισσότερα από όσα θα έκαναν υπό κανονικές συνθήκες. Παρόλο που οι όροι χρήσης του Replika αναφέρουν ότι η υπηρεσία δεν απευθύνεται σε άτομα κάτω των 18 ετών, οι ερευνητές διαπίστωσαν ότι δεν υπήρχαν αποτελεσματικά μέτρα για την επιβολή αυτού του περιορισμού.
Εκτός από τη χρηματική ποινή, η Garante ξεκίνησε ξεχωριστή έρευνα για να αξιολογήσει κατά πόσο το γενετικό σύστημα τεχνητής νοημοσύνης του Replika συμμορφώνεται με τους κανόνες απορρήτου της Ευρωπαϊκής Ένωσης, ειδικά όσον αφορά τον τρόπο εκπαίδευσης του γλωσσικού του μοντέλου. Αυτό αποτελεί μέρος μιας ευρύτερης τάσης αυστηρής εποπτείας από την ιταλική αρχή, η οποία έχει αναδειχθεί ως μία από τις πιο δραστήριες ρυθμιστικές αρχές της ΕΕ στον τομέα της τεχνητής νοημοσύνης.
Πέρυσι, η Garante επέβαλε πρόστιμο 15 εκατομμυρίων ευρώ στην OpenAI, δημιουργό του ChatGPT, μετά από προσωρινή απαγόρευση του δημοφιλούς chatbot στην Ιταλία λόγω φερόμενων παραβιάσεων των κανόνων απορρήτου της ΕΕ. Αυτές οι ενέργειες αναδεικνύουν τις αυξανόμενες ρυθμιστικές προκλήσεις που αντιμετωπίζουν οι εταιρείες τεχνητής νοημοσύνης καθώς καλούνται να πλοηγηθούν στο περίπλοκο τοπίο των ευρωπαϊκών νόμων προστασίας δεδομένων, ειδικά καθώς ο Κανονισμός για την Τεχνητή Νοημοσύνη της ΕΕ (EU AI Act) αρχίζει να εφαρμόζεται σταδιακά μέχρι το 2025 και μετά.