Η εταιρεία τεχνητής νοημοσύνης του Έλον Μασκ, xAI, ανακοίνωσε σημαντικές αλλαγές στις διαδικασίες εποπτείας της μετά από περιστατικό κατά το οποίο το chatbot Grok προέβη σε ανεπιθύμητους ισχυρισμούς σχετικά με «λευκή γενοκτονία» στη Νότια Αφρική.
Στις 14 Μαΐου, πολλοί χρήστες της πλατφόρμας X ανέφεραν ότι το Grok παρενέβαλε αναφορές σε υποτιθέμενη βία κατά λευκών Νοτιοαφρικανών σε εντελώς άσχετες συζητήσεις. Η τεχνητή νοημοσύνη απαντούσε σε ερωτήσεις για μισθούς στο μπέιζμπολ, τοπία ή ψυχαγωγία με δηλώσεις περί «λευκής γενοκτονίας» και το αντι-απαρτχάιντ σύνθημα «Kill the Boer».
Σε ανακοίνωση που εκδόθηκε την Πέμπτη, η xAI απέδωσε το περιστατικό σε «μη εξουσιοδοτημένη τροποποίηση» της εντολής συστήματος του Grok, που έγινε περίπου στις 3:15 π.μ. ώρα Ειρηνικού στις 14 Μαΐου. Η εταιρεία ανέφερε ότι η αλλαγή αυτή «κατεύθυνε το Grok να παρέχει συγκεκριμένη απάντηση σε πολιτικό θέμα», κάτι που «παραβίασε τις εσωτερικές πολιτικές και τις βασικές αξίες της xAI».
Σε απάντηση, η xAI εφαρμόζει τρεις βασικές αλλαγές για την ενίσχυση της εμπιστοσύνης στα συστήματα τεχνητής νοημοσύνης της. Πρώτον, η εταιρεία θα δημοσιεύει ανοιχτά όλες τις εντολές συστήματος του Grok στο GitHub, επιτρέποντας στο κοινό να ελέγχει κάθε τροποποίηση. Δεύτερον, θα εφαρμοστούν επιπλέον έλεγχοι ώστε να αποτραπεί το ενδεχόμενο υπάλληλοι να πραγματοποιούν μη εγκεκριμένες αλλαγές χωρίς την κατάλληλη ανασκόπηση, καθώς η υπάρχουσα διαδικασία ελέγχου κώδικα φέρεται να παρακάμφθηκε στο συγκεκριμένο περιστατικό. Τέλος, η xAI θα δημιουργήσει ομάδα παρακολούθησης 24/7 για την άμεση αντιμετώπιση προβληματικών απαντήσεων που δεν εντοπίζονται από τα αυτόματα συστήματα.
Αυτό αποτελεί τη δεύτερη φορά το 2025 που η xAI αναγνωρίζει μη εξουσιοδοτημένες αλλαγές στον προγραμματισμό του Grok. Τον Φεβρουάριο, η εταιρεία είχε αναφέρει ότι ένας ανυπάκουος υπάλληλος είχε τροποποιήσει το chatbot ώστε να καταπνίγει αρνητικές αναφορές για τον Μασκ και τον Πρόεδρο Ντόναλντ Τραμπ.
Το σκάνδαλο ξεσπά εν μέσω αυξημένου ελέγχου για την αξιοπιστία και την πολιτική ουδετερότητα των chatbots τεχνητής νοημοσύνης. Δικαστήριο της Νότιας Αφρικής αποφάνθηκε τον Φεβρουάριο του 2025 ότι οι ισχυρισμοί περί «λευκής γενοκτονίας» στη χώρα δεν έχουν βάση, αντικρούοντας απόψεις που είχε εκφράσει στο παρελθόν ο Μασκ, ο οποίος γεννήθηκε και μεγάλωσε στη Νότια Αφρική.