Η OpenAI έχει εντοπίσει μια αυξανόμενη τάση κατάχρησης της τεχνολογίας τεχνητής νοημοσύνης της από κινεζικές ομάδες για μυστικές επιχειρήσεις, σύμφωνα με αναφορά που δημοσιεύθηκε στις 5 Ιουνίου. Η εταιρεία με έδρα το Σαν Φρανσίσκο, η οποία αποτιμάται πρόσφατα στα 300 δισεκατομμύρια δολάρια μετά από έναν ιστορικό γύρο χρηματοδότησης ύψους 40 δισεκατομμυρίων, έχει λάβει μέτρα αποκλείοντας πολλαπλούς λογαριασμούς που συνδέονται με αυτές τις δραστηριότητες.
Σε μία χαρακτηριστική περίπτωση, που οι ερευνητές της OpenAI ονόμασαν «Sneer Review», οι διαχειριστές παρήγαγαν αναρτήσεις στα μέσα κοινωνικής δικτύωσης για πολιτικά ευαίσθητα θέματα που αφορούν την Κίνα. Αυτές περιλάμβαναν κριτική σε ένα βιντεοπαιχνίδι με επίκεντρο την Ταϊβάν, ψευδείς κατηγορίες κατά Πακιστανού ακτιβιστή και περιεχόμενο σχετικό με το κλείσιμο του USAID. Ορισμένες αναρτήσεις επέκριναν επίσης τις πολιτικές δασμών του προέδρου των ΗΠΑ, Ντόναλντ Τραμπ. Η επιχείρηση ήταν αρκετά εξελιγμένη ώστε να δημιουργεί τόσο αναρτήσεις όσο και σχόλια, προκειμένου να δώσει την ψευδαίσθηση οργανικής αλληλεπίδρασης.
Μια δεύτερη επιχείρηση αφορούσε απειλητικούς παράγοντες που συνδέονται με την Κίνα και χρησιμοποιούσαν το ChatGPT για να υποστηρίξουν διάφορες φάσεις των κυβερνοεπιχειρήσεών τους. Αυτό περιλάμβανε έρευνα σε ανοιχτές πηγές, τροποποίηση σεναρίων, επίλυση προβλημάτων διαμόρφωσης συστημάτων και ανάπτυξη εργαλείων για επιθέσεις brute force σε κωδικούς πρόσβασης και αυτοματοποίηση μέσων κοινωνικής δικτύωσης. Ιδιαίτερη ανησυχία προκάλεσε η διαπίστωση ότι οι δράστες χρησιμοποίησαν τα εργαλεία της OpenAI για τη δημιουργία εσωτερικών εγγράφων, συμπεριλαμβανομένων αξιολογήσεων απόδοσης που περιέγραφαν τις δραστηριότητές τους.
Ένα τρίτο παράδειγμα αποκάλυψε μια επιχείρηση επιρροής κινεζικής προέλευσης που παρήγαγε διχαστικό περιεχόμενο στα μέσα κοινωνικής δικτύωσης, υποστηρίζοντας και τις δύο πλευρές διχαστικών θεμάτων στον αμερικανικό πολιτικό διάλογο. Αυτή η προσέγγιση φαίνεται να στοχεύει στην εκμετάλλευση των υπαρχόντων πολιτικών διαιρέσεων, παρά στην προώθηση συγκεκριμένης ιδεολογικής θέσης. Ο Ben Nimmo, επικεφαλής ερευνητής της ομάδας πληροφοριών της OpenAI, σημείωσε ότι, παρόλο που αυτές οι επιχειρήσεις δείχνουν «μια αυξανόμενη ποικιλία μυστικών επιχειρήσεων με αυξανόμενες τακτικές», συνήθως διακόπηκαν σε πρώιμο στάδιο πριν φτάσουν σε ευρύ κοινό.
Η αναφορά της OpenAI ανέφερε επίσης τη διακοπή μυστικών επιχειρήσεων επιρροής από άλλες χώρες, όπως η Ρωσία και το Ιράν, καθώς και διάφορες απάτες που συνδέονται με την Καμπότζη και τη Βόρεια Κορέα. Η εταιρεία παρακολουθεί και αναφέρει τακτικά κακόβουλη δραστηριότητα στην πλατφόρμα της, ως μέρος της δέσμευσής της για υπεύθυνη ανάπτυξη της τεχνητής νοημοσύνης.
Το υπουργείο Εξωτερικών της Κίνας δεν έχει απαντήσει στα αιτήματα για σχολιασμό σχετικά με τα ευρήματα της OpenAI.