Η Meta, μητρική εταιρεία των Facebook, Instagram και WhatsApp, προχωρά δυναμικά στην αυτοματοποίηση της εποπτείας περιεχομένου στις πλατφόρμες της, καταργώντας χιλιάδες θέσεις ανθρώπινων συντονιστών ασφαλείας υπέρ συστημάτων τεχνητής νοημοσύνης.
Σύμφωνα με εσωτερικά έγγραφα της εταιρείας, η Meta σκοπεύει να αυτοματοποιήσει έως και το 90% των ελέγχων απορρήτου και ακεραιότητας, μειώνοντας δραστικά την εξάρτησή της από ανθρώπινους συντονιστές. Η τριμηνιαία έκθεση ακεραιότητας της εταιρείας αναφέρει ότι τα μεγάλα γλωσσικά της μοντέλα πλέον «λειτουργούν πέραν των ανθρώπινων επιδόσεων σε συγκεκριμένους τομείς πολιτικής», επιτρέποντας στην τεχνητή νοημοσύνη να φιλτράρει περιεχόμενο για το οποίο η εταιρεία είναι «ιδιαίτερα βέβαιη» ότι δεν παραβιάζει τους κανόνες της πλατφόρμας.
Η Meta εκτιμά ότι αυτή η μετάβαση θα βελτιστοποιήσει το κόστος ενώ θα επιτρέψει στις πλατφόρμες της να διαχειρίζονται μεγαλύτερο όγκο περιεχομένου με μεγαλύτερη ταχύτητα και συνέπεια. Η εταιρεία αυξάνει σταδιακά τη χρήση τεχνητής νοημοσύνης για φιλτράρισμα περιεχομένου τα τελευταία χρόνια, αλλά αυτή η τελευταία κίνηση σηματοδοτεί σημαντική επιτάχυνση της στρατηγικής αυτής.
Ωστόσο, οι επικριτές υποστηρίζουν ότι, ενώ η τεχνητή νοημοσύνη μπορεί να βελτιώσει την αποδοτικότητα, της λείπει η ανθρώπινη κρίση που απαιτείται για σύνθετες αποφάσεις εποπτείας. Η Sarah Roberts, καθηγήτρια στο UCLA και διευθύντρια του Center for Critical Internet Inquiry, εξέφρασε ανησυχία ότι τα συστήματα AI είναι «γεμάτα προκαταλήψεις και επιρρεπή σε σφάλματα». Υποθέσεις που αφορούν ρητορική μίσους, παραπληροφόρηση ή πολιτισμική ευαισθησία συχνά απαιτούν συμφραζόμενη κατανόηση, κάτι που η τεχνητή νοημοσύνη ακόμα δυσκολεύεται να προσφέρει.
Η αλλαγή αυτή εγείρει και ηθικά ζητήματα σχετικά με την εργασία, τη διαφάνεια και την εταιρική λογοδοσία. Οι συντονιστές περιεχομένου έχουν εκφράσει επανειλημμένα ανησυχίες για τις συνθήκες εργασίας, αλλά ο ρόλος τους θεωρείται ζωτικής σημασίας για την ασφάλεια των πλατφορμών. Η αντικατάστασή τους από την τεχνητή νοημοσύνη ενδέχεται να διαβρώσει την εμπιστοσύνη του κοινού, ειδικά αν τα σφάλματα εποπτείας δεν αντιμετωπίζονται επαρκώς.
Η μετάβαση αυτή πραγματοποιείται εν μέσω ευρύτερων αλλαγών στις πολιτικές περιεχομένου της Meta, συμπεριλαμβανομένης της αντικατάστασης ανεξάρτητων ελεγκτών γεγονότων με ένα μοντέλο βασισμένο στην κοινότητα και της χαλάρωσης περιορισμών σε ορισμένες μορφές λόγου. Καθώς οι ρυθμιστικές αρχές σε Ευρώπη και ΗΠΑ εντείνουν τον έλεγχο για το πώς οι πλατφόρμες διαχειρίζονται επιβλαβές περιεχόμενο, η προσέγγιση της Meta που βασίζεται στην τεχνητή νοημοσύνη θα δοκιμαστεί έντονα ως προς την ισορροπία μεταξύ αποτελεσματικότητας και υπευθυνότητας.