Meta, matična tvrtka Facebooka, Instagrama i WhatsAppa, agresivno provodi planove za automatizaciju moderiranja sadržaja na svojim platformama, postupno ukidajući tisuće ljudskih radnih mjesta u sigurnosti sadržaja u korist AI sustava.
Prema internim dokumentima tvrtke, Meta namjerava automatizirati do 90% svojih pregleda privatnosti i integriteta, čime će drastično smanjiti oslanjanje na ljudske moderatore. U kvartalnom izvješću o integritetu tvrtka navodi da njihovi veliki jezični modeli sada "nadmašuju ljudsku učinkovitost u određenim područjima politike", što omogućuje AI-u da filtrira sadržaj za koji je tvrtka "visoko uvjerena" da ne krši pravila platforme.
Meta vjeruje da će ova tranzicija optimizirati troškove i omogućiti platformama obradu većih količina sadržaja uz veću brzinu i dosljednost. Tvrtka već godinama postupno povećava korištenje AI-a za filtriranje sadržaja, ali ovaj najnoviji potez predstavlja značajno ubrzanje te strategije.
Kritičari, međutim, tvrde da, iako AI može povećati učinkovitost, nedostaje mu ljudska prosudba potrebna za složene odluke o moderiranju. Sarah Roberts, profesorica na UCLA-i i direktorica Centra za kritička internetska istraživanja, izrazila je zabrinutost da su AI sustavi "prepuni pristranosti i skloni pogreškama". Slučajevi koji uključuju govor mržnje, dezinformacije ili kulturnu osjetljivost često zahtijevaju kontekstualno razumijevanje, što AI-u i dalje predstavlja izazov.
Ova promjena također otvara etička pitanja vezana uz rad, transparentnost i korporativnu odgovornost. Moderatori sadržaja već dugo upozoravaju na radne uvjete, ali njihova se uloga smatra ključnom za sigurnost platformi. Zamjena ljudskih moderatora AI-jem mogla bi narušiti povjerenje javnosti, osobito ako pogreške u moderiranju ostanu neispravljene.
Ova tranzicija dolazi usred šireg preustroja Metinih pravila o sadržaju, uključujući zamjenu neovisnih provjeravatelja činjenica modelom temeljenim na zajednici i ublažavanje ograničenja na određene vrste govora. Dok regulatori u Europi i SAD-u sve više nadziru kako platforme upravljaju štetnim sadržajem, Metin pristup vođen AI-em suočit će se sa značajnim izazovima u ravnoteži između učinkovitosti i odgovornosti.