Meta, materská spoločnosť Facebooku, Instagramu a WhatsAppu, razantne napreduje v plánoch na automatizáciu moderovania obsahu na svojich platformách, keď postupne ruší tisíce ľudských pozícií v oblasti bezpečnosti obsahu v prospech systémov umelej inteligencie.
Podľa interných dokumentov spoločnosti plánuje Meta automatizovať až 90 % kontrol súkromia a integrity, čím dramaticky zníži svoju závislosť od ľudských moderátorov. Vo svojej štvrťročnej správe o integrite firma uvádza, že jej veľké jazykové modely už „prekonávajú ľudský výkon v niektorých oblastiach politiky“, čo umožňuje AI filtrovať obsah, pri ktorom je spoločnosť „vysoko presvedčená“, že neporušuje pravidlá platformy.
Meta verí, že tento prechod optimalizuje náklady a zároveň umožní jej platformám spracovať väčšie množstvo obsahu rýchlejšie a konzistentnejšie. Spoločnosť už niekoľko rokov postupne zvyšuje využívanie AI na filtrovanie obsahu, no tento najnovší krok predstavuje výrazné zrýchlenie tejto stratégie.
Kritici však namietajú, že hoci AI môže zvýšiť efektivitu, chýba jej ľudský úsudok potrebný pri zložitých rozhodnutiach o moderovaní. Sarah Robertsová, profesorka na UCLA a riaditeľka Centra pre kritické skúmanie internetu, vyjadrila obavy, že AI systémy sú „plné predsudkov a náchylné na chyby“. Prípady týkajúce sa nenávistných prejavov, dezinformácií či kultúrnej citlivosti často vyžadujú kontextové porozumenie, s ktorým má AI stále problémy.
Tento posun zároveň otvára etické otázky týkajúce sa práce, transparentnosti a firemnej zodpovednosti. Moderátori obsahu už dlho upozorňujú na pracovné podmienky, no ich úloha je považovaná za kľúčovú pre bezpečnosť platforiem. Ich nahradenie AI môže narušiť dôveru verejnosti, najmä ak zostanú chyby v moderovaní neopravené.
K prechodu dochádza v čase širších zmien v obsahových politikách spoločnosti Meta, vrátane nahradenia externých overovateľov faktov komunitným modelom a uvoľnenia obmedzení na určité typy prejavov. Keďže regulátori v Európe a USA čoraz viac skúmajú, ako platformy zvládajú škodlivý obsah, prístup spoločnosti Meta založený na AI bude čeliť významným skúškam v hľadaní rovnováhy medzi efektivitou a zodpovednosťou.