Meta, moderselskabet bag Facebook, Instagram og WhatsApp, intensiverer sine planer om at automatisere indholdsmodereringen på tværs af sine platforme og udfaser tusindvis af menneskelige indholdssikkerhedsroller til fordel for AI-systemer.
Ifølge interne dokumenter har Meta til hensigt at automatisere op til 90% af sine gennemgange af privatliv og integritet, hvilket vil reducere afhængigheden af menneskelige moderatorer markant. I virksomhedens kvartalsvise integritetsrapport fremgår det, at de store sprogmodeller nu "opererer ud over menneskelig præstation inden for udvalgte politikområder," hvilket gør det muligt for AI at screene indhold, som virksomheden er "meget sikker" på ikke overtræder platformens regler.
Meta mener, at denne overgang vil optimere omkostningerne og samtidig gøre det muligt for platformene at behandle et større indholdsmængde med større hastighed og ensartethed. Virksomheden har gradvist øget brugen af AI til indholdsfiltrering gennem flere år, men denne seneste indsats markerer en markant acceleration af strategien.
Kritikere påpeger dog, at selvom AI kan øge effektiviteten, mangler den den menneskelige dømmekraft, der kræves til komplekse modereringsbeslutninger. Sarah Roberts, professor ved UCLA og direktør for Center for Critical Internet Inquiry, udtrykker bekymring for, at AI-systemer er "fyldt med bias og tilbøjelige til fejl." Sager, der involverer hadefuld tale, misinformation eller kulturel følsomhed, kræver ofte kontekstuel forståelse, som AI stadig har svært ved at levere.
Skiftet rejser også etiske spørgsmål om arbejdsvilkår, gennemsigtighed og virksomheders ansvarlighed. Indholdsmoderatorer har længe udtrykt bekymring over arbejdsvilkårene, men deres rolle anses for at være afgørende for at opretholde platformsikkerheden. At erstatte dem med AI kan underminere offentlighedens tillid, især hvis fejl i modereringen ikke bliver håndteret.
Denne overgang sker samtidig med bredere ændringer i Metas indholdspolitikker, herunder udskiftning af tredjeparts-faktatjekkere med en model baseret på fællesskabet og lempelse af restriktioner på visse typer ytringer. I takt med at myndigheder i både Europa og USA i stigende grad gransker, hvordan platforme håndterer skadeligt indhold, vil Metas AI-drevne tilgang blive sat på prøve i forhold til at balancere effektivitet med ansvarlighed.