Facebook、Instagram、WhatsAppの親会社であるMetaは、自社プラットフォーム全体でコンテンツモデレーションの自動化を強力に推進しており、数千人規模の人間によるコンテンツセキュリティ職をAIシステムに段階的に置き換えています。
社内文書によると、Metaはプライバシーおよびインテグリティ審査の最大90％を自動化する計画であり、人間のモデレーターへの依存度を大幅に減らす方針です。同社の四半期インテグリティレポートでは、大規模言語モデルが「特定のポリシー領域において人間のパフォーマンスを上回っている」とされており、AIが「ルール違反の可能性が極めて低い」と判断したコンテンツのスクリーニングを担っています。
Metaは、この移行によってコスト最適化を図るとともに、より多くのコンテンツを迅速かつ一貫して処理できるようになると見込んでいます。同社はここ数年、AIによるコンテンツフィルタリングの活用を徐々に拡大してきましたが、今回の取り組みはその戦略を大きく加速させるものです。
一方で批判的な声も上がっています。AIは効率性を高める一方で、複雑なモデレーション判断に必要な人間の判断力を欠いているという指摘です。UCLA教授でCritical Internet Inquiryセンター所長のサラ・ロバーツ氏は、「AIシステムには多くのバイアスが含まれており、誤りを犯しやすい」と懸念を表明。ヘイトスピーチや誤情報、文化的配慮が求められる事例では、文脈理解が不可欠ですが、AIは依然としてその対応が難しいとされています。
この変化は、労働、透明性、企業の説明責任といった倫理的課題も浮き彫りにしています。コンテンツモデレーターは長年、労働環境への懸念を訴えてきましたが、その役割はプラットフォームの安全維持に不可欠と見なされてきました。AIへの置き換えが進めば、モデレーションの誤りが放置された場合に、公共の信頼が損なわれる可能性もあります。
今回の移行は、Metaのコンテンツポリシー全体の見直しの一環でもあり、サードパーティによるファクトチェックの廃止や、コミュニティ主導型モデルへの移行、一部の発言規制の緩和なども含まれています。欧米でプラットフォームによる有害コンテンツ管理への規制が強まる中、MetaのAI主導戦略は効率性と責任の両立という大きな課題に直面することになります。