FacebookとInstagramのコンテンツモデレーションに関する決定を監視するために設立された、最高裁判所のような機関であるMetaの監視委員会は、昨年、このテクノロジー大手の決定に対する異議申し立てを130万件近く受理しました。この膨大な数字は、24秒ごとに1件、1日3,537件に相当します。これらの異議申し立ての大部分は、Metaのコミュニティ規定のうち、暴力／扇動とヘイトスピーチのわずか2つの違反疑惑に関するものでした。
異議申し立ての数字は、火曜日にギズモードが入手した監視委員会の2022年度年次報告書の一部です。FacebookとInstagramのユーザーは、Metaによるコンテンツ削除の決定に対して129万942回異議申し立てを行いました。監視委員会によると、これは前年比で25%増加したとのことです。これらの異議申し立ての3分の2は、暴力／扇動およびヘイトスピーチの疑いに関するものでした。下のグラフは、監視委員会が2020年後半に申し立ての受付を開始して以来、違反コンテンツの種類別に受け取った異議申し立ての推定割合を示しています。ヘイトスピーチに関する異議申し立ては減少しているものの、暴力／扇動に関する異議申し立ては近年急増しています。
これらの異議申し立ての大部分（45%）は、世界最大級のFacebookとInstagramのユーザーベースを持つ米国とカナダからのものでした。米国とカナダのユーザーは、FacebookとInstagramを比較的長期間利用しています。異議申し立ての大部分（92%）は、アカウントまたはコンテンツの復元を求めるものであり、特定のコンテンツの削除を求める異議申し立てははるかに少なく（8%）、それよりもかなり少なかったです。
「これらの勧告を公表し、メタ社の対応と実施状況を公に監視することで、これまで存在しなかった同社との透明性のある対話の場が開かれた」と監督委員会は述べた。
監督委員会は、事件判決の75％でメタの決定を覆した。
昨年、100万件を超える異議申し立てを受けたにもかかわらず、監督委員会は注目度の高いごく少数の事案においてのみ拘束力のある決定を下しています。報告書によると、2022年に公表された12件の決定のうち、監督委員会は75%の件でMetaの当初のコンテンツモデレーションの決定を覆しました。審議中の他の32件の事案では、Metaは当初の決定が誤りであったと判断しました。審査対象となる合計50件という件数は、数百万件の異議申し立てと比較すると少ないように思えるかもしれませんが、監督委員会は「世界中の多数のユーザーが直面している根本的な問題を提起する」事案を意図的に選択することで、この差異を補おうとしているとのことです。言い換えれば、これらの少数の事案は、理論上はMetaのソーシャルネットワークに蔓延するより大きなモデレーションの問題に対処するはずです。
2022年に監視委員会が覆した9件のコンテンツモデレーション決定は、その内容が多岐にわたりました。あるケースでは、アデロールについて医師に相談する方法についてアドバイスを求めるFacebookユーザーの投稿を削除するというMetaの決定を監視委員会が非難しました。さらに最近のケースでは、ウクライナ駐留のロシア軍をナチスに例えたFacebook投稿を削除するというMetaの決定を監視委員会が覆しました。この物議を醸した投稿には、ファシストの殺害を呼びかける詩と、死体と思われる画像が含まれていました。これらのケースにおいて、Metaは委員会の決定を尊重し、判決発表後7日以内にモデレーションの変更を実施する必要があります。
監視委員会は、モデレーションの決定を覆すだけでなく、目立たないながらも同様に重要な役割である政策提言の発行にも多くの時間を費やしています。これらの提言は、Metaが数十億人のユーザーのためにコンテンツモデレーション措置を解釈し、実施する方法を変える可能性があります。2022年には、監視委員会は91件の政策提言を発行しました。その多くは、コンテンツが削除された理由をユーザーに通知する際の透明性を高めるようMetaに何らかの形で求めていました。監視委員会は報告書の中で、ユーザーが特定のコンテンツが削除された理由を「推測するしかない」ことが多すぎると指摘しています。
これらの透明性に関する勧告を受けて、Metaは、ヘイトスピーチ、危険団体、いじめ、嫌がらせ行為に関連する違反があった場合、ユーザーが違反した具体的なポリシーをユーザーに通知する新しいメッセージを導入したと報じられています。また、Metaは、ユーザーのコンテンツ削除の決定が人間によるものか自動システムによるものかについてもユーザーに通知します。同社は、アカウントが不当にFacebook Jailにロックされているというユーザーからの苦情に対応するため、ストライクシステムを変更しました。
Metaは、監督委員会の圧力を受け、危機や紛争への対応方法も変更しました。同社は新たな危機対応方針プロトコルを開発し、ドナルド・トランプ前大統領のアカウントを復活させることに伴う潜在的な危害リスクを測る手法を採用しました。ACLU（アメリカ自由人権協会）などの一部の言論擁護団体はMetaのトランプ氏復活の決定を称賛しましたが、Global Project Against Hate and Extremism（憎悪と過激主義に対するグローバル・プロジェクト）やMedia Mattersなどの他の人権団体は時期尚早だと批判しました。同様に、Metaは危険な個人や組織に関するポリシーも見直し、よりリスクに基づいたものにしました。現在、最も危険とみなされるグループや個人は、プラットフォーム上での執行措置の優先対象となっています。
