フェイスブックの自動モデレーションツールが火曜の夜に暴走し、新型コロナウイルス感染症のパンデミックやその他の話題に関する大量の投稿をターゲットにし、ユーザーが正当なニュースソースからの記事を共有するのをブロックした。
Facebookの元最高セキュリティ責任者アレックス・ステイモス氏が、これらのエラーは「人間による監視が減ったことで[機械学習が]狂い始めた兆候かもしれない」とツイートしたことを受け、現インテグリティ担当副社長のガイ・ローゼン氏は「スパム対策システムのバグ」が原因だと反論した。また、この問題は感染拡大に伴う現場のモデレーター不足に関連しているという憶測を否定した。（Facebookは緊急事態に対処するため、在宅勤務のフルタイム労働者に1,000ドルを支払うと発表したが、モデレーションシステムで長年苦境に立たされている契約社員には、継続給与しか支払われない。）
「現在対応中です。これはスパム対策システムのバグであり、コンテンツモデレーターの人員変更とは無関係です」とローゼン氏は投稿した。「現在、これらの投稿をすべて修正し、元に戻す作業を進めています。」 火曜日の夕方、ローゼン氏はこの問題はコロナウイルス関連のコンテンツに限ったものではないとツイートし、修正され、誤ってスパムとしてフラグ付けされたすべての投稿が復元されるはずだと付け加えた。しかし、他のTwitterユーザーからは、自分たちの問題はまだ解決されていないという反応があった。
Twitterなどに投稿されたスクリーンショットには、システムがユーザーに「あなたの投稿はスパムに関するコミュニティ規定に違反しています」と通知している様子が映っていた。Facebookは以前、新型コロナウイルスの米国全土への蔓延により、同社の自動化ツールの能力が限界に達する可能性があると認めていた。
.@Facebook — わあ、3回連続だ！
@TomHanksがスパムメールだって平気なの？ 繰り返しますが、これは@Upworthyからのもので、特に新しい記事ではありません。ただシェアしただけです。 pic.twitter.com/SYhYknzJ9Z
— Kristine (@schachin on Threads) 🇺🇦 (@schachin) 2020年3月17日
はい！星占いに関するものも含めpic.twitter.com/IQCkQVNPhT
— ジーナ・G（@AnotherGinaG）2020年3月18日
TechCrunchが指摘したように、Facebookの規模の大きさは、アウトブレイクに関する情報伝達において中心的な役割を果たしていることを意味します。そのため、自動化システムのダウンは通常業務時よりも大きな影響を及ぼし、日常生活に大きな混乱が生じ、状況が悪化するのではないかとの懸念が世界中で広がる可能性があります。
Facebookは、自社プラットフォーム上でCOVID-19というウイルスとその原因となる病気に関する誤情報に対抗し、COVID-19の治療薬と偽って謳う商品の広告を制限していると主張している。また、マスク不足による価格高騰を受け、マスクの広告を禁止した。今週、同社はGoogle、LinkedIn、Microsoft、Reddit、Twitter、YouTubeと共同で、偽情報の拡散防止に向けた誓約を締結した。しかし、Facebookがプラットフォームを効果的にモデレートしてきた実績の乏しさは、既に噴出している新型コロナウイルス関連のナンセンスな情報の洪水に同社がどのように対処していくのか、明るい兆しとは言えない。
