ソーシャルメディアに投稿される卑劣で恐ろしいコンテンツの洪水から人々を守る最後の砦は、過労に苦しむコンテンツモデレーターの小さな軍隊です。モデレーターは私たち一般ユーザーが最悪の事態を避ける手助けをしてくれますが、人間の最も暗い衝動に絶えずさらされることは、彼らの精神衛生に大きなダメージを与える可能性があります。現在、TikTokの元モデレーター2人が、急成長を続けるこのソーシャルメディア大手が、デジタル悪夢の洪水への対処に苦慮するモデレーターのメンタルヘルス治療を軽視していると主張しています。
「顔面を撃たれる人たちを見ました」と、ある人はNPRのインタビューで語った。「子供が殴られる映像を見て、2時間ずっと泣きました」
木曜日に提起された訴訟は、TikTokとその親会社であるByteDanceが、画像への露出による精神的トラウマからモデレーターを適切に保護しなかったことで、カリフォルニア州の労働法に違反したと主張している。訴訟によると、モデレーターは「アプリにアップロードされたフィルタリングされていない、不快で不快なコンテンツと、毎日アプリを使用する何億人もの人々との間の門番」として機能している。訴訟は具体的に、TikTokの過失、留保された支配権の過失行使、およびカリフォルニア州の不正競争法違反を訴えている。
「被告（TikTokとByteDance）は、過激で不快なコンテンツの閲覧がモデレーターに与える心理的悪影響を認識している」と訴状は主張している。「にもかかわらず、被告はモデレーターを危害から守るための周知の注意基準を実施していない。」
コンテンツモデレーターが劣悪なコンテンツに対処しなければならないことは今や周知の事実ですが、この訴訟では、TikTokのモデレーションは他のプラットフォームよりも実際は劣悪であると主張しています。訴訟によると、他の企業は業界団体が推奨する、フィルタリング技術を用いて画像を歪曲したり、モデレーターにカウンセリングを義務付けたりするなど、被害軽減策を実施しているのに対し、TikTokはそうしていません。「こうした容赦ない露出と、ケア基準の実施に対する無関心の結果、原告（モデレーター）は、残酷な暴力、性的暴行、児童ポルノなど、数千もの露骨で不快な動画にさらされることになりました」と訴訟は主張しています。
元TikTokモデレーターのアシュリー・ベレス氏とリース・ヤング氏は、適切なメンタルヘルス治療を受けさせなかったことが、結果として危険な職場環境につながったと主張している。2人のモデレーターは、児童ポルノ、レイプ、獣姦、殺人、斬首、自殺といった、インターネット上で最も恐ろしい映像を大量に目にしたと主張している。
ヤングさんは、13歳の少女がカルテルのメンバーによってカメラの前で処刑されるのを目撃したと証言した。ベレスさんはNPRに対し、未成年者を巻き込んだ画像や動画が、彼女が目にした不快なコンテンツの大部分を占めていたと語った。「誰かが苦しみ、このようなものを見なければ、誰も苦しむことはありません」とベレスさんはNPRに語った。
訴訟では、労働者に課せられる生産性ノルマの要求は「適用されるケアの基準と両立しない」と主張している。
訴状によると、モデレーターは動画を25秒以内で審査し、TikTokのルールに違反しているかどうかを80%以上の精度で判断するよう指示されている。原告らによると、モデレーターは25秒以内に、問題のあるコンテンツにラベルを付ける際に適用可能なタグを100種類も検討しなければならない。モデレーターは1時間の昼休みと15分間の休憩を2回挟み、12時間勤務している。
「ソーシャルメディアの投稿に不適切なコンテンツが含まれていないか審査するコンテンツモデレーターは、堕落との戦いにおける最前線で働く兵士です。私たち全員が勝利に関わっている戦いです」と、TikTokモデレーターの代理人である弁護士の一人、スティーブン・ウィリアムズ氏は声明で述べた。「これらの労働者が直面している精神的トラウマや認知障害、社会的な障害は深刻です。しかし、彼らは無視されており、問題は会社にとっても個人にとっても悪化する一方です。」
TikTokはGizmodoのコメント要請に応じなかった。
この訴訟では、デジタルテロの山に加えて、モデレーターたちは、特に新型コロナウイルス感染症に関する大量の陰謀論や誤情報にも定期的にさらされており、これもトラウマ反応を引き起こしていると弁護士らは主張している。
注目すべきは、ベレス氏とヤング氏はそれぞれTelus InternationalとAtrium Staffing Servicesという会社を通じて契約社員として働いていた点だ。両モデレーターは厳密には別々の会社に勤務しているが、訴訟ではTikTokとByteDanceに責任を負わせようとしており、ノルマの設定、従業員の監視、懲戒処分の責任は両社にあると主張している。Telus Internationalの広報担当者はNPRに対し、契約社員向けのメンタルヘルスカウンセリングを提供していると述べたものの、ベレス氏はそれが全く不十分だと主張している。ベレス氏は、カウンセラーとの30分間の面談は1回しかなかったと述べ、カウンセラーは他の困窮したモデレーターからの依頼が殺到しているように見えたという。
モデレーター側の弁護士は、この訴訟を通じて、ベレス氏とヤング氏への金銭的賠償を勝ち取るとともに、TikTokに対し、数千人の現職および元職のコンテンツモデレーターに対し、メンタルヘルスの検査と治療を提供するよう圧力をかけたいと考えている。ギズモードは弁護士事務所にコメントを求めたが、返答は得られていない。
モデレーターたちは、ライバル企業の多くのモデレーターと同様に、見た画像について話すことを禁じる秘密保持契約に署名させられたと主張した。人類の最も暗い奥底を探るために一日中苦労した後、彼らはそれらの話を葬り去らなければならず、友人や家族にさえ話すことができないのだ。
「彼らはあまりに多くの人を診ていたので、実際に苦しんでいる人を助ける時間がなかったようです」とベレスさんはNPRに語った。
TikTokは他の大手コンテンツプロバイダーと同様に、問題のあるコンテンツの大部分を捕捉するために人工知能（AI）を導入していますが、潜在的に有害なコンテンツが大量にアップロードされているため、人間のモデレーターは依然として不可欠です。これらのモデレーターは一般的に、テクノロジー企業の従業員よりも低賃金で、雇用の安定性も福利厚生も少ない独立請負業者であることが多いです。
テキサス大学とセントメアリーズ大学の研究者らは昨年、コンテンツモデレーターに関する学術文献を記録した論文を発表し、有害なコンテンツに繰り返しさらされることがPTSDやその他の精神的被害につながるという十分な証拠を発見した。
「モデレーション作業は不快なものだと予想されるが、特定のコンテンツに繰り返し長期間さらされることと、職場でのサポートが限られていることが、人間のモデレーターの心理的健康を著しく損なう可能性があることが今日では認識されている」と研究者らは記している。
他のケースでは、YouTubeやFacebookのモデレーターが、コンテンツに繰り返しさらされたことで急性の不安障害やうつ病に陥り、入院したと報じられています。そして残念なことに、インターネットの混乱は収まるどころか、改善されていません。今週、国立行方不明・被搾取児童センターは、昨年インターネットから削除された児童性的虐待コンテンツは2,930万件に上ると発表しました。これは過去最高で、前年比で35%増加しています。
テクノロジー業界全体のコンテンツモデレーターを悩ませているメンタルヘルスの問題は、近年、数々の暴露記事や法的措置によって世間の注目を集めています。FacebookやYouTubeのモデレーターの労働環境は、多くのメディアによって衝撃的な状況として報道されていますが、TikTokのモデレーターについては、同様の報道はほとんどありません。
2年前、Facebook社は数千人のモデレーターから起こされた訴訟を5200万ドルで和解した。ベレス氏とヤング氏の代理人を務めた同じ法律事務所が、Facebook社のモデレーターたちの代理も務めていた。この和解はもともと、Facebook社のモデレーターであるセレナ・スコラ氏が2018年に起こした訴訟に端を発している。スコラ氏は、職務中にレイプ、自殺、殺人の事例を目にした後、PTSDを発症したと主張していた。5200万ドルの和解金は数千件の契約に分配され、それぞれが少なくとも1000ドルの補償を受けていた。2020年には、元YouTubeコンテンツモデレーターも雇用主を訴え、斬首や児童虐待の画像を見た後にうつ病やPTSDに関連する症状を発症したと主張していた。オンラインで最も急速に成長しているソーシャルメディアサイトの一つであるTikTokが、訴訟の標的になったのも当然と言えるだろう。
