TikTokはソーシャルメディアフィードのワイルド・ウェスト（そして、あらゆる意味でワイルド・ウェストだ）。スクロールすると、ダンストレンドから始まり、ナイキルに「漬け込む」生の鶏肉の動画に飛び、最後は誰かが自分で歯を削っている動画で終わる。奇妙な光景であり、時に危険な状況だ。今、TikTokは事態を収拾すべく、新たな一歩を踏み出そうとしている。
同社は水曜日のブログ投稿で、「コンテンツレベル」と呼ばれるレーティングシステムを発表し、今後数週間以内に初期バージョンを導入する予定だと述べた。TikTokは2月に年齢に基づくフィード制限の導入を示唆しており、「コンテンツレベル」はその具体的な内容を示す最初の情報となる。また、アプリユーザーはハッシュタグを個別にミュートする機能など、自身の動画配信をより細かく制御できるようになる。
ソーシャルメディア界の巨人である同社は、新たなモデレーションスキームは映画、テレビ、ゲーム業界で使用されているものに基づいていると説明しているが、動画クリップにすぐに評価が表示されるわけではない。代わりに、並べ替えとフィルタリングはバックエンドで行われる。
「動画に成人向けまたは複雑なテーマが含まれていると検知された場合、例えば、18歳未満の視聴者には怖すぎたり、過激すぎる可能性のある架空のシーンなど、18歳未満の視聴者がTikTok全体でその動画を視聴できないようにするために、その動画に成熟度スコアが割り当てられます」と同社は述べている。「私たちはまず、10代の若者の体験をさらに保護することに注力しており、今後数ヶ月以内に、コミュニティ全体に詳細なコンテンツフィルタリングオプションを提供するための新機能を追加し、彼らが好きなものをもっと楽しめるようにする予定です。」
それぞれの「成熟度スコア」はTikTokのモデレーターによって付与されます。ただし、同社は過去に、プラットフォームのクリエイターが投稿前に自身のコンテンツに評価を付与する可能性について言及していました。
ギズモードは、新システムの仕組みについてさらに詳しい情報を求めました。同社の広報担当者は以下のように述べています。
TikTokにアップロードされたすべての動画は、コミュニティガイドラインに準拠しているかどうかの審査を受けます。この審査に合格した動画は、プラットフォーム上で公開されます。動画がTikTokで公開された後、人気が高まった場合やコミュニティメンバーから報告があった場合など、Trust and Safetyチームにモデレーションのために送信されることがあります。
審査プロセスでは、モデレーターが動画を審査し、コミュニティガイドライン違反の有無を確認するだけでなく、動画にコンテンツレベルを割り当てます。システムの開発にあたり、私たちは、満足できるレベルの精度を維持しながら、分類プロセスに高度な技術的ソリューションを導入する方法を検討しています。
クリエイターが自分のコンテンツの評価を確認できるかどうかについては、コンテンツレベルの初期バージョンではこの機能はご利用いただけません。今後数か月間、皆様からのフィードバックを拝見し、さらなる調整を行っていきたいと考えています。
TikTokは発表の中で、導入予定のコンテンツモデレーションシステムはまだ初期段階であることを強調した。「目指すものは複雑であり、間違いを犯す可能性もあることを認識しています」と同社は述べている。しかし、包括的なトップダウン型、年齢に基づくコンテンツフィルタリングの実現を待つ間、アプリユーザーは独自の制限を設定できるようになる。「おすすめ」や「フォロー中」のフィードでハッシュタグや単語をミュートできるようになり、スクロールする動画を以前よりも厳選できるようになる。TikTokによると、この機能に加え、おすすめ動画の多様化に向けた取り組みも今後数週間のうちに開始される予定だ。
TikTokは、特にティーンエイジャーやさらに幼い子供たちの間で急成長を遂げています。2022年の最初の3ヶ月間で、世界で最も多くダウンロードされたアプリとなりました。しかし、急成長を遂げる過程で、TikTokは多くの批判に直面してきました。物議を醸し、欠陥があるとされるプライバシーポリシーと、ユーザーへの影響の両方です。
同プラットフォームにはすでにコンテンツガイドラインがあり、ユーザーからの報告と投稿を精査する従業員の判断に基づき、特定のカテゴリーの動画を禁止している。3月には、TikTokの元モデレーター2人が、暴力的または不適切な動画をプラットフォームから排除する業務中に受けたトラウマを理由に、同社を提訴した。訴訟では、TikTokがモデレーターに適切なメンタルヘルスサービスや保護を提供していないと主張されている。これは、アプリ全体で計画されているモデレーションの拡大にとって、必ずしも好ましい兆候とは言えない。
同社はまた、TikTokで見たコンテンツが原因で子供が怪我をしたり、死亡したりしたと主張する親たちからの訴訟にも直面している。5月には、10歳の女の子の母親が、娘がTikTokで人気を博した「ブラックアウトチャレンジ」に挑戦中に窒息死したとして同社を提訴した。今月もさらに多くの親が同様の訴訟を起こしている。カリフォルニア州では新たな法律が成立し、ソーシャルメディア依存症を理由に親が訴訟を起こすことがさらに可能になる可能性がある。
同プラットフォームの新たなコンテンツ管理の取り組みが、潜在的に危険なバイラル動画のトレンドの問題に打撃を与えることができるかどうかはまだ分からない。
更新：2022年7月13日午後3時（東部標準時）：この投稿はTikTokの広報担当者からの追加情報により更新されました。
