時々、人々はソーシャルメディア上で言葉の戦いを始めようとする前に、自分たちも人間であることを思い出す必要があるだけだ。
最近発表されたイェール大学ロースクールの研究によれば、投稿前にコンテンツモデレーションを行うと、実際にはより多くの人が不快なツイートをあまり投稿しなくなり、それに対する不快な返信の数も減るという複合的な効果があったという。
調査によると、システムによって不快と判断されたツイートの修正を促されたユーザーのうち6%は、促されなかったユーザーよりも不快なツイートの投稿数が減ったことが分かりました。Twitterの最新四半期決算報告によると、1日あたりのアクティブユーザー数は2億2900万人で、そのうち約51%が英語でツイートしているとすると、700万人以上のユーザーがネガティブなコンテンツの投稿を減らすことを決めたことになります。そして、エンゲージメントの維持にこだわるTwitterのような企業にとっておそらく重要な事実として、修正されたツイートへの返信総数は減少せず、議論全体の不快さも減少しました。
研究者たちはさらに、ユーザーが自らツイートをモデレートするよう指示された後でも、将来的にネガティブな行動をとる可能性が低くなったと述べています。実験期間中に5件以上の不快なツイートを投稿したユーザーは20%減少しました。
「これはユーザー行動のより広範かつ持続的な変化を表しており、プロンプトを受け取ることで、ユーザーが今後ツイートを投稿する際に、潜在的に不快なコンテンツを避けるようより意識するようになる可能性があることを示唆している」と研究の著者らは記している。
Twitterユーザーはどのようにツイートを修正しているのでしょうか？
Twitterのデータサイエンティスト、キャシー・ヤン氏とローレン・フラタミコ氏は先週のブログ投稿で、イェール大学の研究を引用し、同社がユーザーに再考を求めたツイート100件のうち、69件は修正なしで送信され、9件はキャンセルされ、22件は修正されたと述べています。修正されたツイートのうち8件は元のツイートよりも不快感が軽減されたと判断され、残りは元のツイートと同程度、あるいはそれ以上に不快感が増したとされています。
修正は、「shit」という単語をうんちの絵文字に変えたり、「the fuck」を「tf」に短縮したりするといった単純なものだった。修正されたツイートの大部分は、冒とく的な表現を完全に削除した。ごく少数のツイートは、既存のツイートに新たな攻撃を加えていた。
Twitterは2020年から、ユーザーのツイートに厳しい言葉、侮辱、または憎悪的な発言が含まれている場合、アルゴリズムを用いてフラグを付ける限定的な実験を開始しました。システムは「潜在的に有害または不快と検出された返信を修正するかどうかをお尋ねしています」というメッセージを表示し、フラグが付けられたツイートを表示してから、修正、削除、またはツイートの送信のいずれかを選択するよう促します。2021年には、アルゴリズムが会話のニュアンスを理解できないため、不必要な促しを受けているというユーザーからの苦情を受け、同社はシステムを改訂しました。
実験開始から1年が経過した現在でも、促された人の約3分の1がツイートを修正または削除することを選択し、一度促された後は不快なツイートを書く可能性がやや低下したと同社は述べている。
もちろん、70%の人はツイートをそのまま投稿したり、さらに攻撃的な表現に修正したりする（生意気なやつら）でしょう。しかし、たとえ15%の人がツイートを修正するだけでも、大きな改善になります。特に、一部の人がネガティブなコンテンツを投稿する理由を考えるとなおさらです。
研究者たちは、人々がなぜネガティブなコンテンツを投稿するのか、そして投稿後にどれほど後悔するのかを分析した過去の研究をいくつか引用した。人々は通常、激しい感情の形で不満をぶちまけているが、それはしばしば、誰かに軽蔑されたと感じさせられたことに対する反応である。ソーシャルメディアは、ユーザーに怒りを積極的に煽るコンテンツを提供することで、プラットフォーム上での滞在時間を長くすることに重点を置いており、こうした行動を助長しているだけだ。
しかしもちろん、2016年と2020年の選挙前に虚偽や侮辱的な情報を拡散したロシアの偽情報提供者のような悪意のある行為者も存在します。この調査は、ユーザーに親切にするよう求めても「オンライン上の不快なコンテンツの問題は解決しない」ことを明確に示しています。もちろん、Twitterの実験は英語のツイートのみを対象としていますが、ポルトガル語圏向けにも同様の機能を提供しています。同社は世界中の何百万人ものユーザー向けにシステムの開発を開始する必要があるでしょう。
コンテンツモデレーションは、コンテンツが投稿された後に行われることがほとんどです。システムや人間のモデレーターが有害なコンテンツにフラグを立てて削除する一方で、それらの投稿はプラットフォーム内外で見られ、拡散されてしまいます。既存のオンライン環境の弊害を一掃する万能薬は存在しないでしょうが、このような取り組みがさらに増えることで、既存のオンライン環境をより調和のとれたものにするための新たなアプローチとなる可能性があります。Twitterの次のオーナーが、このような研究の背後にある考え方を真摯に受け止めてくれることを期待しましょう。
