Instagramは、主要なソーシャルメディアサービスの中で最も有害性の低いサービスの一つとなるための最新の取り組みの一環として、ユーザーが不快な内容を投稿する前に警告する機能を導入する。
同社は月曜日のブログ投稿で、キャプションが「不快とみなされる可能性がある」ことをユーザーに知らせる新しいツールの導入を開始したと発表した。これは、ユーザーが「投稿する前に立ち止まって言葉遣いを再考する」ことを促す取り組みだ。
この機能は、報告されたフレーズや単語に類似した言語を検出するAIを活用しています。「潜在的に不快な」キャプションを検知すると、投稿者に「キャプションを編集する」「詳細を見る」「とにかく共有する」という選択肢を示すプロンプトで警告します。つまり、ユーザーを検閲するわけではありませんが、自分が嫌な人間である可能性があることを知らせることになります。
Instagramは発表の中で、この機能はプラットフォーム上でのいじめを抑制することを目的としており、7月に導入された、コメントが不快な可能性がある場合にユーザーに通知するツールの拡張版であると述べました。発表当時、Instagramは「この介入により、ユーザーはコメントを振り返り、取り消す機会を得ることができ、受信者が有害なコメントの通知を受け取ることを防ぐことができます」と説明しました。
現在、インスタグラムは、反省を促す取り組みの結果は「有望」だと主張している。非難によってユーザーは「機会があれば自分の発言を再考する」ようになったからだ。
この機能は、Instagramが10月に導入した「制限」ツールに続くものです。このアップデートにより、ユーザーは簡単にシャドウバン（ユーザーを制限）できるようになり、いじめや不快なコメントを投稿する可能性のあるユーザーからのコメントを非表示にできるようになりました。
インスタグラムは、新しいキャプション警告ツールが月曜日に一部の国で開始され、その後数カ月かけて世界中に拡大される予定だと述べた。
