フェイクニュースは複雑な問題であり、テキスト、画像、ビデオにまたがる可能性があります。
特に文章記事の場合、フェイクニュースを生成する方法はいくつかあります。人物名、日付、統計情報など、事実を恣意的に編集することでフェイクニュース記事が作られることもあります。また、架空の出来事や人物を用いて完全に捏造された記事も存在します。
人工知能の進歩により、誤情報を生成することが特に容易になったため、偽のニュース記事も機械的に生成される可能性がある。
有害な影響
「2020年のアメリカ選挙で不正投票はあったのか？」や「気候変動は捏造なのか？」といった疑問は、利用可能なデータを分析することでファクトチェックが可能です。これらの疑問は真偽で答えられますが、こうした疑問には誤情報が潜んでいる可能性があります。
誤情報や偽情報、あるいはフェイクニュースは、短期間で多くの人々に悪影響を及ぼす可能性があります。フェイクニュースという概念は技術の進歩以前から存在していましたが、ソーシャルメディアの普及によってこの問題はさらに深刻化しています。
2018年のTwitter調査によると、偽ニュースはボットよりも人間によってリツイートされることが多く、真実のニュースよりも70%もリツイートされる可能性が高かった。同じ調査では、真実のニュースが1,500人のグループに届くまでに約6倍の時間がかかり、真実のニュースが1,000人を超えることは稀であるのに対し、人気の偽ニュースは最大10万人にまで拡散する可能性があることも明らかになった。
2020年の米国大統領選挙、COVID-19ワクチン、そして気候変動は、いずれも深刻な結果をもたらす誤情報キャンペーンの対象となっています。COVID-19をめぐる誤情報は、1日あたり5,000万～3億ドルの損失をもたらしていると推定されています。政治的な誤情報の損失は、市民の混乱、暴力、さらには民主主義制度への国民の信頼の低下につながる可能性があります。
誤情報の検出
誤情報の検出は、アルゴリズム、機械学習モデル、人工知能、そして人間の組み合わせによって行うことができます。重要な問題は、誤情報が検出された場合、その拡散を阻止する、あるいは制御する責任は誰が負うのかということです。ソーシャルメディア企業だけが、自社のネットワークを通じた情報の拡散を実際に制御できる立場にあります。
誤情報を作り出すための、特に単純だが効果的な手段は、ニュース記事を部分的に編集することです。例えば、「ウクライナの演出家兼劇作家が逮捕され、『テロを正当化した』として告発された」という記事を考えてみましょう。これは、実際のニュース記事の元の文中の「ロシア人」を「ウクライナ人」に置き換えることで実現されました。
オンラインでの誤情報の拡散と増加を抑制するには、誤情報を検出するための多面的なアプローチが必要です。
ソーシャルメディアにおけるコミュニケーションはネットワークとしてモデル化することができ、ユーザーはネットワークモデル上の点を形成し、コミュニケーションは点と点の間にリンクを形成します。投稿へのリツイートや「いいね！」は、2点間のつながりを反映します。このネットワークモデルでは、偽情報の拡散者は、真実を拡散するユーザーよりもはるかに密接な中心-周辺構造を形成する傾向があります。
私の研究グループは、通信ネットワークから密な構造を検出するための効率的なアルゴリズムを開発しました。この情報はさらに分析され、誤情報キャンペーンの事例を検出することができます。
これらのアルゴリズムはコミュニケーション構造のみに依存しているため、誤情報の事例を確認するには、アルゴリズムと人間によるコンテンツ分析が必要です。
改ざんされた記事を検出するには、綿密な分析が必要です。私たちの研究では、テキスト情報と外部の知識ベースを組み合わせたニューラルネットワークベースのアプローチを用いて、改ざんを検出しました。
感染拡大を阻止する
誤情報の検出は戦いの半分に過ぎません。その拡散を阻止するには断固たる行動が必要です。ソーシャルネットワークにおける誤情報の拡散に対抗する戦略には、インターネットプラットフォームによる介入と、フェイクニュースキャンペーンを中和するための対抗キャンペーンの展開が含まれます。
介入には、ユーザーのアカウントを停止するなどの厳しい措置や、投稿に疑わしいラベルを付けるなどのソフトな措置があります。
アルゴリズムやAIを活用したネットワークは100%信頼できるものではありません。偽造品に介入しないことと同様に、真正品に誤って介入することにもコストがかかります。
そのために、私たちは、予測される真実性と予測される人気に基づいて、アイテムに介入するかどうかを自動的に決定するスマートな介入ポリシーを設計しました。
フェイクニュースに対抗する
偽情報キャンペーンの影響を中和しないとまではいかないまでも最小限に抑えるための対抗キャンペーンを開始するには、真実と偽のニュースがそれぞれどれほど速く広範囲に広がるかという点での両者の大きな違いを考慮する必要がある。
これらの違いに加え、ストーリーへの反応は、ユーザー、トピック、投稿の長さによっても異なります。私たちのアプローチは、これらすべての要素を考慮し、誤情報の拡散を効果的に抑制する効果的な対抗キャンペーン戦略を策定します。
近年の生成AI、特にChatGPTのような大規模言語モデルを活用したAIの進歩により、膨大な量の記事を高速かつ容易に作成できるようになり、大規模かつリアルタイムで誤情報を検知し、その拡散に対抗するという課題が生じています。私たちの現在の研究は、社会に甚大な影響を与えるこの継続的な課題への取り組みを継続しています。
AI、チャットボット、そして機械学習の未来についてもっと知りたいですか？人工知能に関する当社の記事をぜひご覧ください。また、「最高の無料AIアートジェネレーター」や「OpenAIのChatGPTについて私たちが知っていることすべて」といったガイドもご覧ください。
Laks VS Lakshmanan、ブリティッシュコロンビア大学コンピュータサイエンス教授
この記事はクリエイティブ・コモンズ・ライセンスに基づきThe Conversationから転載されました。元の記事はこちらです。
