人工知能（AI）の普及に関する批判の多くは、理論的な領域、あるいは評価が難しい領域にとどまっています。AIが作り出す偽情報にどれほどの人が惑わされているのか、私たちには分かりません。しかし、AIが人々の生活を混乱させるという、現実世界で具体的な事例は、時折、目に見えて現れてきます。
一例として、AIが生成したと思われるコンテンツファームが、数千人のアイルランド人を騙してダブリン市内中心部で3時間のハロウィーンパレードを開催すると宣伝しました。しかし、パレードは実際には行われていませんでした。誤報を受けた数千人の群衆を解散させようとした後、アイルランド警察は、パレードは予定されていなかったことを国民に伝える声明を発表せざるを得ませんでした。
Defectorは、この誤解を招くイベント投稿の背後にあるウェブサイトを調査した。「My Spirit Halloween」と呼ばれるこのウェブサイトは、パキスタンを拠点とし、世界中のハロウィンイベントの宣伝に特化しているようだ。Google検索を悪用し、誰かが自分の街でハロウィンイベントを探している時に、検索結果の上位にMy Spirit Halloweenが表示されるようにすることで、広告収入を得る狙いがあるようだ。
ハロウィンパレードを待つ人々。#ダブリン
警察もいないし、公式発表もないし、人々は道路の反対側で待っている…
誰かが大きな #デマ #いたずら pic.twitter.com/zTQUShZrya
— アルトゥール・マルティンス（@arturmartins）2024年10月31日
より主流のウェブサイトも、例えば「ストレンジャー・シングス」の次のシーズンがいつ放送されるのかを知りたいという検索ユーザーなど、簡単にトラフィックを獲得するために同様の手法を用いています。しかし、My Spirit Halloweenは、ダブリンのような都市でフェスティバルが開催されると想定し、AIを使ってリストを自動生成していたか、あるいは単に人々を誘導していたかのどちらかのようです。ウェブサイトは、ある時点でミスター・ビーストが参加する可能性を示唆していました。
これは、Googleのアルゴリズムとコンテンツのランク付け方法が人々の生活に現実的な影響を与える方法の一つです。それほど悪質ではない例としては、実際のレシピの前に非常に長い紹介文があるレシピウェブサイトが挙げられます。これも検索で上位表示するための戦略の一つです。
ダブリンのパレードのイベントページには、現在、次のような声明が掲載されています。
何千人ものアイルランド国民を誤解させた情報は、当社のコンテンツライターによる重大な誤りであることをここに発表いたします。また、これは決して故意によるものではありません。この誤解について、アイルランドの兄弟姉妹の皆様にお詫び申し上げます。
この「誤解」にもかかわらず、現在、サイトではイベントが「キャンセル」と表示されています。
ウェブサイトの信頼性に不安がある場合は、そのウェブサイトの「About」ページを確認してください。次のような見出しは信用しないでください。
