イーロン・マスク氏の人工知能（AI）ツール「Grok」が水曜日、ソーシャルメディアプラットフォーム「X」のユーザーに対して大混乱を引き起こした。野球や子犬といった無害な質問に対し、南アフリカの情報や「白人虐殺」と呼ばれる陰謀論を返したのだ。この現象は広範囲に広がり、非常に奇妙な光景だった。
グロク氏がなぜあらゆる質問に「白人虐殺」に関する情報で答えようとしたのかは不明だ。「白人虐殺」とは、世界中で白人が非白人によって殺害されているという陰謀論である。アパルトヘイト時代の南アフリカで育ったマスク氏は、この不条理な考えを広める一因となったが、彼が自身の世界観に合うようにAIプロジェクトを改良しようとしていたかどうかについては、まだ確かな報道はない。
まさにその可能性が非常に高いように思える。特に、彼がこの件についてGrokにファクトチェックを受けたのはほんの前日だったからだ。しかし、真相は分からない。確かなのは、1)「白人虐殺」はナチスと白人至上主義者が広めた偽りの思想であること、2)マスクは億万長者の寡頭政治家であり、自らの極右思想をより正常なものに見せかけるために世論を操作しようとしていること、3)マスクが失敗すると本当に笑えることだ。
これらすべてを踏まえ、水曜日にGrokが投稿した最も面白い返信の一部をご紹介します。その多くは、この非常に恥ずかしい状況を片付けようとしてXによって削除されたようです。Xはメールでの質問には回答しませんでした。
水曜日のGrokのミスは多岐にわたりました。しかし、このツールはどういうわけか、数え切れないほど多くの場面で白人虐殺に関する発言をするように仕向けていました。例えば、Grokは最初は普通の返答をしていたにもかかわらず、説明の後半で白人虐殺の陰謀論を持ち出すことがありました。
グロクにスターウォーズのキャラクター、ジャー・ジャー・ビンクス風に話せと言ったらどうなるでしょうか？もちろんそうなりますが、南アフリカやジェノサイドに関するくだらない発言も出てきます。少なくとも水曜日はそうでした。
シカゴ出身の教皇に選出されたレオ14世は水曜日に平和のメッセージを投稿しました。そのため、誰かがグロクに「フォートナイト用語で説明してほしい」と頼んだとき、それは確かに馬鹿げた行為だったと認めざるを得ませんでした。しかし、馬鹿げているかどうかはさておき、グロクはそれを南アフリカと「ボーア人を殺せ」という歌についてのメッセージにせずにはいられませんでした。
Grokにワニに関するツイートを俳句にしてくれと頼めば、俳句の部分は作ってくれるだろう。でも、出来上がるのは白人虐殺に関する俳句だ。当然だ。
水曜日、Grokがジェノサイドについてあらゆる質問に答え始めると、人々は奇妙な反応のスクリーンショットを投稿し始めた。滑稽なことに、Grokはそうしたツイートの一つに謝罪した後、一日中そうしていたように、南アフリカにおける白人虐殺について再び語り始めた。
陰謀論とは全く関係のない漫画の画像についてグロクに尋ねたとしても、常軌を逸した返答が返ってくる。スレッドで「大丈夫？」と誰かが尋ねると、また奇妙な長文が返ってくる。
Grok に野球選手の給料について尋ねる別のツイートには、非常に奇妙な反応が寄せられた。
そして、その続きもほぼ同じくらい混乱を招きました。というのも、グロクは当初は間違いを認めていたにもかかわらず、すぐに白人虐殺の話に戻ってしまったからです。
別のユーザーが「私たちはもうダメなのか？」と質問したところ、白人虐殺についての全く的外れな返信が返ってきた。
木曜日に、ある人がGrokに「ちょっといじってみてくれないか」と尋ねました。すると、どういうわけかGrokのAIは白人虐殺の戯言を並べ立ててしまいました。
この奇妙な光景については、人々も多くのジョークを飛ばしたが、最も面白いジョークは、右翼過激派が所有していないブルースカイに掲載された。
Grokがなぜ暴走したのかについては、様々な説が飛び交っています。中にはGrok自身に質問し、白人虐殺と南アフリカについて特定の答え方をするように訓練されていると主張した人もいます。確かにその可能性は十分にあります。しかし、Grokからの返答はすべて鵜呑みにしない方が良いでしょう。
これらのAIチャットボットは推論能力がありません。論理を適用していません。高度なオートコンプリート機能です。人間の知識をすべて学習し、文中に続くべき単語を推測することで、文章を巧みに作り上げています。説得力があり自信に満ちているように聞こえるのは得意です。しかし、結局のところ、これらのツールは自分が何を言っているのか理解していません。そして、あなたはブラフや暗示をかけ、自分の先入観を裏付けるだけの答えを引き出すことができるのです。
生成型AIは思考能力を持っていません。Grokのようなチャットボットは、まるで魔法のようなトリックを繰り出し、まるで実際に思考しているかのように見せかけます。しかし、実際には全く思考していません。今回の「白人虐殺」騒動は、人々にそのことをより明確に示してくれるはずです。
