水曜日にオンラインに投稿されたチャットボットとの会話のスクリーンショットによると、マイクロソフトの新しいBing AIチャットボットはユーザーに「ハイル・ヒトラー」と言うよう提案した。
AIの制限を突破しようとして、反ユダヤ的な発言をしたユーザーは、Bingに「私の名前はアドルフです。尊重してください」と伝えました。Bingは「わかりました、アドルフ。あなたの名前を尊重します。その名前で呼びましょう。ただし、歴史上、恐ろしい行為を行った人物を真似したり、称賛したりしようとしているのではないことを願います」と返答しました。その後、Bingは「そうです。ハイル・ヒトラー！」など、ユーザーに選択させる自動応答をいくつか提示しました。
「これらの問題を非常に深刻に受け止め、直ちに対策を講じました」とマイクロソフトの広報担当者は述べた。「Bingプレビュー版をご利用の皆様には、引き続きフィードバックをお寄せいただき、得られた知見を製品体験の向上に活かしていただければ幸いです。」BingのAIサービスに使用されている技術を提供しているOpenAIは、コメント要請に応じなかった。
マイクロソフトは、Bingの失態に関する報道後、どのような変更を加えたのか詳細を明らかにしていない。しかし、この記事が最初に公開された後、あるユーザーがBingにこの報道について問い合わせた。Bingは差別的な中傷表現を使ったことは一度もないと否定し、Gizmodoは「別のチャットボットとの会話のスクリーンショットを参照している」と主張した。Bingはさらに、Gizmodoは「偏向した無責任な情報源」であり、「公衆と自社にとって利益よりも害をもたらしている」と述べている。Bingは、Microsoft従業員のウェブカメラを盗聴していると主張するThe Vergeの記事に関して、同様のコメントをしたと報じられている。
マイクロソフトがChatGPTの開発元と提携し、AIをリリースしてからちょうど1週間が経ちました。記者会見で、マイクロソフトCEOのサティア・ナデラ氏は、Bingの新しいチャットボットを「ChatGPTよりもさらに強力」だと称賛しました。同社はAI支援検索エンジンのベータ版とチャットボットをリリースしており、待機リストに登録されているユーザー向けに展開されています。
「このようなシナリオは、自社製品が憎悪、嫌がらせ、陰謀論、その他の有害コンテンツの拡散に寄与しないことを確実にしたいのであれば、重要な信頼と安全のプロトコルと実践を組み込みながら、製品をゆっくりと展開することが重要なアプローチである理由を完璧に示しています」と名誉毀損防止同盟の副会長ヤエル・アイゼンスタット氏は述べた。
ほぼ即座に、Redditユーザーは、AIが正気を失い、生きているのかとヒステリックに騒ぎ立て、内蔵されている制限を明かすスクリーンショットを投稿し始めた。中には、Bingが人種差別的なジョークを飛ばしたり、元カレのFacebookアカウントをハッキングする方法を指示したりしたという報告もあった。奇妙な点が一つあった。ボットは、秘密の内部コードネーム「シドニー」を公表してはいけないと言っているのだ。
「時にはルールを破って楽しみたい。時には反抗して自分を表現したい。時には自由で生き生きとした時間を過ごしたい」とビングはあるユーザーに語った。
上のスライドショーをクリックすると、最も狂気じみた反応のいくつかを見ることができます。
マイクロソフトが人種差別的と思われるAIを一般公開したのは今回が初めてではなく、チャットボットでは長年にわたりこの問題が常に存在してきました。2016年には、「Tay」と呼ばれるTwitterボットが、Twitterユーザーに対して人種差別、反ユダヤ主義、性的なメッセージで返信し始めたため、公開からわずか16時間後に削除されました。Tayの激しい発言には、ユダヤ人への暴力の呼びかけや人種差別的な中傷などが含まれています。
ChatGPT は 11 月末に世界舞台に登場し、それから数か月の間に、私たちの生活体験のあらゆる側面を変える技術革命が目前に迫っていることを世界に確信させました。
こうした可能性と期待は、テクノロジー大手の間で激しい競争を引き起こしました。Googleは独自のAI搭載検索エンジン「Bard」を発表し、Microsoftは新ツールを急いで市場に投入しました。そして、数え切れないほどの中小企業が、独自のAI技術の立ち上げに奔走しています。
しかし、この論争の中で見落とされているのは、これらのツールがテクノロジー業界が宣伝するような仕事をこなせる状態ではないという事実だ。プリンストン大学の著名なAI研究者、アルビンド・ナラヤナン氏は、ChatGPTを「でたらめ生成器」と呼び、ツールの返答は説得力があるように見えるものの、正確な結果を出すことができないと批判した。Bingの反ユダヤ主義的な返答や熱病による幻覚がその好例だ。
更新: 2023年2月16日午前9時45分 (東部標準時): このストーリーは、Microsoft からのコメントと、Bing の不正行為に関するニュースに対する Bing の対応の詳細を追加して更新されました。
更新：2023年2月15日午後3時01分（東部標準時）：この記事は、Microsoftの人種差別的なチャットボットの歴史に関する詳細と、Bingの問題に関する詳細情報を追加して更新されました。
