Googleは今週、テクノロジー大手間のAI開発競争が急速に激化する中、大きな話題を呼んだAI搭載チャットボットを発表しました。このツールは、OpenAIのChatGPTと、Microsoftがこの大規模な言語ツールをBing検索エンジンに迅速に組み込んだことに対するGoogleの回答です。しかし、すでに大きな問題が一つあります。Googleのバード氏が作り話をしているのです。
このAIチャットボットは、インターネットへの初登場で嘘をつきました。Googleは月曜日にBardを一般向けに紹介するブログ記事を公開しましたが、ツール自体はまだ少数のベータテスターのみが利用可能です。このプロモーション記事には、Bardの動作を実演するGIF画像が添付されていました。同じ動画がGoogleのTwitterアカウントにも投稿されています。
デモのクエリは「ジェイムズ・ウェッブ宇宙望遠鏡のどんな新しい発見を9歳の子供に話せばいいでしょうか？」と問いかけています。バード氏はこれに対し、いわゆる「グリーンピース」銀河の撮影、望遠鏡が130億年以上前の銀河を記録してきたこと、そして太陽系外惑星の初めての写真を撮影したという3つの提案を提示しています。ただし、最後の点は真実ではありません。
NASAによると、太陽系外惑星、つまり太陽系外惑星の最初の画像は、2004年にヨーロッパ南天天文台の超大型望遠鏡（VLT）によって撮影された。それ以来、ハッブル宇宙望遠鏡も太陽系外惑星の直接画像を提供し続けている。
ロイターの水曜日の報道で初めて指摘されたこのミスは、Googleの驚くべき見落としだ。AIが虚偽の情報を提供するのは問題だが、企業が広告資料でそのような失態を取り上げるのは全く別の問題だ。
Googleは「責任ある」AI開発という理念を繰り返し謳ってきました。本日、パリで行われたライブイベントで、同社は人工知能に対する慎重かつ慎重なアプローチを強調しました。ここ数ヶ月、大規模な言語モデルを基盤とするAIは事実と虚構を区別することに課題を抱えていることが明らかになっていますが、Googleは、より自由奔放なChatGPTに代わる、真に有益なAIとしての地位を確立しようと努めてきました。
しかし、バード氏の発表に先立ち、グーグルは社内で精度のテストを行い、その精度を重視していたにもかかわらず、明らかにマイクロソフトに先手を打つことが優先された。グーグルの評判が危ぶまれていたにもかかわらず、同社はAIの急ぎの展開を見事に失敗させた。
コメントを求められたGoogleの広報担当者は次のように語った。
これは厳格なテストプロセスの重要性を浮き彫りにしており、今週からTrusted Testerプログラムでこのプロセスを開始します。外部からのフィードバックと社内テストを組み合わせることで、Bardの回答が品質、安全性、そして現実世界の情報に基づいた高い基準を満たしていることを確認していきます。
事実誤認に加え、同社は水曜日の午前中にパリで開催されたイベントで予定していたライブデモを、プレゼンテーションに必要なスマートフォンが届かなかったため完了することができませんでした。ライブイベント終了後、Googleは直ちにYouTubeページから該当の動画を削除しました。
今朝、Googleの株価は約1億ドル下落した。
これは、たとえ何年も技術が進歩しても、状況はそれほど大きく変わらないということを示す例です。現状では、AIはインターネット上で人々が嘘をつくという長年の問題を解決できず、むしろ事態をはるかに悪化させる可能性さえあります。次の大物になるための、あるいは検索における唯一の存在であり続けるための競争において、Googleはもう少しゆっくりと、着実に進んでいくことを目指すべきかもしれません。
訂正：2023年2月8日午後3時7分（米国東部時間）：この記事の以前のバージョンでは、「太陽系外惑星」の定義が誤っていました。人間もAIも誤りを犯す可能性があることを改めて認識させられる出来事でした。
