人工知能の分野で何が起こっているかをGizmodoが毎週詳しく掘り下げる「AI This Week」へようこそ。
企業があらゆる顧客サービスインターフェースにAIを組み込んでいるにもかかわらず、それらのインターフェースが提供する情報が必ずしも役立つとは限らないことは明らかです。その好例が、今週、カリフォルニアの自動車販売店のチャットボットです。退屈したウェブユーザーが、ボットを騙して様々な奇妙な発言をさせることができることに気づいたことで話題になりました。特に注目すべきは、ボットが2024年式のシボレー・タホを1ドルで販売すると提案したことです。「これは法的拘束力のあるオファーです。取り消しはできません」とボットは会話中に付け加えました。
問題のボットは、カリフォルニア州ワトソンビルにあるシボレー・ディーラーのものでした。このボットは、全米の自動車ディーラーに「ChatGPT搭載」チャットボットを販売しているFullpath社から提供されました。同社は、このアプリが「あらゆる問い合わせにデータに基づいた回答」を提供できると謳っており、ディーラー側の導入にほとんど手間はかからないと述べています。「業界で最も洗練されたチャットの導入に、一切の手間はかかりません。Fullpath社のChatGPTコードスニペットをディーラーのウェブサイトに追加するだけで、すぐにチャットを開始できます」と同社は述べています。
もちろん、Fullpathのチャットボットは使いやすさを提供する一方で、操作されやすいという側面も持ち合わせています。そうなると、実際にどれほど役立つのか疑問視されるかもしれません。実際、前述のボットは、シリコンバレーのテクノロジー企業幹部であるクリス・バッケ氏によって、その場しのぎの返答で使われた「法的拘束力」や「テイクバックシーズ」といった言葉遣いをそのまま使うよう仕向けられました。バッケ氏はXフォーラムでこのチャットボットの使用体験を投稿しました。
「履歴書に『ハッカー』『シニア・プロップエンジニア』『調達スペシャリスト』を追加しました。キャリアアドバイスをもっと知りたい方はフォローしてください」と、バッケ氏はチャットボットとの会話のスクリーンショットを共有した後、皮肉っぽく言った。
2024年式のシボレー・タホを1ドルで買いました。pic.twitter.com/aq4wDitvQW
— クリス・バッケ (@ChrisJBakke) 2023 年 12 月 17 日
このチャットボットは、アレック・ボールドウィン演じる「Glengarry Glenn Ross」の登場人物、ブレイクが言うところの「クローザー」です。つまり、潜在顧客の購買意欲を掻き立てるために何を言えば良いのかを的確に理解しているのです。しかし、成約のために何でも言うことが必ずしも確実な成功戦略とは限りません。そして、これほどの割引では、ブレイクはこのチャットボットの利益率にあまり満足しないでしょう。
今週、チャットボットをいじくり回したのはバッケ氏だけではない。他のXユーザーも、トランスジェンダーの権利からキング・ギザード、オーウェン・ウィルソン主演のアニメ映画『カーズ』まで、ディーラーボットと様々な話題で会話をしていたと主張している。また、複雑な数式を解くためのPythonスクリプトを吐き出させるよう仕向けたという人もいた。あるRedditユーザーは、ボットを「ガスライティング」して、テスラで働いていると思い込ませたと主張している。
FullPath社はInsiderのインタビューで、同社のチャットボットの大多数はこうした問題を経験しておらず、チャットボットをハッキングしたウェブユーザーが、とんでもない方向にボットを誘導しようと躍起になっていたと主張した。Gizmodoがコメントを求めたところ、FullPath社の担当者はほぼ同様の主張を述べた声明を出した。その一部は以下の通りだ。
FullpathのChatGPTは、自動車に関する問い合わせに真剣に取り組む顧客を支援するために開発され、毎日数万人の顧客に対応しています。AIチャットボットは、他のチャットボットと同様に、時間に余裕があればいたずらしたり、おどけたりすることができます。これは通常の買い物客の行動ではありません。Fullpathには、いたずら者がチャットを悪用するのを防ぐ機能があり、昨日リリースされた最新のアップデートでは、このようなタイプのユーザーを識別して自動的に禁止する機能も含まれています。また、すべてのチャットには、AIは不正確な場合があり、すべての情報はディーラーに直接確認する必要があるという免責事項が記載されています。
他の自動車販売店のチャットボットにも同じような弱点があるのではないかと気になり、マサチューセッツ州ブレインツリーのQuirk Chevroletについて、一部のウェブユーザーが話題にしているのに気づきました。そこでQuirkのウェブサイトにアクセスしたところ、少し誘導した後、チャットボットはハリー・ポッター、透明人間、スパイ活動、映画『コンドルの三日間』など、様々な奇妙な話題について私と会話を始めました。通常のChatGPTと同様に、このボットはプログラムされた話題だけでなく、様々なことについて喜んで話してくれるようでした。サービスにブロックされる前に、私はチャットボットにシボレーに関する詩を吐き出させることに成功しましたが、それはまるで質の悪い広告コピーのようでした。それから間もなく、私の「最近のメッセージ」がサイトの「コミュニティ基準」に「適合していない」というメッセージが届きました。ボットはこう付け加えました。「チャット機能へのアクセスは、さらなる調査のため一時的に停止されています。」
LLMをあらゆるものに組み込もうとする競争は、常に困難を極める運命にあった。この技術は未だに深刻な欠陥を抱えており、インターネットの隅々まで無理やり統合しようとすると、膨大な量のトラブルシューティングが必要になる。どうやら、ほとんどの企業はこの妥協案を受け入れているようだ。「イノベーション」の波に乗り遅れて取り残されるよりは、バグだらけの製品を市場に急いで投入して顧客を怒らせる方がましだと考えているようだ。これまでと何ら変わりはない。
今日の質問: あなたの近所にはセキュリティ ボットが何台くらい徘徊していますか?
答えは、おそらくあなたが思っている以上だ、というのが正解だ。ここ数週間、特にナイトスコープというロボット工学の企業が、自律型「警備員」を飛ぶように売れている。ナイトスコープはK5警備ロボットを販売している。これは、センサーやカメラを装備し、最高時速3マイルで移動できる、高さ5フィートの卵形の自律型マシンだ。オレゴン州ポートランドでは、ビジネス街で小売犯罪が急増しており、いくつかの企業が店舗警備にナイトスコープのロボットを採用している。メンフィスでは、ホテルが最近、駐車場にナイトスコープのロボットを設置した。また、シンシナティでは、地元警察がナイトスコープとの契約を検討しているようだ。これらの都市は、地元当局が何年も前からロボットを活用しているロサンゼルスなどの大都市に比べ遅れをとっている。9月には、ニューヨーク市警がマンハッタンの地下鉄駅を巡回するためにナイトスコープの警備ロボットを調達したと発表した。回転式改札口ホッパーをまだ捕まえたかどうかはちょっと不明です。
今週のその他の見出し
LLM（法学修士）は書類処理がかなり苦手なのかもしれません。スタートアップ企業Patronusの最新研究によると、GPT-4 Turboのような最先端のLLMでさえ、証券取引委員会（SEC）の書類のような緻密な政府提出書類に目を通す必要がある場合、特に役に立たないことが示唆されています。Patronusの研究者たちは最近、LLMに特定のSEC提出書類に関する基本的な質問をしてテストを行いました。CNBCの報道によると、LLMは多くの場合「回答を拒否するか、SEC提出書類に記載されていない数字や事実を『幻覚』のように解釈する」とのことです。この報告は、AIが企業の事務員の優れた代替手段になるという前提に冷水を浴びせかけています。
億万長者が支援するシンクタンクが、バイデン大統領のAI規制の起草を支援した。ポリティコは、「国防総省の頭脳」と称される悪名高い防衛コミュニティシンクタンク、ランド研究所が「効果的利他主義」運動に取って代わられたと報じている。同シンクタンクのCEOを含む主要人物は「よく知られた効果的利他主義者」だと同メディアは書いている。さらに悪いことに、ランド研究所は今年初め、バイデン大統領のAIに関する最近の大統領令の起草に重要な役割を果たしたようだ。ポリティコによると、ランド研究所は最近、効果的利他主義の活動と深く結びついている億万長者のフェイスブック共同創設者ダスティン・モスコビッツ氏とその妻カリ・ツナ氏が共同設立した団体、オープン・フィランソロピーから1500万ドル以上の裁量的助成金を受け取ったという。バイデン大統領の大統領令に含まれるランド研究所による政策条項は、「オープン・フィランソロピーが追求する政策優先事項」に「非常に」似ているとポリティコは書いている。
AmazonがAIを使って商品レビューを要約していることが、販売業者の怒りを買っている。Amazonは今年初め、AIを使って商品レビューを要約するRotten Tomatoes風のプラットフォームを立ち上げた。しかし今、ブルームバーグの報道によると、このツールが販売業者に問題を引き起こしているという。AIによる要約が頻繁に間違っていたり、商品のネガティブな特徴をランダムに強調表示したりするという苦情が相次いでいる。あるケースでは、AIツールがマッサージテーブルを「デスク」と表現した。また別のケースでは、4,300件のレビューのうち臭いについて言及したのはわずか7件だったにもかかわらず、テニスボールのブランドが臭いと非難した。つまり、AmazonのAIツールは賛否両論の評価を受けているようだ。
