Appleは、自社デバイス向けに話題のAI機能群の展開を始めたばかりですが、既に大きな問題が発生しています。例えば、BBCは、AIによる通知サマリーがBBCの見出しを書き換え、「UHC CEO殺害犯のルイジ・マンジョーネが自殺した」と報じたことで、Appleに苦情を申し立てました。マンジョーネは自殺しておらず、現在も警察の拘留下にあります。
Apple Intelligenceには、個々のアプリから届く通知をまとめて要約することで、ユーザーの負担を軽減するiOS機能が搭載されています。例えば、ユーザーが同じ相手から複数のテキストメッセージを受信した場合、iOSはそれらをすべて長いリストとして表示するのではなく、プッシュ通知を1つの簡潔な通知にまとめようとします。
生成AIに詳しい方なら驚くことではないのですが、Apple Intelligenceの「知能」は、要約が時に残念なものであったり、単純に間違っているという事実を覆い隠していることが判明しました。通知の要約機能は、10月にリリースされたiOSバージョン18.1で初めて導入されました。そして今週初め、AppleはSiriにChatGPTとのネイティブ統合を追加しました。
BBCの記事で、プッシュアラートで送信された3つの異なるニュースを要約した通知のスクリーンショットが公開されました。通知には、「ルイジ・マンジョーネが自殺、シリア人母親、アサド大統領の代償を求める、韓国警察、ユン・ソクヨル氏の事務所を家宅捜索」と書かれていました。BBCによると、他の要約は正確だったとのことです。
BBCはこの状況についてAppleに苦情を申し立てました。これは同社にとって恥ずべき事態ですが、読者が誤情報を発信していると信じれば、報道機関の評判を損なうリスクもあります。iOSがプッシュ通知の要約をどのように決定するかについては、Appleは制御できません。
「BBCニュースは世界で最も信頼されているニュースメディアです」とBBCの広報担当者はこの記事について述べた。「BBCの名前で配信されるあらゆる情報やジャーナリズムを視聴者が信頼できることは、私たちにとって不可欠です。通知も例外ではありません。」Appleは、この騒動に関するBBCの質問に回答しなかった。
人工知能（AI）は多くの分野で大きな可能性を秘めていますが、言語モデルはおそらく実装が最も難しい分野の一つです。しかし、企業はAI技術が十分に進歩し、顧客サポートチャットや大規模な社内データ検索といった用途に活用できるようになることを期待しています。しかし、まだその段階には至っていません。実際、AIを活用している企業は、AIが生み出した成果物にはまだ多くの編集作業が必要だと述べています。
信頼性が低く予測不可能な技術を自社製品に深く組み込むのは、Appleらしくないやり方だと感じます。AppleはChatGPTの出力を制御できません。チャットボットの開発元であるOpenAIでさえ言語モデルをほとんど制御できず、その動作は常に調整されています。短い通知の要約はAIにとって最も扱いやすいはずなのに、Appleはそれさえもうまくできていません。
少なくとも、Apple Intelligenceの機能のいくつかは、AIがいかに実用的な用途を持つかを示しています。より優れた写真編集機能や、どの通知を送信すべきかを判断するフォーカスモードは素晴らしいものです。しかし、洗練されたユーザー体験で知られるAppleにとって、誤った通知の概要や幻覚的なChatGPTは、iOSを洗練されていないものに感じさせてしまう可能性があります。新型iPhoneの売上を伸ばすために、Appleは宣伝に躍起になっているように感じられます。これらの機能を使用するには、iPhone 15 Pro以降が必要です。
