人工知能の分野で何が起こっているかを深く掘り下げる Gizmodo の週刊まとめ「AI This Week」へようこそ。
今週、フォーブスは、Social Linksという監視会社がChatGPTを使って感情分析を開始したと報じました。警察やスパイがソーシャルメディアのデータを収集・分析し、ウェブユーザーの感情を理解するという不気味な分野ですが、感情分析は、この小さなチャットボットのまだ登場していないユースケースの中でも、比較的不透明なものの一つです。
Social Linksは、論争と無縁ではない。オープンソースインテリジェンス（OSINT）事業を標榜する同社は、Metaからユーザー監視の疑いでFacebookとInstagramから追放されたことがある。その後、Social Linksはこれらの疑惑を否定している。今週、同社はパリのセキュリティカンファレンスで、ChatGPTの型破りな使い方を披露し、チャットボットのテキスト要約・分析能力を武器に、大量のデータに目を通し、素早く処理した。デモンストレーションでは、同社が自社ツールで収集したデータをChatGPTに入力した。スペインで最近起きた論争に関するオンライン投稿に関連するデータは、チャットボットによって分析され、「肯定的、否定的、または中立的」と評価され、その結果がインタラクティブなグラフで表示されたとForbesは書いている。
明らかに、プライバシー擁護派は、この件をかなり不安に思っている。それは、この特定のケースだけではなく、AI が監視業界全体の権力をいかに強化するかを示唆しているからだ。
電子フロンティア財団のコミュニティ組織担当アソシエイトディレクター、ロリー・ミール氏は、AIは法執行機関の監視活動の拡大に役立ち、小規模な警察官チームでも大規模な集団を容易に監視できるようになると述べた。警察機関は既に偽のプロフィールを使ってオンラインコミュニティに潜入するケースが頻繁に発生しており、こうした監視はオンライン上の言論を萎縮させる効果があるとミール氏は述べた。さらに、「ChatGPTのようなツールの恐ろしい点は、こうした活動を拡大できることだ」と付け加えた。AIは、こうした潜入捜査で収集したデータを「警察官がより迅速に分析することを容易にする」ため、「AIツールはオンライン監視を（事実上）可能にしている」と彼らは付け加えた。
ミール氏は、このようなAIの利用方法には明らかな問題があると指摘した。チャットボットは、これまで何度も失敗して悪い結果を出すという、かなり悪質な実績があるのだ。「AIは、今回のような重大な状況では本当に懸念材料です」とミール氏は述べた。「ChatGPTに記事の下書きを読んでもらい、『これはどの程度許容できるだろうか？』と尋ねるのは簡単です。しかし、例えば、誰かが仕事に就けるか、住宅を得られるか、あるいは今回のように、誰かが警察から不当な注意を受けているかどうかを判断するといった領域にAIが進出すると、そうしたバイアスは単に考慮すべき事項ではなく、そのような用途でAIを全く使用しない理由になります。」
ミール氏は、AIの学習データが「ブラックボックス」であるため、アルゴリズムの回答が信頼できるものかどうかを確信するのが難しいと付け加えた。「つまり、このAIはRedditや4chanのデータで学習されているんです」とミール氏は笑う。「ですから、その基礎データから生じるバイアスが、出力のモザイクに再び現れることになるんです」
今日の質問: サム・アルトマンは一体何をしたのでしょうか?
近年のテクノロジー史における最も衝撃的な番狂わせの一つと言える出来事として、サム・アルトマン氏がOpenAIのCEOを解任された。金曜日、同社は突然のリーダーシップ交代を発表する声明を発表した。「アルトマン氏の辞任は取締役会による審議を経て決定されたものであり、同氏は取締役会とのコミュニケーションにおいて常に率直さを欠き、取締役会の責任遂行能力を阻害していたとの結論に至りました。取締役会は、同氏がOpenAIを率い続ける能力にもはや信頼を置いていません。」プレスリリースによると、この衝撃的な出来事によって生じた権力の空白に際し、取締役会は同社の最高技術責任者（CTO）であるミラ・ムラティ氏を暫定CEOに選出した模様だ。今のところ、サム氏がどのような行動をとってこのような悲惨なキャリアの転落を招いたのかは全く不明だ。シリコンバレーの王子から一瞬にして追放者へと転落するには、相当な失敗を犯さなければならない。ここで一体何が起こったのか、私は心待ちにしています。
今週のその他の見出し
自動化された医療は、紛れもない悪夢のように聞こえる。新たな訴訟は、ユナイテッドヘルスケアが患者に関する医師の判断を「覆す」ために、重大な欠陥のあるAIアルゴリズムを使用していると主張している。このため、この保険大手は高齢患者や病弱な患者の保険適用を拒否できるのだ。ミネソタ州の連邦地方裁判所に提起されたこの訴訟では、ユナイテッドヘルスケアの子会社であるナビヘルスが、クローズドソースのAIアルゴリズム「nH Predict」を使用していると主張している。このアルゴリズムは、患者の保険適用を拒否するだけでなく、多くの場合、誤った判断を下すという実績がある。Ars Technicaが詳細を報じている。
マイクロソフトは、サム・アルトマン氏のOpenAIからの突然の辞任に「不意打ち」を食らったようだ。Axiosの最新レポートによると、OpenAIの重要なビジネスパートナーであり資金提供者でもあるマイクロソフトは、トップ幹部が極度の偏見をもって解任されたという事実に「不意打ち」を食らったという。レポートではそれ以上のことは何も語られておらず、「状況に詳しい人物」の発言のみが引用されている。誰もがこの件について依然としてかなり混乱している、とだけ言っておこう。
英国は結局、AIを規制しないかもしれない。巨大テック企業の大西洋を越えたアピール攻勢は功を奏したようだ。ここ数週間、イーロン・マスク氏をはじめとするAI業界の重鎮たちが、AIサミットに出席するため英国を訪れた。出席した幹部たちの共通の主張は、「AIは世界を破壊する可能性があるが、今は何もしないでおこう」というものだった。今週、英国のAI・知的財産担当大臣、ジョナサン・カムローズ氏は報道陣に対し、「短期的には」英国は「時期尚早な規制」を実施したくないとし、「イノベーションの阻害」は避けたいと述べた。
訂正：この記事の以前のバージョンでは、ソーシャルリンクスを「ロシア」企業と表現していました。同社の創設者はロシア人ですが、本社は米国にあります。
