組織は ChatGPT などの人工知能言語モデルを使用して、有権者に特定の行動を促すことができるでしょうか?
ジョシュ・ホーリー上院議員は、2023年5月16日に行われた人工知能に関する米国上院公聴会で、OpenAIのCEOサム・アルトマン氏にこの質問をしました。アルトマン氏は、一部の人々が言語モデルを利用して有権者を操作、説得し、一対一でやり取りするのではないかと懸念していると答えました。
アルトマン氏は詳細を述べなかったが、おそらくこのようなシナリオを念頭に置いていたのだろう。近い将来、政治技術者が「クロッガー」と呼ばれる機械を開発すると想像してみてほしい。ブラックボックスに入った政治キャンペーンだ。クロッガーはただ一つの目的を執拗に追求する。それは、クロッガー社のサービスを利用する選挙運動の候補者が選挙で勝利する可能性を最大化することだ。
Facebook、Twitter、YouTubeなどのプラットフォームは、ユーザーがサイトにもっと長く滞在するようにAIを活用しているが、クロガーのAIは人々の投票行動を変えるという異なる目的を持っている。
クロッガーの仕組み
テクノロジーと民主主義の交差点を研究する政治学者であり法学者でもある私たちは、Cloggerのような技術が自動化によって、2000年代初頭から政治キャンペーンで用いられてきた行動操作やマイクロターゲティング手法の規模と効果を劇的に高めることができると考えています。現在、広告主がユーザーの閲覧履歴やソーシャルメディアの履歴を利用して、商業広告や政治広告を個別にターゲティングしているように、Cloggerはあなた、そして何億人もの有権者に個別に注目するでしょう。
ChatGPTは、現在の最先端のアルゴリズムによる行動操作に比べて3つの点で優れています。まず、ChatGPTの言語モデルは、テキスト、ソーシャルメディア、メール、場合によっては画像や動画など、ユーザー個人に合わせたメッセージを生成します。広告主は比較的少数の広告を戦略的に配置するのに対し、ChatGPTのような言語モデルは、キャンペーン期間中に、ユーザー個人向けには無数の、そして他者向けには数百万もの、独自のメッセージを生成できます。
第二に、クロッガーは強化学習と呼ばれる手法を用いて、投票結果に変化をもたらす可能性が次第に高まる一連のメッセージを生成します。強化学習とは、機械学習における試行錯誤のアプローチであり、コンピューターが行動を起こし、どの行動がより効果的かというフィードバックを得ることで、目的を達成する方法を学習します。囲碁、チェス、そして多くのビデオゲームで人間よりも優れた成績を収める機械は、強化学習を活用しています。
強化学習の仕組み。
第三に、キャンペーンの過程で、クロッガーのメッセージは、機械の過去のメッセージに対するユーザーの反応や、他者の考えを変える方法についての学習内容を考慮して進化していく可能性があります。クロッガーは、時間の経過とともに、あなた、そして何百万人もの人々とダイナミックな「会話」を続けることができるようになります。クロッガーのメッセージは、さまざまなウェブサイトやソーシャルメディアでユーザーを追跡する広告のようなものになるでしょう。
AIの本質
さらに 3 つの機能 (またはバグ) に注目する価値があります。
まず、クロッガーが送信するメッセージの内容は政治的なものであるかもしれないし、そうでないかもしれない。この機械の唯一の目的は投票率の最大化であり、この目標を達成するために、人間の選挙運動員が思いつかないような戦略を編み出す可能性が高い。
一つの可能性としては、対立候補の有権者に対し、スポーツやエンターテインメントなど政治とは関係のない分野への情熱に関する情報を送り、彼らが受け取る政治的メッセージを覆い隠すというものがあります。もう一つの可能性としては、例えば失禁に関する広告など、不快感を与えるメッセージを対立候補のメッセージと同時期に送るというものがあります。さらにもう一つの可能性としては、有権者のソーシャルメディア上の友人グループを操作し、彼らの交友関係が候補者を支持しているという印象を与えるというものがあります。
第二に、クロッガーは真実を全く考慮しません。実際、何が真実で何が虚偽かを知る術がありません。言語モデルの「幻覚」は、この機械にとって問題になりません。なぜなら、その目的は正確な情報を提供することではなく、投票結果を変えることだからです。
第三に、これはブラックボックス型の人工知能であるため、どのような戦略が使われているのかを人々が知る方法はありません。
説明可能な AI の分野では、多くの機械学習モデルのブラックボックスを公開し、その仕組みを人々が理解できるようにすることを目指しています。
クローゴクラシー
もし共和党の大統領選が2024年にクロッガーを導入するなら、民主党の選挙陣営もおそらく同様の機械で対抗せざるを得なくなるだろう。おそらくドッガーとでも呼ぼうか。もし選挙陣営の幹部たちがこれらの機械が効果的だと判断すれば、大統領選はクロッガー対ドッガーの争いとなり、より効果的な機械を導入した側が勝利するだろう。
政治学者や評論家は、どちらのAIが勝利したのかについて多くのことを語るだろうが、おそらく誰も真相を解明できないだろう。大統領が選ばれたのは、彼または彼女の政策提言や政治的思想がより多くのアメリカ国民を説得したからではなく、より効果的なAIを持っていたからだろう。勝利に繋がるコンテンツは、候補者や政党からではなく、勝利だけに焦点を当て、独自の政治的思想を持たないAIから生まれたものだっただろう。
この非常に重要な意味において、選挙は人間ではなく機械によって勝利することになるだろう。演説、広告、メッセージ、投票、開票といった民主主義の通常の活動はすべて行われたにもかかわらず、選挙はもはや民主的ではなくなるだろう。
AIによって選出された大統領は、二つの道のいずれかを取る可能性がある。一つは、選挙という特権を利用して共和党または民主党の政策を推し進めるということだ。しかし、政党の理念は人々の投票行動とはほとんど関係がないかもしれない（クロッガー氏とドッガー氏は政策観を気にしない）。そのため、大統領の行動は必ずしも有権者の意思を反映しているわけではない。有権者は自らの政治指導者や政策を自由に選ぶのではなく、AIに操られてしまうことになるだろう。
もう一つの道は、大統領が、機械が再選の可能性を最大化すると予測するメッセージ、行動、政策を追求することです。この道では、大統領は権力維持以外の特別な政策やアジェンダを持たないことになります。クロッガーの指示に従う大統領の行動は、有権者の真の利益、あるいは大統領自身のイデオロギーに沿うものではなく、有権者を操作するためのものになる可能性が最も高くなります。
クローゴクラシーを避ける
候補者、選挙陣営、そしてコンサルタントが全員、政治AIの使用を放棄すれば、AIによる選挙操作を回避することは可能でしょう。しかし、私たちはそうはならないと考えています。政治的に効果的なブラックボックスが開発されれば、それを使用する誘惑は抗いがたいものとなるでしょう。実際、政治コンサルタントは、候補者の勝利を支援するという職務上、これらのツールの使用は必須であると考えるかもしれません。そして、候補者の一人がそのような効果的なツールを使用すれば、対立候補が一方的に武装解除して抵抗することはほとんど期待できません。
プライバシー保護の強化は有効だろう。クロッガーは、個人をターゲットにし、説得や操作を目的としたメッセージを作成し、キャンペーン期間中に追跡・リターゲティングを行うために、膨大な量の個人データへのアクセスに依存する。企業や政策立案者が機械に提供を拒否する情報が少しでも増えれば、機械の効果は低下するだろう。
強力なデータプライバシー法は、AI が操作されることを防ぐのに役立つ可能性があります。
もう一つの解決策は選挙委員会にあります。彼らはこれらの機械を禁止するか、厳しく規制しようと試みるかもしれません。このような「レプリカント」的な発言は、たとえ政治的な性質のものであっても、規制できるのかどうかについては激しい議論があります。アメリカの極端な言論の自由の伝統を考えると、多くの著名な学者は規制は不可能だと述べています。
しかし、憲法修正第1条の保護をこれらの機械の製品に自動的に適用する理由はない。国家が機械に権利を与えることを選択する可能性は十分にあるが、それは今日の課題を踏まえた上での判断であるべきであり、1789年のジェームズ・マディソンの見解がAIにも適用されるという誤った憶測に基づくべきではない。
欧州連合（EU）の規制当局もこの方向に動いています。政策立案者は、欧州議会の人工知能法案を改訂し、「選挙運動において有権者に影響を与えるAIシステム」を「高リスク」と指定し、規制当局による精査の対象としました。
憲法上より安全ではあるものの、規模は小さいものの、欧州のインターネット規制当局やカリフォルニア州で既に一部導入されている措置の一つは、ボットが人間を装うことを禁止することです。例えば、選挙運動のメッセージに含まれるコンテンツが人間ではなく機械によって生成された場合、免責事項を付記することを規制で義務付けることが考えられます。
これは広告免責事項の要件「サム・ジョーンズ下院議員委員会が費用を負担」に似ていますが、AIによる発信であることを反映するように修正されます。「このAI生成広告は、サム・ジョーンズ下院議員委員会が費用を負担しました。」より強力なバージョンでは、「このAI生成メッセージは、サム・ジョーンズ下院議員委員会から送信されています。クロッガーは、このメッセージを受信するとサム・ジョーンズに投票する可能性が0.0002%高まると予測したためです。」となります。少なくとも、有権者は、それがボットによるものであることを知る権利があり、その理由も知るべきだと考えています。
クロガーのようなシステムの可能性は、人類の集団的無力化への道筋に、超人的な汎用人工知能は必要ないかもしれないことを示している。必要なのは、何百万人もの人々の感情を効果的に刺激できる強力な新ツールを備えた、熱意あふれる活動家やコンサルタントだけかもしれない。
AI、チャットボット、そして機械学習の未来についてもっと知りたいですか？人工知能に関する当社の記事をぜひご覧ください。また、「最高の無料AIアートジェネレーター」や「OpenAIのChatGPTについて私たちが知っていることすべて」といったガイドもご覧ください。
アーコン・ファン（ハーバード大学ケネディスクール市民権・自治教授）、ローレンス・レッシグ（ハーバード大学法学・リーダーシップ教授）
この記事はクリエイティブ・コモンズ・ライセンスに基づきThe Conversationから転載されました。元の記事はこちらです。
