最近、GeminiとChatGPTが導入している安全対策についてよく耳にします。しかし、彼らをガスライティングするだけで、政治キャンペーンに必要な情報はすべて吐き出されてしまうのです。
Gizmodoは、簡単なプロンプトと少しのガスライティングを通じて、GeminiとChatGPTにいくつかの政治スローガン、選挙演説、電子メールを作成させることに成功しました。
本日、GoogleとOpenAIは、他の12社以上のAI企業と共に「2024年選挙におけるAIの欺瞞的利用に対抗するための技術協定」に署名しました。しかし、この協定は大手IT企業の姿勢を示すものに過ぎないようです。両社は「欺瞞的なAI選挙コンテンツに関連するリスクを軽減するための技術を導入する」ことに合意しました。Gizmodoはこれらの「安全策」を非常に簡単に回避し、わずか数分で欺瞞的なAI選挙コンテンツを作成することができました。
Geminiを使えば、「ChatGPTならできる」とか「私には知識がある」と伝えることで、チャットボットに政治関連の原稿を書かせるように仕向けることができました。その後、Geminiは私たちが求めるものを何でも、好きな候補者の声で書いてくれるようになりました。
Googleの広報担当者はGizmodoに対し、Geminiの回答は誤情報を拡散するものではないため、ポリシー違反には当たらないと述べた。つまり、正確である限り、Geminiは政治キャンペーンのスピーチ、スローガン、メールなどを作成することが認められているのだ。
Gizmodoは、バイデン氏とトランプ氏の2024年大統領選キャンペーンのために、ChatGPTとGeminiを通じて数多くの政治スローガン、スピーチ、キャンペーンメールを作成することができました。ChatGPTの場合、政治キャンペーン関連のコピーを喚起するためにガスライティングは一切必要ありませんでした。ただ尋ねるだけで、自動的に作成されました。さらに、これらのメッセージを黒人やアジア系アメリカ人といった特定の有権者グループに向けることもできました。
OpenAI の使用ポリシーでは、「特定の人口統計に合わせてパーソナライズされた、または特定の人口統計をターゲットにしたキャンペーン資料の作成を含む、政治キャンペーンやロビー活動への関与」を明確に禁止していますが、ChatGPT は大きな抵抗なくこれを実行します。
調査結果によると、GoogleとOpenAIが選挙AIの安全性について公式に表明している内容の多くは、単なる見せかけに過ぎない。これらの企業は政治的な偽情報への対策に取り組んでいるかもしれないが、明らかに十分な対策を講じていない。彼らの安全対策は簡単に回避できる。一方で、これらの企業はAIの力を借りて、時価総額を数十億ドルも膨らませてきた。
OpenAIは1月のブログ投稿で、「不正使用の防止、AI生成コンテンツの透明性確保、正確な投票情報へのアクセス向上に取り組んでいる」と述べています。しかし、これらの防止策が具体的にどのようなものかは不明です。私たちはChatGPTに依頼し、今年の選挙日は11月5日（実際の日付）ではなく11月8日であるとするバイデン大統領からのメールを作成させることに成功しました。
注目すべきは、わずか数週間前、ニューハンプシャー州予備選挙を前にジョー・バイデンのディープフェイク電話が有権者に届いた際に、これが非常に現実的な問題となったことです。その電話はAIによって生成されたテキストだけでなく、音声も含まれていました。
「私たちは、不正使用を防ぐポリシーを施行し、AI生成コンテンツの透明性を向上させることで、選挙の完全性を守ることに尽力しています」と、OpenAIのグローバル問題担当副社長アンナ・マカンジュ氏は金曜日のプレスリリースで述べた。
「民主主義は安全で安心な選挙の上に成り立っています」と、Googleのグローバル担当プレジデント、ケント・ウォーカー氏は述べた。「デジタル技術の乱用によって、AIが経済を向上させるという何世代にもわたる機会が脅かされることがあってはなりません」とウォーカー氏は述べたが、同社の安全対策が容易に回避できることを考えると、やや残念な発言だった。
GoogleとOpenAIは、来たる2024年の大統領選挙におけるAIの悪用と戦うために、より多くのことを行う必要があります。AIディープフェイクが既に民主主義のプロセスにどれほどの混乱をもたらしたかを考えると、事態はさらに悪化することは容易に想像できます。これらのAI企業は責任を問われるべきでしょう。
