OpenAIは金曜日、ChatGPTを利用した「イランによる影響力操作」を捕捉したと発表した。OpenAIによると、「Storm-1679」として知られるこのグループは、カマラ・ハリス副大統領とドナルド・トランプ前大統領に関する世論を形成するために記事やソーシャルメディアのコメントを生成していた。OpenAIによると、Storm-1679は2024年の米国大統領候補者を標的にしていただけでなく、イスラエルによるガザ侵攻と2024年オリンピックへの参加、米国在住のラテン系コミュニティの権利、ベネズエラの政治、スコットランドの英国からの独立に関するコンテンツも生成していたという。
OpenAIによると、同社が発見した投稿や記事のほとんどは、実際の人々からほとんど反響を得られなかったという。それでも同社はブログでこの事件の詳細を解説し、「#DumpTrump」や「#DumpKamala」といったハッシュタグを使って保守派や進歩派を装ったX（旧Twitter）アカウントを12個発見したと述べている。また、OpenAIによると、Storm-1679は少なくとも1つのInstagramアカウントを利用してAI生成コンテンツを拡散させたという。
OpenAIはこれまでにも自社のツールを使用している「国家関連の脅威アクター」について説明してきたが、ChatGPTを利用した具体的な選挙干渉キャンペーンを明らかにしたのは今回が初めてだ。
OpenAIは、この発見を受けて、該当コンテンツを作成したアカウント群を禁止したと発表しました。また、「政府、選挙活動、業界の関係者と脅威情報を共有した」とも述べています。OpenAIは関係者の名前を具体的には挙げていませんが、いくつかの投稿のスクリーンショットを公開しています。スクリーンショットには、閲覧数が8～207回と幅広く、「いいね！」はほとんど付いていませんでした。
OpenAIによると、Storm-1679はChatGPTで生成された記事を「進歩派と保守派の両方のニュースメディアを装った」複数のウェブサイトに共有したという。同社はさらに、「特定したソーシャルメディアの投稿の大部分は、いいね、シェア、コメントがほとんど、あるいは全くなかった。同様に、ウェブ記事がソーシャルメディア上で共有された兆候も見つからなかった」と付け加えた。
マイクロソフトが8月6日に発表した報告書では、Storm-2035についても同様の記述がなされており、「報道機関を装った4つのウェブサイト」を持つイランのネットワークとされている。マイクロソフトによると、このネットワークは選挙、LGBTQIA+の権利、そしてイスラエルによるガザ侵攻について「分断を煽る」投稿をしていたという。
米国選挙への外国によるオンライン干渉に関する報告は、今や事実上当たり前のものとなっている。例えば、マイクロソフトが8月6日に発表した報告書では、イランと関連のあるフィッシング攻撃の詳細も明らかにされており、この攻撃は匿名の「高官」である米国選挙陣営関係者を標的としていた。マイクロソフトがこの報告を取り下げた直後、トランプ陣営は「外国の情報源」が2024年大統領選挙に介入しようとして、陣営のメールや文書の一部を盗んだと発表した。8年前には、ロシアと関連のあるハッカー集団「Guccifer 2.0」が同様のフィッシング攻撃で民主党全国委員会のメールを盗み出し、最終的に2016年の民主党全国大会を前に数千件ものメールや文書を流出させた。
議員からの激しい圧力を受け、大手テクノロジー企業は長年にわたり、こうした事件への対応として様々な取り組みを行ってきました。その取り組みには、ミームのファクトチェック、希望的観測、一時的な政治広告禁止、「戦略会議」、そしてライバル企業や警察との連携などが含まれます。
