ここ数ヶ月、アメリカの政治動向を少しでも観察したことがある人なら、おそらく次のような予測を目にしたことがあるだろう。2024年には世界初のディープフェイク選挙が行われるだろう、というものだ。大規模言語モデルを搭載した急速に進化するAI動画・音声生成ツールは、ドナルド・トランプ陣営とロン・デサンティス陣営の大統領選で既に利用され、互いを中傷し合っている。また、現大統領ジョー・バイデンのフェイクも定期的に増殖しているようだ。議員たちは、自分たちの顔も近いうちにAI生成の泥沼に飲み込まれてしまうのではないかと懸念し、州および連邦レベルでディープフェイクを規制しようとする十数本の法案を急いで提出している。
しかし、爪を噛む議員たちは出遅れている。政治家を標的としたディープフェイクは新しいように思えるかもしれないが、AIが生成したポルノは、依然として合意のないディープフェイクの圧倒的多数を占めており、5年以上にわたり何千人もの女性を苦しめてきた。彼女たちの物語は、しばしば主流の懸念の表面下に埋もれてきた。ディープフェイクの被害者グループは、衝撃的な新作ドキュメンタリー『アナザー・ボディ』の中で、自らのトラウマと、加害者への反撃の軌跡を語り、そのベールを剥がそうとしている。
標的となった女性の一人、Twitchで28万人のフォロワーを持つ人気ASMRストリーマーのGibiさんは、ギズモードの取材に対し、自分に対する性的ディープフェイク動画の存在を公に認める決断をした理由を語った。彼女は、自身のプラットフォームが、見過ごされがちなこの問題に光を当てる一助となることを願っている。
「私たちはほとんどの時間を、大したことじゃない、世の中にはもっとひどいことがあるんだ、と自分に言い聞かせて過ごしているように思います」とギビ氏はギズモードのインタビューで語った。「私もそうやって一日を過ごしているんです。気にする気にはなれないから、そんなにひどいことじゃないんだ、と自分に言い聞かせているんです。」
「他の人から、そんなにひどい状況だと聞くと、複雑な気持ちになります」と彼女は付け加えた。「少し安心する一方で、少し怖くもあります。」
ギビは、映画の中で自身のディープフェイク動画を発見した後の体験を語る数人の女性のうちの一人です。ソフィー・コンプトンとルーベン・ハムリンの監督によるこのドキュメンタリーは、主に、自身のディープフェイク動画がインターネット上に出回っているのを発見した工学部の学生、テイラーの人生を追っています。テイラーは彼女の本名ではありません。実際、ドキュメンタリーに登場するテイラーともう一人のディープフェイク被害者の姿はすべて、彼女たちの正体を隠すために作られたディープフェイク動画です。
22歳の学生は、友人から「本当に申し訳ないけど、これは見るべきだと思う」というぞっとするようなFacebookメッセージを受け取ったことで、このディープフェイク動画を発見した。そのメッセージにはPornHubのリンクも表示されていた。
テイラーは最初はメッセージを信じず、友人のアカウントがハッキングされたのではないかと疑いました。最終的にリンクをクリックすると、ハードカバーのポルノに出演している自分の顔が、こちらを見つめている画面が表示されました。後にテイラーは、誰かが彼女のソーシャルメディアアカウントから顔画像を取得し、AIモデルにかけ、6本のディープフェイクセックス動画に出演させていたことを知ります。さらに悪いことに、動画の犯人は、彼女の実名を偽り、大学名と出身地を記載したPornHubのプロフィールに動画を投稿していました。
時に壊滅的なまでに恐ろしいこの映画は、ディープフェイクの被害者が、自らの性的描写を目の当たりにすることで耐えざるを得ないトラウマと無力感を露わにしている。ディープフェイクを描写する会話やメディアの多くは、著名人や世間の注目を集める人物に焦点を当てているが、『アナザー・ボディ』は憂慮すべき現実を浮き彫りにしている。ますます強力になり、アクセスが容易になった大規模言語モデルを活用したディープフェイク技術は、知名度に関わらず、誰もが顔写真を入手可能な状態にしているのだ。
この映画は、暗い結末を迎えるのではなく、テイラーが自身のディープフェイクに関する手がかりを解き明かしていく様子を主に描いています。やがて彼女は、同じ学校の別の少女が、同意なしに同様のディープフェイクの標的になっていることを知る。二人は4Chanなどのディープフェイクの温床に潜り込み、自分たちを苦しめる犯人を暴く手がかりを探し求めます。ディープフェイクの地下世界へと潜っていく中で、テイラーはTwitchストリーマーのギビの偽画像に偶然出くわします。
Twitchストリーマーが声を上げる
ギビさんはギズモードの取材に対し、これまでにあまりにも多くのディープフェイク動画を見てきたため、最初の動画をいつ見つけたのかさえ思い出せないと語った。
「すべてがひとつに溶け合うんです」と彼女は言った。
ストリーマーとして、ギビは長年、性的なテキストメッセージや時折見られる男性器の写真など、数々の嫌がらせに直面してきた。彼女によると、技術の進化に伴い、ディープフェイクも徐々に加えられるようになったという。
彼女によると、当初は偽物はそれほど洗練されていなかったが、品質が急速に向上し、「ますます本物らしく見えるようになった」という。
しかし、明らかに偽造された動画でさえ、一部の人を騙すことがある。ギビは、自分の初期の粗雑で急ごしらえの映像に知り合いが騙されたと聞いて驚いたという。中には、実際にはポルノではないのに、ポルノだと勘違いして広告主が他のクリエイターとの提携を完全に打ち切ったという話も耳にしたことがあるという。
「彼女は『それは私じゃない』と言っていました」とジビさんはディープフェイクのせいで広告主の支援を失った友人について語った。
ギビさんは、テイラーさんとのやり取りがきっかけとなり、「ディープフェイクに反対の声を上げる」と題したYouTube動画を公開したと語る。この動画では、AIによって操作されたメディアを受け取った自身の経験を明かしている。昨年投稿されたこの動画は、以来50万回近く再生されている。
「このことについて話すということは、より多くの人の目に留まり、より多くの聴衆に届くということを意味していました」とギビは言った。「私の強みは、公共の場で、オンラインで投稿したり、難しい話題について話したり、真実を語ったりすることにあると分かっていました。大変な努力ですから」
ギビさんがこの問題についてオープンに話すことを決めた時、最初はコメントを読むのを避けていたと言います。人々がどう反応するかわからなかったからです。ありがたいことに、反応は圧倒的に好意的でした。彼女は今、ドキュメンタリーへの参加が、性的ディープフェイクを防止または処罰するための潜在的な立法上の解決策に、より多くの注目を集めるきっかけとなることを願っています。性的ディープフェイクは、ここ数ヶ月、政治的なディープフェイク法の制定に後回しにされてきた問題です。ギビさんはギズモードの取材に対し、ディープフェイクへの世間の関心が再び高まっていることに楽観的だと語りましたが、男性優位の地域に問題が波及し始めてからようやく注目を集め始めたことに、少し不満を漏らしました。
「男性は加害者であると同時に消費者でもあり、そして何かを変えるためには訴えかけなければならないと私たちが感じている人々でもあるんです」とギビ氏は言った。「だから、本当にイライラします」
EndTABの創設者アダム・ドッジ氏も、同様の不満を表明しています。彼は映画『アナザー・ボディ』にも何度か登場しています。15年間、ジェンダーに基づく暴力の分野で弁護士として活動してきたドッジ氏は、被害者支援サービス提供者を支援し、ハラスメントに使用されるテクノロジーがもたらす脅威についてリーダーたちを啓蒙するためにEndTabを設立したと述べています。映画に登場する大学生テイラーさんは、自身のディープフェイクを発見した後、ドッジ氏に助言を求めました。
ギズモードの取材に対し、ドッジ氏は、オンラインハラスメントは実際には新しいものではないことを認識することが重要だと述べた。AIなどの新興技術は、既存の問題を単に増幅させているだけだ。
「被害者のヌード画像を使って嫌がらせをしたり、権力や支配を行使したり、屈辱を与えたりすることは、長らく行われてきました」とドッジ氏は述べた。「これは、そうした行為を可能にする新たな手段に過ぎません。」
ドッジ氏は、ディープフェイクが一つの決定的な点で状況を変えたと指摘する。被害者はもはや、自分のプライベートな画像をオンライン上に公開していなくても標的にされるようになった。インスタグラムや大学のウェブサイトで公開されている写真があれば十分だ。
「今や我々は全員潜在的な被害者だ。彼らが必要としているのは顔写真だけだからだ」とドッジ氏は語った。
ドッジ氏の組織は主に訓練を目的としているものの、被害者たちは助けを求めて彼を訪ねてくると、彼は早い段階から被害への意識を高めようと尽力した数少ない人物の一人だったと語る。それがテイラー氏との出会いだった。
ギズモードの取材に対し、ドッジ氏は、一部の新たなディープフェイク関連法案の適用範囲についても同様の不満を表明した。オンラインに投稿されるディープフェイクの圧倒的多数が女性の同意のないポルノであるにもかかわらず、ドッジ氏は、提案されている法案の約半数が選挙の公正性に焦点を当てていると推定している。
「女性に対する暴力は、決して適切な注意が払われることのない問題であり、常に他の物語に都合よく歪曲され、議員や政治家は、自分たちに個人的に影響を与える問題であるがゆえに、政治分野を標的としたディープフェイクによる誤情報に注力してきたからだと思います」と彼は述べた。「実際、私たちが話しているのは特権の問題なのです。」
ディープフェイクがインターネットを席巻している
性的なディープフェイクが驚異的なスピードで増加している。今週Wiredの取材に応じた独立系研究者は、過去7年間で上位35のディープフェイクポルノサイトに約24万4625本の動画がアップロードされたと推定している。そのうち約半数（11万3000本）は、今年の最初の9ヶ月間にアップロードされたものだ。この点を強調するために、研究者は2023年末までにアップロードされるディープフェイク動画の数は、他のすべての年の合計を上回ると推定している。これには、ソーシャルメディアやクリエイターの個人コレクションに存在する可能性のある他のディープフェイクは含まれていない。
「ディープフェイクによる非合意のポルノ画像を作成するためのAIツールの利用可能性が大幅に高まり、ポルノプラットフォームや違法オンラインネットワークにおけるこの種のコンテンツへの需要も増加しています」と、モナシュ大学のアッシャー・フリン准教授はWired誌のインタビューで述べた。「新たな生成AIツールの登場により、この傾向は今後さらに強まる可能性が高いでしょう。」
これらすべてが気が滅入るような話に聞こえるかもしれませんが、議員たちは積極的に解決策を模索しています。すでに6州ほどで、個人の同意なしに性的なディープフェイクを作成・共有することを犯罪とする法案が可決されています。ニューヨーク州では、人工知能によって生成された性的に露骨な画像の配布・流通を違法とする法案が最近可決され、12月に施行されます。違反者は最長1年の懲役刑に処せられる可能性があります。
「私の法案は、ニューヨーク州はこのような虐待を容認しないという強いメッセージを送るものです」と、法案の起草者であるミシェル・ヒンチー州上院議員は最近、ハドソン・バレー・ワンに語った。「被害者は当然、法廷で訴えられることになります。」
一方、連邦議会の議員たちは、AI企業に対し、自社のプログラムによってメディアが改変された場合、それを国民に明確に開示するデジタル透かしを作成するよう圧力をかけています。OpenAI、Microsoft、Googleなど、AI開発競争に参画する大手企業は、明確な透かしシステムの構築に自主的に取り組んでいます。しかし、ドッジ氏は、検出の取り組みや透かしの導入で解決できるのは限られていると指摘します。ポルノ的なディープフェイクは壊滅的な被害をもたらし、たとえ誰もが偽物だと知っていたとしても、永続的なトラウマを生み出すと彼は指摘します。
近い将来、合意のないディープフェイクが急増する可能性があるにもかかわらず、ドッジ氏は驚くほど、そして心強いほど楽観的な見方を崩していない。議員たちは過去の過ちから学ぶ意欲を持っているようだ、と彼は述べた。
「まだ非常に初期段階だと思いますが、法制化が進み、人々がこの話題を取り上げています」とドッジ氏は述べた。「ソーシャルメディアが誕生して10年経ちますが、（立法府は）プラットフォーム上での嫌がらせや虐待から人々を守るために十分な対策を講じていません。しかし、これはあらゆるプラットフォームで、そして立法府による法執行機関であれ、社会全体におけるテクノロジーであれ、人々がこの問題への対処に強い関心を寄せている分野です。」
