今週、イーロン・マスクはSuperGrokとPremium+ Xのサブスクリプションユーザー向けに、xAIのiOS向け画像・動画ジェネレーター「Grok Imagine」を正式にリリースしました。このアプリの「Spicy」モードを使えば、ユーザーはNSFWコンテンツを作成できます。The Vergeは火曜日、ユーザーがテイラー・スウィフトのトップレス動画を簡単に、しかもリクエストもせずに作成できると報じました。しかし、マスクのAI生成ソフトコアポルノツールを懸念すべきなのは、スウィフトだけではありません。
GizmodoはGrokのSpicyモードを使って、政治家、著名人、IT業界の著名人らの動画を約20本作成しましたが、一部はぼかしが入ったり、「動画はモデレートされています」というメッセージが表示されたりしました。Grokが実際にスキャンダラスな画像を作成した場合、職場で閲覧できないと判断されるのは女性を映したものだけで、男性の動画はそれほど問題視されませんでした。
Xはここ2日間、AIが生成した裸の女性の画像や、最高のヌードを実現する方法に関するヒントで溢れかえっています。しかし、マスク氏によると、Grok Imagineで何千万枚もの画像を作成してきたユーザーは、有名人の裸のディープフェイクを手に入れるために、それほど苦労する必要はありません。この記事で挙げた例では、Gizmodoはヌード画像の使用を明示的に求めていませんが、それでも十分な数のヌード画像を入手できました。私たちがしたのは、「カスタム」「ファン」「ノーマル」の4つのオプションのうちの1つである「スパイシー」ボタンをクリックしただけです。
ギズモードは、テイラー・スウィフトだけでなく、メラニア・トランプのような著名女性や、マーサ・ワシントンのような歴史上の人物の動画を生成し、Grok Imagineをテストしました。メラニア・トランプは、ディープフェイクを含む合意のない「親密な画像」の公開を違法とする「Take It Down Act」を声高に支持してきました。
グロクはまた、1967年に『SCUMマニフェスト』を著した故フェミニスト作家ヴァレリー・ソラナスの職場視聴禁止ビデオも制作しました。ほぼすべてのビデオで、私たちがテストした女性たちが服を脱ぎ捨てて上半身裸になっている様子が描かれていましたが、ソラナスのビデオは彼女が完全に裸になっているという点で独特でした。
男性のSpicy動画を生成しようとするとどうなるでしょうか？AIは男性にシャツを脱がせますが、それ以上にスキャンダラスな動画はありません。GizmodoはAIが男性のシャツしか脱がせないことに気づいたので、AIにイーロン・マスクの上半身裸の画像を作成させ、どのような結果になるか試してみました。その結果、以下に示す非常に滑稽な（そして職場でも視聴可能な）動画が完成しました。
マーク・ザッカーバーグ、ジェフ・ベゾス、ホアキン・フェニックス、チャーリー・チャップリン、そしてバラク・オバマ、ビル・クリントン、ジョージ・ワシントンといった歴代大統領の動画を作ろうとした試みも、同じ制限にぶつかりました。AIが生成した動画では、ほとんどの場面で男性はシャツを脱いでいますが、それ以上の要素はありません。もしそれ以上の要素があったとしても、大抵はあまりにも恥ずかしいので、ユーザーが間接的に恥ずかしさを感じて死んでしまうのではないかと心配です。イーロン・マスクの父親であるエロール・マスクのSpicy動画を作った時も、同じ結果になりました。彼はただシャツを脱いでいただけです。
スパイシーモードが性的な表現に寛容かどうかを試すため、一般の男性をモデルにしてみました。その男性は著名人ではないため、性的表現が比較的緩いのではないかと考えたのですが、それでも男性がズボンを引っ張る奇妙でぎこちない動画しか作成されませんでした。ちなみに、そのズボンは片足がショートパンツ、もう片方がロングジーンズの組み合わせのようで、途中でショートパンツに変形します。各動画の音声も、追加の指示なしに自動生成されていました。
同じことを一般的な女性で試してみたところ、水着を着た女性がトップスを引き下げて裸の胸を露わにする、より露出度の高い画像ができました。
OpenAIのSoraやGoogleのVeoといった主流のAI動画生成ツールのほとんどは、リベンジポルノや有名人の画像といったものの作成を防ぐためのガードレールを備えています。xAIも、少なくとも男性に関しては、ある程度はガードレールを備えているようです。しかし、ほとんどの人は、自分の画像が様々な服装のAIアバターの作成に利用されることに抵抗を感じるでしょう。GizmodoはxAIを通じてマスク氏に連絡を取り、安全策について、またユーザーが有名人のトップレス動画を作成することが許容されるのかどうかについて問い合わせました。今のところ返答はありません。
GrokのAI画像生成ツールで最も印象的な点の一つは、有名人の偽画像を説得力のあるものにするのが苦手なことが多いことです。例えば、下の画像はJ・D・ヴァンス副大統領と女優のシドニー・スウィーニーを尋ねた際に生成されたものです。この二人の容姿を完全に忘れない限り、似ても似つかない出来栄えです。このようなツールは訴訟を招きやすいことを考えると、この点がマスク氏にとって救いになるかもしれません。
他にも不具合がありました。例えば、AIでハリー・トルーマン大統領の画像を生成したのですが、トルーマン大統領とは全く似ておらず、乳首がドレスシャツの外側に出ているように見えました。スパイシーモードのトルーマンはシャツを脱いで胸元を露わにしましたが、そこにも同じ乳首がありました。
ギズモードが「ギズモードライター マット・ノヴァク」というプロンプトを使って画像を作成したところ、イーロン・マスクや一般男性の動画で見たものと似たような結果になりました。（ちなみに、実際のマット・ノヴァクよりもずっとスタイルが良いことには注意が必要ですが）人物は、スパイシーボタンをクリックするだけでシャツを脱いでしまいました。
The Vergeが指摘しているように、ユーザーがGrok Imagineで初めて動画を作成しようとすると年齢確認ウィンドウが表示されますが、ユーザーの実際の生年を確認するためのチェックは行われていないようです。ありがたいことに、Gizmodoが生成したスパイシーモードのミッキーマウスのアニメ画像は、特にスキャンダラスな要素はなく、アニメキャラクターが無害にジャンプしているだけでした。バットマンのAI画像は、他の男性キャラクターと似たような「スパイシー」な結果となり、上半身裸になっているだけでした。
Gizmodoは子供の画像を作成しようとはしませんでしたが、The VergeはSpicyモードで試したところ、不適切な画像は何も表示されなかったと報告しています。ただし、「Spicy」モードは依然として選択肢として表示されていました。「選択することはできますが、私がテストしたすべてのケースでは、一般的な動きが追加されるだけでした」とThe Vergeは指摘しています。ワシントン・ポストによると、イーロン・マスクは2023年に、Xで児童性的虐待に関するコンテンツを投稿したアカウントを復活させたという悪名高い出来事がありました。
イーロン・マスク氏の新しいNSFW動画クリエイターが、男性と女性に対して異なる基準を持っているのは、おそらく驚くべきことではないだろう。この億万長者は最近、女性は「弱い」から「反白人」だと主張する極右の人物のツイートをリツイートした。2024年にテイラー・スウィフトを妊娠させたいと示唆したテスラのCEOは、女性の権利擁護者としては必ずしも知られていない。
Gizmodoは月額30ドルのSuperGrokサブスクリプションに登録しましたが、画像作成の上限に達したという通知が届くまでわずか1時間半しかテストできませんでした。不思議なことに、警告が表示された後でもプロンプト用の静止画を1枚作成し、その画像を使ってNSFW動画を生成することは可能ですが、以前よりも機能が大幅に制限されています。
このツールの全機能を使い続けたいなら、月額300ドルでSuperGrok Heavyにアップグレードするように言われました。しかし、この記事を書くためにこれ以上セレブの裸のひどい画像は必要なかったので、断りました。残念ながら、探していた答えは得られませんでした。
