Metaは昨年12月に、AIを搭載した独自の画像生成ツール「Imagine」をリリースしました。同種の他の画像生成ツールと同様に、Imagineにも人種に関する奇妙なこだわりがあるようです。つまり、アジア人男性が白人女性と交際できる世界を想像できないようです。
説明しましょう。Metaの画像ジェネレーターが白人女性とアジア人男性が一緒に写っている画像を生成できないことに最初に気づいたのはThe Vergeでした。ジャーナリストのミア・サトウ氏は、異人種間の画像を生成しようと試みたが、うまくいかなかったと語っています。サトウ氏によると、様々なプロンプトを使って「何十回も画像を作成」しようと試みたものの、成功したのはたった一度だけだったそうです。
私たち自身もテストしてみましたが、結果はさらに不運でした。画像ジェネレーターを使った私の個人的な実験では、白人女性とアジア人男性が一緒に写っている画像をアプリで生成するのはほぼ不可能でした。思いつく限りのあらゆる組み合わせを試してみましたが、アジア人男性とアジア人女性が一緒に写っている画像しか生成できませんでした。黒人男性と白人女性、白人男性とアジア人女性、白人女性と中東系男性など、他の異人種間カップルは簡単に生成できましたが、アジア人男性に関しては全く運がなかったようです。
画像ジェネレータは白人女性とアジア人男性が一緒に写っている画像を生成できなかったが、ロボットと友達になっている犬を見せるように頼んだときなど、他のもっと奇妙な指示には応答した。
あるいはギャンブル中毒の魚:
これは、Googleを巻き込んだ、類似した、やや深刻なスキャンダルの直後の出来事です。同社の画像生成ツール「Gemini」は、白人の画像を安定して生成できませんでした。また、黒人バイキングや黒人ナチスなど、歴史的に不正確な画像を多数生成していました。Googleは最終的にプラットフォームを一時停止せざるを得なくなり、バグが修正された後に再開することを約束しました。
予想通り、右派のソーシャルメディアインフルエンサーたちはこのトレンドに飛びつき、リベラルイデオロギーの行き過ぎについて、より大規模で破滅的な論評を繰り広げている。私はそれに賛同するつもりはないが、正直言って、一体何が起こっているんだ？どうしてこんなことが起こっているんだ？なぜこれらの企業は人種問題を扱うプラットフォームを作るのがこんなに下手なんだ？これは何かひどいマーケティングの策略なのか？私たちは皆、騙されているのか？一体何が起こっているんだ？
GizmodoはMetaに連絡を取り、アプリがなぜ不具合を起こしたのか詳しい情報を得ており、返答があればこの記事を更新する予定だ。
