GoogleのAIチャットボット「Gemini」には、独特の問題があります。白人の画像を生成するのが難しく、バイキング、建国の父たち、カナダのホッケー選手などを有色人種の画像に変換してしまうことがしばしばあります。これは、白人に対する人種差別だとして、反意識の高いコミュニティから激しい非難を浴びました。本日、GoogleはGeminiの誤りを認めました。
「こうした描写の改善に直ちに取り組んでいます」とGoogle Communicationsは声明で述べた。「GeminiのAI画像生成機能は、確かに幅広い人物を生成しています。世界中の人々が利用しているため、これは概ね良いことです。しかし、今回の場合は的外れです。」
ユーザーからは、Geminiが白人の画像作成を具体的に依頼された場合、その依頼を拒否することがあると指摘がありました。しかし、黒人の画像作成を依頼された場合、Geminiは問題なく対応しました。この結果、Xなどのソーシャルメディアプラットフォーム上の反覚醒派コミュニティから激しい非難が上がり、早急な対策を求める声が上がりました。
AI画像生成ツールが有色人種の描写において酷い結果を出してきたことを考えると、Googleがこの誤りを認めたことは控えめに言っても驚くべきことだ。ワシントン・ポスト紙の調査によると、AI画像生成ツール「Stable Diffusion」は、フードスタンプ受給者の63%が白人であるにもかかわらず、ほぼ常に黒人として識別していたことが判明した。NPRによると、Midjourneyは「白人の子どもを治療する黒人アフリカ人医師」の作成に繰り返し失敗したとして、ある研究者から批判を受けた。
AI画像生成ツールが黒人を軽蔑していた時、この怒りは一体どこにあったのでしょうか？Gizmodoは、Geminiが白人に対する有害なステレオタイプを描写した例を見つけられませんでしたが、AI画像生成ツールは時折、そうしたステレオタイプを生成することを拒否しました。特定の人種の画像が生成されないことは確かに問題ですが、AIコミュニティによる黒人に対する露骨な攻撃に比べれば、取るに足らないことです。
OpenAIは、Dall-Eのトレーニングデータにおいて、同社のAI画像生成器が「トレーニングデータから様々なバイアスを継承し、その出力が社会的な固定観念を強化することがある」と認めています。OpenAIとGoogleはこうしたバイアスと闘おうとしていますが、イーロン・マスクのAIチャットボット「Grok」は、これらを受け入れようとしています。
マスク氏の「反覚醒派チャットボット」Grokは、政治的正しさのフィルターが一切かかっていません。彼はこれが現実的で誠実なAIチャットボットだと主張しています。確かにその通りかもしれませんが、AIツールは私たちがまだ完全に理解していない方法で偏見を増幅させる可能性があります。Googleが白人を生成する際に失敗したのは、こうした安全フィルターが原因のようです。
テクノロジー業界は歴史的に非常に白人中心の業界です。テクノロジー業界の多様性に関する最新のデータは存在しませんが、2014年にはテクノロジー企業の幹部の83%が白人でした。マサチューセッツ大学の調査によると、テクノロジー業界の多様性は改善傾向にあるものの、他の業界に比べて遅れている可能性が高いことが示されています。こうした理由から、現代のテクノロジー業界が白人と同様の偏見を持つのも当然と言えるでしょう。
これが非常に重大な形で問題となる事例の一つは、警察が使用する顔認識技術（FRT）です。FRTは黒人の顔の識別に繰り返し失敗し、白人の顔の識別にははるかに高い精度を示しています。これは単なる仮説ではなく、単に感情を傷つけただけではありません。この技術は、ボルチモアの黒人男性、デトロイトの黒人母親、そしてその他多くの無実の有色人種の不当な逮捕と投獄につながりました。
テクノロジーは常にそれを開発した人々を反映するものであり、こうした問題は今もなお続いている。今週、Wiredは、「言論の自由」を謳うソーシャルメディアネットワークGabのAIチャットボットがホロコーストを否定するよう指示されたと報じた。このツールは極右プラットフォームによって設計されたと報じられており、AIチャットボットもその方針に合致しているようだ。
AIにはもっと大きな問題があります。これらのツールは、私たち人間の偏見を反映し、増幅させてしまうのです。AIツールは、人種差別、性差別、偏見に満ちたインターネット上で訓練されています。これらのツールは、本質的に私たちの社会が犯すのと同じ過ちを犯す可能性があり、これらの問題にはもっと注目を集める必要があります。
Googleは、Geminiの画像において有色人種の出現頻度を増やしたようだ。これは修正されるべきだが、今日のテクノロジー業界が直面するより大きな問題を覆い隠すべきではない。AIモデルを構築しているのは主に白人であり、彼らは決して根深いテクノロジーバイアスの第一の被害者ではない。
