Facebookは広告主に対し、そのシステムがスマートで効果的、そして使いやすいことを約束しています。広告をアップロードし、いくつかの情報を入力するだけで、Facebookのアルゴリズムが魔法のように何百万人ものユーザーの中から最適なオーディエンスを見つけ出します。
このアルゴリズムの仕組みは、Facebookの親会社であるMetaで働く人々にさえ不透明です。しかし、外部の研究によってその一端が垣間見えることがあります。火曜日に第22回ACMインターネット測定会議の議事録に掲載された新たな研究によると、Facebookは画像認識ソフトウェアを用いて広告に登場する人物の人種、性別、年齢を分類しており、誰が広告を見るかは、その人の考え方によって大きく左右されることがわかりました。研究者たちは、55歳以上の男性には若い女性が登場する広告が多く表示され、女性は子供が登場する広告を多く見ており、黒人は黒人が登場する広告を多く見ていることを発見しました。
この研究では、研究者たちは人物写真を使った求人広告を作成した。一部の広告ではストックフォトが使われたが、他の広告ではAIを用いて、人物の人口統計情報以外は全く同じ合成画像を生成した。そして、研究者たちは数万ドルを費やしてFacebookで広告を掲載し、どの広告がどのユーザーに表示されたかを追跡した。
結果は劇的でした。黒人の合成写真を見た視聴者の平均81%は黒人でした。しかし、白人の写真を見た視聴者の平均50%は黒人でした。10代の少女の写真を見た視聴者は57%が男性でした。年配の女性の写真を見た視聴者の58%は女性でした。
また、この研究では、ストック画像のパフォーマンスが人工の顔写真とまったく同じであることも判明しており、これは結果を決定するのは他の要因ではなく、人口統計だけであることを示しています。
Facebookのターゲティングが効果的だと仮定すると、商品広告を検討する際には問題にならないかもしれません。しかし、「仕事、住宅、信用、さらには教育といった機会の広告について考えると、商品販売には効果的だったかもしれないものが、社会的に問題のある結果につながる可能性があることがわかります」と、ノースイースタン大学の研究者で、博士課程のリーバイ・カプラン氏、学部生のニコール・ガーゾン氏、アラン・ミスラブ教授と共にこの研究を共同執筆したピオトル・サピエジンスキー氏は述べています。
コメント要請に対し、Meta社は今回の調査が業界全体の懸念を浮き彫りにしていると述べた。「私たちはこれらの問題に対処するための技術を開発しています」と、Meta社の広報担当者アシュリー・セトル氏は述べた。「当社の広告プラットフォームにおける差別防止に多大な努力を払っており、今後も主要な公民権団体、学者、規制当局と連携し、この取り組みを進めていきます。」
Facebookの人種や年齢による広告ターゲティングも、広告主にとって必ずしも最善の利益ではないかもしれない。企業は、多様性を重視していることを示すために、広告の登場人物を選ぶことが多い。黒人の写真を選んだからといって、白人の視聴者が減ることを望まないだろう。Facebookは、年配の男性が若い女性を描いた広告を見る可能性が高いことを知っていたとしても、だからといって彼らが製品に興味を持つとは限りません。しかし、そこにははるかに大きな影響が潜んでいるのです。
「機械学習、ディープラーニング、こうした技術はすべて、原理的に保守的です」とサピエジンスキー氏は言う。Facebookのようなシステムは、過去の成功例を参考にしてシステムを最適化し、それが未来の姿であると想定していると付け加えた。もしアルゴリズムが、住宅、求人、その他の機会に関する広告を誰が見るかを決める際に、粗雑な人口統計学的仮定を用いているとすれば、ステレオタイプを強化し、差別を固定化してしまう可能性がある。
これはFacebookのプラットフォーム上で既に起きています。2016年のProPublicaの調査によると、Facebookは公正住宅法に違反し、黒人やその他の保護対象グループを対象に住宅広告を非表示にすることをマーケターに許可していました。司法省の介入後、Facebookは人種、宗教、その他の特定の要因に基づく広告ターゲティングを広告主に許可しなくなりました。
しかし、たとえ広告主がFacebookに差別行為を明確に指示できなかったとしても、Facebookのアルゴリズムは広告主が広告に使用した写真に基づいて差別行為を行っている可能性があることが調査で明らかになった。規制当局が変更を強制しようとする場合、これは問題となる。
Metaの広報担当者であるセトル氏は、Metaは住宅差別問題に対処するために新たな技術に投資しており、そのソリューションを信用情報や求人広告にも拡大していくと述べた。今後数ヶ月以内に、さらに詳しい情報を発表する予定だと付け加えた。
これらの結果を見て、「だから何？」と思う人もいるかもしれません。Facebookはデータを公開していませんが、黒人の写真を使った広告は白人オーディエンスへのパフォーマンスが低いのかもしれません。サピエジンスキー氏は、たとえそれが事実だとしても、合理的な根拠にはならないと述べています。
かつて新聞は求人情報を人種と性別で分けていました。採用担当者に偏見がある場合、理論的にはそれは効果的です。「当時は効果的だったかもしれませんが、現状では正しいアプローチではないと判断しました」とサピエジンスキー氏は言います。
しかし、Facebookの手法が効果的であることを証明するのに十分なデータさえありません。この研究は、プラットフォームの広告システムが、彼らがユーザーに考えさせようとしているほど洗練されていないことを示している可能性があります。「広告の真の目的を深く理解しているわけではありません。彼らは画像を見て、人々が過去にどう行動したかというステレオタイプを作り上げているのです」とサピエジンスキー氏は言います。「そこに意味はなく、ただ大まかな連想をしているだけです。つまり、これらの例は、システムが実際には広告主の望むことをしていないことを示していると私は考えています。」
訂正：2022年10月27日午後3時45分（東部標準時）：この記事のオリジナル版では、研究が発表されたジャーナルの名前が誤って記載されていました。
