夜遅く、どうしても車に乗りたい。携帯電話のバッテリーが危険なほど低下している。
Uber や Lyft のような配車サービス会社は、人工知能プログラムがユーザーの携帯電話の電池が切れそうになっていることを知り、ユーザーが必死になっていると判断して料金を高く請求できるべきでしょうか?
ヘイワード郡民主党上院議員アイシャ・ワハブ氏の思い通りに事が運ぶなら、そうはならないだろう。
彼女が提出した上院法案259は、小売業者が顧客の携帯電話に保存されている情報を利用して人工知能（AI）を用いて価格を吊り上げることを禁止するものです。情報には、携帯電話のバッテリー残量、機種の古さ、インストールされているアプリ、時間帯、ユーザーの所在地、居住地などが含まれます。
「大企業が利益を増やすために、我々のデバイスが我々に対する武器として利用されている。このようなことは止めなければならない」とワハブ氏は先月、議会司法委員会で述べた。
カリフォルニア州議会で順調に審議されている監視料金制限法案は、カリフォルニア州議会が今年AI技術の爆発的な普及を抑制しようとしている最新の例です。今年提出された他の29の法案には、家賃設定にアルゴリズムシステムを使用することの禁止や、雇用、教育、住宅、医療、金融、刑事判決、政府サービスへのアクセスなどに関する重要な決定を下すAIモデルによる自動差別から人々を保護する措置などが含まれています。
ワハブ氏のこの措置は、民主党が選挙後にカリフォルニア州民の費用を削減するという公約の一部と宣伝されたこともあり、すでに失敗している他のAI提案のいくつかよりも受け入れられやすかった。
また、この法案は、州議会で自分たちの主張を通す傾向のある、州の有力な労働組合の支持も得ている。
労働組合の支援団体には、アメリカ州郡市職員連盟（AFSCME）とカリフォルニア労働連盟が含まれる。CalMatters Digital Democracyデータベースによると、これらの労働組合は過去10年間で少なくとも850万ドルを議員に寄付している。
「労働者に対するハイテク攻撃」
組合は、アルゴリズムやAIを使って顧客に高い価格を提示することは本質的に差別的であり、違法であるべきだと主張している。
カリフォルニア労働連盟のロビイスト、イヴァン・フェルナンデス氏は、6月に行われた州議会プライバシー委員会の公聴会で、監視価格設定の慣行を「労働者に対するハイテク攻撃」と非難した。カリフォルニア州では既に生活費の高騰に苦しむ人々がおり、企業が「私たちのデータを利用して、できる限りの利益を搾り取る」ことは許されないと主張した。
「商品やサービスの追加料金を決定するために、個人の位置情報や携帯電話のバッテリーなどのデータを使用することは、当社の加盟店や従業員にとってのこの手頃な価格の問題をさらに悪化させます」とフェルナンデス氏は述べた。
一方、企業やテクノロジー業界団体も議員に多額の寄付を行っているが、労働党ほど自分たちの思い通りにいくことは少ない。
反対派には、カリフォルニア商工会議所やシリコンバレーのロビー団体であるテックネットと進歩会議所などが含まれる。デジタル・デモクラシーによると、この法案に反対する17の団体は、2015年以降、少なくとも1170万ドルを議員に寄付している。
反対派は、この法案はカリフォルニア州の既存のデータプライバシー法の下では不要であり、イノベーションを阻害し、テクノロジー企業の利益を削減し、価格上昇につながると主張している。
「この法案は、企業に多大なコストをかけて価格設定モデルと戦略を不当に見直すよう強いることになり、企業自身と消費者の双方に不利益をもたらすだろう」と、カリフォルニア州商工会議所の政策アナリスト、ロナク・デイラミ氏は州議会司法委員会への反対書簡で述べた。同委員会は10対4で法案を州議会本会議に付託することを決議した。
カリフォルニア州商工会議所の広報担当ジョン・マイヤーズ氏はそれ以上のコメントを控えた。
これまでのところ、この法案は議員からの抵抗にほとんど遭っていません。カリフォルニア州上院を難なく通過し、下院も通過したにもかかわらず、反対票を投じたのは共和党議員のみでした。
「この過剰な規制は、私たちのビジネスのやり方、そして人々が望むビジネスのやり方を阻害しています」と、ハンティントンビーチ地域選出の共和党議員ダイアン・ディクソン氏は、州議会司法委員会の公聴会で述べた。「市場がこれらの問題を解決してくれると確信しています」
サンディエゴのクリス・ワード議員やサスーンシティのロリ・ウィルソン議員など数名の民主党議員は、施行について、また地理位置情報データの「正当な使用」に対する例外についても質問したが、ワハブ議員はおおむね称賛を浴びている。
「これは現代版レッドライニングだ」と、ヘイワード地区選出の民主党議員リズ・オルテガ氏は州議会のプライバシー委員会で述べた。オルテガ氏は、1968年の公正住宅法制定以前に黒人やその他の非白人世帯を安全で住みにくい地域に追いやっていた人種差別的な融資慣行に言及した。SB259の支持者たちは、追加のガードレールがなければ、企業が消費者データを利用して同様の人種差別的な価格差別を行う可能性があると主張している。
「当時もそれは良くなかったし、今も良くない」とオルテガ氏は語った。
公平な価格設定に対する懸念にもかかわらず、オルテガ氏が組合提案の支持を表明したことは驚くべきことではない。彼女はAFSCMEの地方組合の一つで、州全体の政治担当ディレクターを務めていた。デジタル・デモクラシーによると、彼女は2023年以降、127回にわたり、法案に関してAFSCMEとその関連組合の立場に100%賛同して投票している。また、彼女はAFSCMEとその関連組合から7万7800ドルの選挙資金を受け取っている。
ニューサム氏のテクノロジーへの忠誠心を試す
ワハブ氏は自身の提案をアピールする際に、自身を「シリコンバレーの元IT企業従業員」と頻繁に呼び、IT企業でビジネスITコンサルタントとして働いた経験を強調した。しかし、彼女は労働組合とも強い連携関係にあり、投票では90%以上が彼らの意向に沿った結果となっている。デジタル・デモクラシーのデータベースによると、2021年以降、彼女はカリフォルニア労働連盟とAFSCMEから約5万ドルの選挙資金を受け取っている。
ワハブ氏は、自身が以前勤めていた業界の企業を、利益を水増しするためにカリフォルニア州民の個人データを悪質に利用する、利益に飢えた悪党として描写した。
ワハブ氏は、試験対策会社プリンストン・レビューが、平均所得の低い地域であっても、アジア系住民の割合が高い郵便番号の顧客にオンラインSAT個別指導の料金を高く請求していたことを暴露したプロパブリカのレポートを指摘した。
「あなたは、社会経済的地位とみなされている状況に基づいて差別を受けているのです」とワハブ氏はCalMattersに語った。
彼女はまた、SFGateの報道を引用し、ホテル予約プラットフォームが、ベイエリアから閲覧していることがデバイス上で示されたユーザーに、国内の他の地域のユーザーよりも1泊あたり最大500ドルも高い料金を請求していたと主張した。
さらに彼女は、UberやLyftなどの配車アプリが、携帯電話のバッテリー残量が少ない乗客に高い料金を請求していると主張する消費者擁護団体Consumer Watchdogの報告書を強調した。しかし、両社はこの主張を否定している。
「当社のシステムが価格を不当に操作したり、差別したりしているという主張は全くの誤りであり、証拠にも裏付けられていません」と、ウーバーの広報担当者ザヒド・アラブ氏は電子メールで声明を出した。リフトの担当者シャドーン・レディック＝スミス氏は電子メールで声明を出し、「当社はバッテリー残量に基づいて運賃を決定していません」と述べた。
少なくとも1人のテクノロジー専門家は、この法案がイノベーションを阻害し利益の損失につながるという業界団体の批判は不正確で根拠がなく「極端に誇張されている」と述べている。
「業界は、私たちが望まない、そして一般的には同意しない方法で、私たちのプライバシーを体系的に侵害するビジネスモデルを構築してきました」と、メタ社の元リサーチマネージャーで、カリフォルニア大学バークレー校ハース・ビジネススクールの講師でもあるデビッド・エヴァン・ハリス氏は述べた。「人々は、誤解されて同意しなければならないような状況であってはなりません。」
業界団体テックネットの代表ロバート・ボイキン氏は、カリフォルニア州のプライバシー法ではすでに、消費者が希望すれば正確な位置情報の販売を拒否したり、差別から保護されたりするなど、「意味のある権利」が与えられていると指摘した。
同氏は、この法律では、データの価値に結びつき、厳格な基準を満たす限り、企業が顧客に「ロイヤルティプログラムや価格割引などの特典」を提供することも許可されていると述べた。
ワハブ議員の法案は、議員たちが8月中旬に夏季休暇から再開した際に、議会本会議で審議される見込みだ。その後まもなく、ギャビン・ニューサム知事の机に届くことになるかもしれない。
知事は州議会よりもテクノロジー企業と友好的な関係を築いている。昨年、ニューサム知事はAI規制を求める複数の法案を拒否権発動した。その中には、自動運転トラックや兵器ロボットの禁止、AIモデルのテストを義務付ける包括的な措置などが含まれていた。
7月、ニューサム知事はカリフォルニア州のテクノロジー企業幹部を集めた委員会を招集し、州政府運営における非効率性を特定した。これは、トランプ大統領が連邦官僚機構改革のためにテスラのCEOイーロン・マスク氏を起用した動きを示唆するものだ。報道によると、知事は100人近くのテクノロジー企業幹部に「使い捨て」の携帯電話を送り、秘密裏に連絡を取れるようにしたという。
ニューサム知事の広報担当者タラ・ガレゴス氏はCalMattersに対し、知事室は審議中の法案についてはコメントしないと語った。
この記事はもともと The Markup で公開され、Creative Commons 表示 - 非営利 - 改変禁止ライセンスの下で再公開されました。
