今週のヘッドライン
先週リリースされたばかりのMetaのAI生成ステッカーは、すでに大騒動を巻き起こしている。ユーザーはすぐに、このステッカーを使って、胸の膨らんだイーロン・マスク、子ども兵士、血に飢えたディズニーキャラクターといった卑猥な画像を作成できることに気づいた。Microsoft Bingの画像生成機能も同様で、ユーザーが有名人やビデオゲームのキャラクターを9/11テロ攻撃に巻き込んだ画像を作成するというトレンドを生み出している。
サンフランシスコで、クルーズのロボタクシーに轢かれて負傷した人がまた一人いる。被害者は最初は人間が運転する車に轢かれたが、その後、自動運転車に轢かれた。被害者の車は彼女の上に停止し、叫び声を上げても動かなかった。自動運転車メーカーがミッションステートメントに掲げている「道路の安全性の向上」という目標は、まだ実現していないようだ。
最後になりましたが、新たな報告書によると、世界中の独裁政権は既にAIを武器として利用していることが明らかになりました。フリーダム・ハウスは、指導者たちが新たなAIツールを悪用して反対意見を抑圧し、オンラインで偽情報を拡散させていることを明らかにしました。今週のインタビューでは、この報告書に関係する研究者の一人にインタビューを行いました。
トップストーリー：AIの創造的クーデター
生成AI業界の大物たちは認めたがらないが、彼らの製品は特に生成的でもなければ、特に知的でもない。ChatGPTやDALL-Eといったプラットフォームが猛烈な勢いで吐き出す自動コンテンツは、より正確には派生的な汚物、つまり人間のアーティストや作家が生み出した何千もの本物の創作物をアルゴリズムでピューレ状に煮詰めたようなものだと言えるだろう。つまり、AI「アート」はアートではなく、ソフトウェアによって制作され、企業への容易な統合のために設計された、単なる退屈な商用製品に過ぎないのだ。ライブウェブキャストで仮想的に行われた連邦取引委員会の公聴会は、この事実を余すところなく明らかにした。
今週の公聴会「クリエイティブ経済とジェネレーティブAI」は、様々なクリエイティブ職種の代表者が、それぞれの業界を席巻する最近のテクノロジーによる混乱に対する懸念を表明する機会を設けることを目的として開催されました。あらゆる方面から、労働者を保護するための効果的な規制を求める声が強く聞かれました。
この行動への欲求は、おそらくダグラス・プレストン氏に最もよく表れているだろう。彼は、OpenAIがアルゴリズムの学習に彼らの資料を利用していることを理由に、現在OpenAIを相手取った集団訴訟の原告となっている数十人の作家の一人だ。プレストン氏は発言の中で、「ChatGPTは私たちの本がなければ、つまらない役に立たないものになってしまうだろう」と述べ、「もしウェブブログ、意見、長文の長文、猫の話、ポルノなどから抽出したテキストだけで学習させたらどうなるか想像してみてほしい」と付け加えた。そして最後に、「これは私たちのライフワークであり、私たちは心と魂を本に注ぎ込んでいる」と述べた。
アーティストにとっての問題は非常に明白です。大企業が AI を使ってアーティストに取って代わることができる市場で、あるいはもっと正確に言えば、クリエイティブ サービスの大部分を自動化することでアーティストの機会と交渉力を削ぐ市場で、アーティストはどのように生き残っていくのでしょうか。
一方、AI企業にとっての問題は、OpenAIのような企業がアーティスト／作家／ミュージシャンを置き換えるアルゴリズムの訓練に用いてきた膨大な量の独自データに関して、未解決の法的問題が残っていることだ。ChatGPTはボタンをクリックするだけで詩や短編小説を生成することはできなかっただろうし、DALL-Eもその奇抜な画像を展開することはできなかっただろう。なぜなら、その背後にある企業が、出版済みの作家やビジュアルアーティストから何万ページものデータを貪り食っていなければ。AI業界の未来、そして実際には人間の創造性の未来は、現在米国の司法制度内で繰り広げられている論争によって決まることになるからだ。
インタビュー：アリー・ファンク氏、独裁政権によるAIの武器化について語る
今週、フリーダム・ハウスのテクノロジーと民主主義担当リサーチディレクター、アリー・ファンク氏にお話を伺う機会に恵まれました。世界中の市民の自由と人権に関わる問題を追跡しているフリーダム・ハウスは、先日、インターネットの自由の現状に関する年次報告書を発表しました。今年の報告書は、新たに開発されたAIツールが、独裁政権による検閲、偽情報、そしてデジタルの自由に対する全体的な抑圧へのアプローチをいかに加速させているかに焦点を当てています。ご想像のとおり、この分野では状況が必ずしも良好とは言えません。このインタビューは、分かりやすさと簡潔さを考慮して若干編集されています。
報告書で取り上げられている重要なポイントの一つは、AIが政府の検閲にどのように役立っているかということです。その調査結果をもう少し詳しく説明していただけますか？
私たちが発見したのは、人工知能によって政府が検閲へのアプローチを進化させているということです。特に中国政府は、情報に対する支配力を強化するためにチャットボットを規制しようとしてきました。彼らは2つの異なる方法でこれを行っています。1つ目は、中国国民が米国に拠点を置く企業が作成したチャットボットにアクセスできないようにすることです。彼らは中国のテクノロジー企業にChatGPTを製品に統合しないように強制しています…彼らはまた、独自のチャットボットを作成し、独自のボットのトレーニングデータに検閲制御を埋め込むように取り組んでいます。政府の規制では、BaiduのチャットボットであるErnieのトレーニングデータは、CCP（中国共産党）の要望と一致し、社会主義プロパガンダの中核要素と一致することが求められています。いじってみると、これはわかります。天安門事件に関するプロンプトに答えることを拒否します。
偽情報も話題になっていますが、AIがこの分野でどのような影響を与えているのか、少し説明していただけますか。
私たちは長年こうした報告書を作成してきましたが、政府による偽情報キャンペーンは、昨今の情報空間における常套手段となっていることは明らかです。今年の報告書では、70カ国のうち少なくとも47カ国が、オンライン上の議論を操作しようと、欺瞞的あるいは隠密的な戦術を用いるコメンテーターを配置していたことが明らかになりました。こうした偽情報ネットワークは長年存在しており、多くの国で非常に巧妙に構築されています。こうしたキャンペーンを支援するために、有料サービスの市場が出現しました。つまり、ソーシャルメディアのインフルエンサーやそれに類するエージェントを雇うだけで済むのです。政府のためにこうした仕事を請け負う怪しげなPR会社も数多く存在するのです。
人工知能（AI）が長年にわたり、この偽情報拡散プロセスの一部となってきたことを認識することが重要だと思います。扇動的で信頼性の低い情報を拡散するために、プラットフォームのアルゴリズムが長年利用されてきました。ソーシャルメディアでは、こうしたキャンペーンの拡散を促進するためにボットが利用されています。つまり、偽情報拡散におけるAIの利用は目新しいものではありません。しかし、生成型AIは、非常に手頃な価格で使いやすく、アクセスしやすいため、偽情報市場への参入障壁を下げることを期待しています。この分野について語るとき、私たちはチャットボットだけでなく、画像、動画、音声を生成できるツールについても言及しています。
AI がオンラインで及ぼす危害を減らすために、どのような規制上の解決策を検討する必要があると思いますか?
過去10年間のインターネット政策をめぐる議論から得られた教訓は、AIにも応用できると考えています。インターネットの自由に関して私たちが既に行っている多くの提言は、AIへの取り組みにも役立つ可能性があります。例えば、政府が民間部門に対し、製品の設計方法や人権への影響について透明性を高めるよう求めることは、非常に効果的でしょう。また、プラットフォームのデータを独立した研究者に提供することも、私たちが行った重要な提言の一つです。独立した研究者は、プラットフォームが人々にどのような影響を与え、人権にどのような影響を与えているかを研究することができます。私が強く推奨したいもう一つの点は、プライバシー規制の強化と、問題のある監視ルールの改革です。私たちが以前に検討した点の一つは、政府によるAI監視ツールの悪用を防ぐための規制です。
GizmodoのAI関連ニュースはこちら、または最新ニュースはこちらでご覧いただけます。毎日の最新情報をご希望の方は、無料のGizmodoニュースレターにご登録ください。
