楽しみはどこで終わり、社会的な害悪はどこから始まるのか？画像やテキストを生成するAI（人工知能）企業は、自社製品がインターネット上で人気を集めるにつれ、この問いにリアルタイムで取り組んでいるようだ。同時に、同じ企業は、無料トライアルを悪用しようとするユーザーなど、インターネット上でよくある問題にも直面している。
人気のAI画像生成ツール「Midjourney」が今週、無料トライアルを停止したとワシントン・ポストが最初に報じました。この発表は、MidjourneyのCEOであるDavid Holz氏が火曜日の朝にDiscordに投稿した投稿で行われ、「異常な需要とトライアルの乱用」を理由に行われました。
続く投稿によると、ホルツ氏らは安全対策パッチで不正使用の問題に対処しようとした。しかし、試みた変更は問題の解決には不十分だった。「不正使用に対する新たな安全対策を施し、トライアルを再開しようとしましたが、不十分なようでした。再びトライアルを停止します」と、CEOは水曜日の午後に投稿した。同社の有料サービスは引き続き利用可能で、無料トライアルは現在一時停止されているものの、いつでも再開される可能性がある。
ワシントン・ポスト紙の報道では当初、問題の「不正利用」は最近拡散したディープフェイク動画の大量発生に関連していると示唆されていたが、同社はこれを否定している。「（ワシントン・ポスト紙の）記事には、かなり大きな誤解がありました」とホルツ氏はギズモードへのメールで回答した。「大量のユーザーが無料画像を入手するために使い捨てアカウントを作成したため、トライアルを中止しました。…これは一時的なGPU不足と重なりました。この2つの要因が重なり、有料ユーザーのサービスに支障をきたしていました」とホルツ氏は付け加えた。
水曜日のDiscord投稿で言及された「新たな安全策」とは一体何でしょうか？ホルツ氏によると、これもまた、ユーザー1人につき無料トライアルを1回に制限するという試みだったそうです。「無料トライアルを復活させる方法をまだ模索中です。有効なメールアドレスの登録を必須にしようとしましたが、不十分だったので、白紙に戻しました」とホルツ氏はGizmodoに語りました。
近年の生成AIブームのおかげで、画像ジェネレーターを使ったディープフェイクの作成が注目を集めています。ソーシャルメディアのフィードには、本物ではないものの、かなり説得力のある画像が溢れかえっています。例えば、バレンシアガのダウンジャケットを着た、鼻血を垂らした、いかにも豪奢なフランシスコ教皇の画像や、フェラーリ風のスポーツカーのボンネットにサインをしている画像などです。
バレンシアガの法王は、AIによる大規模な誤報の事例としては初の事例になるかもしれない。正直言って、見ていてちょっと面白い。https://t.co/hPoJeXwA1z
— ライアン・ブロデリック（@broderick）2023年3月26日
ドナルド・トランプ前大統領が起訴される見通しとのニュースが報じられた後、同氏が様々な地位で逮捕されたとする様々な偽情報が広く流布された。
トランプの逮捕を待っている間に、トランプが逮捕される写真を撮っている。pic.twitter.com/4D2QQfUpLZ
— エリオット・ヒギンズ（@EliotHiggins）2023年3月20日
他にも、ハーグ国際司法裁判所に臨むロシアのウラジーミル・プーチン大統領や、窓からライフルを構えるジョン・F・ケネディ大統領などの画像を目にしたことがあるかもしれません。これらの画像はすべて、最も人気のある公開AIの一つであるMidjourneyを使用して作成されました。
しかし、ホルツ氏は、これらの画像はMidjourneyへのアクセスを制限したり停止したりする十分な理由にはならないと示唆した。同社はむしろ、無料トライアルの禁止は利益保護の一環だと主張している。同社は、ユーザーに無料トライアルから有料サブスクリプションに移行してほしいのであって、新たな無料トライアルを求めているわけではない。
ホルツ氏はさらに、最近の問題のある政治的な画像群はMidjourney v5の産物だと示唆した。Midjourney v5は有料ユーザーのみに公開されている。公開当時、無料トライアルの登録は5ヶ月前のv4のみに限定されていたとホルツ氏は述べた。
それでもCEOは、Midjourneyがモデレーションの改善に取り組んでいると述べた。「適切なモデレーションポリシーとは何かをまだ模索している段階です。専門家やコミュニティからのフィードバックを取り入れ、慎重に検討しています。すでにいくつかの新しいシステムを開発しており、近日中にリリース予定です」と彼は記した。
娯楽性はあるものの、潜在的に危険で欺瞞的な虚偽画像の台頭を阻止するための同社の取り組みは、今のところ限定的だ。これは、私たちがAI規制の曖昧な問題に足を踏み入れていることを如実に示している。生成AIソフトウェア開発者は、アクセスや「言論の自由」への圧力、そして人々が実際に使いたいと思う製品の開発と、社会的な責任、そして明白な誤用のリスクとのバランスをどのように取っていくのだろうか。そして、米国の政府機関は介入するのだろうか。
今のところ、テクノロジー企業のCEOを含め、誰にとっても答えは不明だ。
OpenAIのDALL-Eのような、性的または暴力的なコンテンツの作成や実在の政治家のコンテンツの使用を禁止するポリシーを持つ他のプラットフォームと比較すると、Midjourneyの基準ははるかに寛容です。しかし、ユーザーがオープンソースソフトウェアをダウンロードして事実上何でもできるStable Diffusionと比較すると、Midjourneyにはより多くのガードレールが設けられています。
例えば、Midjourneyを使って中国の習近平国家主席の画像を生成することはできませんが、他の世界の指導者の画像は引き続き利用可能です。ホルツCEOは昨年、Discordへの投稿でこの決定について説明しました。「（中国における）政治風刺は、全く許容されません」と、ワシントン・ポスト紙の報道によると、CEOは書いています。「中国の人々がこの技術を利用できることの方が、風刺画像を生成する能力よりも重要です」と彼は付け加えました。
また、The Vergeによると、同社は最近、「逮捕」という単語を禁止プロンプトフレーズのリストに追加したが、これはおそらく前述のトランプの画像への反応だろう。
しかし、インターネット上で何が許されるべきか、何が許されるべきでないかという広大で曖昧な境界線を渡り歩くのは、ホルツ氏にとって明らかに困難だ。水曜日のDiscordライブセッションで、ホルツ氏は数千人の聴衆を前に、コンテンツのルール、特に実在の人物の画像の使用に関するルールを絞り込むのに苦労していると語ったとワシントン・ポスト紙は報じている。「完全にディズニー風にするか、完全にワイルド・ウェスト風にするかという議論があり、その中間にあるものはすべて苦痛だ」とホルツCEOは語ったと報じられている。「私たちは今、まさにその中間にいる。このことについてどう感じているのか、私には分からない」
Midjourneyの無料アクセス停止は問題の解決にはならない。CEOは繰り返しになるが、無料トライアル停止の決定はディープフェイクの拡散が原因ではないと主張している。しかし、もしかしたら、恐ろしいほどリアルなフェイク画像をほぼ何でも好きなように作れる人の数を制限することで、問題の進行を遅らせることができるかもしれない。月額10ドル、30ドル、あるいは60ドルで、料金を支払う意思のある人は誰でも、依然としてコンテンツの混沌を選ぶことができるのだ。
AI、チャットボット、そして機械学習の未来についてもっと知りたいですか？人工知能に関する当社の記事をぜひご覧ください。また、「最高の無料AIアートジェネレーター」や「OpenAIのChatGPTについて私たちが知っていることすべて」といったガイドもご覧ください。
