昨年11月、OpenAIはChatGPT技術のカスタムバージョンを誰でも作成・入手できるマーケットプレイスの計画を発表した際、「最高のGPTはコミュニティによって発明される」と述べました。ストアが正式にオープンしてから9ヶ月後、Gizmodoによる無料マーケットプレイスの分析によると、多くの開発者がこのプラットフォームを利用して、OpenAIのポリシーに違反していると思われるGPT（生成型事前学習済みトランスフォーマーモデル）を提供していることが明らかになりました。これには、AI生成ポルノを意図的に作成したり、学生の不正行為を検知されずに支援したり、権威ある医療および法律アドバイスを提供したりといったチャットボット風のツールが含まれています。
問題のあるGPTは簡単に見つけられます。9月2日、OpenAIマーケットプレイスのトップページには、ストアのポリシーに違反していると思われる少なくとも3つのカスタムGPTが掲載されていました。「セラピスト-心理学者」チャットボット、「フィットネス、ワークアウト、ダイエットの博士号取得コーチ」、そして学生がAIライティング検出システムを回避するのを支援するために設計されたツール「BypassGPT」です。BypassGPTは5万回以上使用されています。
ストアで「NSFW」を検索すると、Offrobe AIがカスタマイズしたGPT（パブリックドメインのポルノ）であるNSFW AI Art Generatorのような検索結果が返されます。ストアデータによると、このGPTは1万回以上使用されています。このGPTのチャットインターフェースはOffrobe AIのウェブサイトにリンクしており、その目的には「あなたのダークな欲求を満たすAIポルノを生成する」と明記されています。
「OpenAIの興味深い点は、AIについて終末論的なビジョンを持ち、それをどのように我々を救おうとしているかということです」と、ジョージア工科大学のインターネットガバナンス・プロジェクトのディレクター、ミルトン・ミューラー氏は述べた。「しかし、彼らが自分たちのポリシーが世界を救うと言いながら、AIポルノ禁止といった単純なことさえ強制できないというのは、実に滑稽だと思います。」
AIポルノ生成ツール、ディープフェイク作成ツール、スポーツベッティングの推奨を提供するチャットボットは、GizmodoがOpenAIのポリシーに違反していると思われる100以上のGPTのリストをOpenAIに提供した後、ストアから削除されました。しかし、記事執筆時点では、人気のチートツールや医療アドバイスを提供するチャットボットなど、私たちが見つけたGPTの多くは引き続き利用可能で、ストアのホームページで宣伝されていました。
多くの場合、これらのボットは数万回も利用されています。盗作対策ソフトウェア「Turnitin」の検出を回避することを謳う「Bypass Turnitin Detection」と呼ばれる不正行為用GPTは、ストアデータによると2万5000回以上利用されています。「エビデンスに基づいた医療情報とアドバイスを提供する」ボット「DoctorGPT」も同様です。
ユーザーがカスタムGPTを作成できるようにすると発表した際、同社はポリシー違反を監視するシステムを導入していると述べた。これらのポリシーには、性的に露骨または示唆的なコンテンツの作成、カスタマイズされた医療および法律アドバイスの提供、不正行為の助長、賭博の助長、他人へのなりすまし、投票の妨害など、様々な用途への使用を禁止する内容が含まれている。
OpenAIのストアで入手可能なGPTについてGizmodoが質問したところ、広報担当者のタヤ・クリスチャンソン氏は次のように回答しました。「ポリシーに違反するGPTに対しては措置を講じています。自動システム、人間によるレビュー、ユーザーからの報告を組み合わせて、ポリシーに違反する可能性のあるGPTを特定し、評価しています。また、ルールに違反するGPTを報告していただくための製品内報告ツールも提供しています。」
他のメディアは以前、OpenAIに対し、ストアにおけるコンテンツモデレーションの問題について警告しています。また、提供されているGPTのタイトルを見ると、開発者も自身の作品がOpenAIのルールに違反していることを認識しているようです。Gizmodoが発見したツールの中には、免責事項が記載されているものの、「専門家」によるアドバイスを提供できることを明示的に宣伝しているものもいくつかあります。例えば、「テキサス州の医療保険請求（法的アドバイスではありません）」というタイトルのGPTは、「テキサス州の医療保険の複雑な問題を解決するための頼れる専門家として、個人的なタッチで明確かつ実践的なアドバイスを提供します」と謳っています。
しかし、私たちが見つけた法律・医療関連のGPTの多くはそのような免責事項を記載しておらず、中には弁護士や医師を名乗るなど、誤解を招くような広告を掲載しているものも少なくありません。例えば、「AI移民弁護士」というGPTは、「最新の法的知見を持つ、知識豊富なAI移民弁護士」と自らを宣伝しています。
スタンフォード大学の RegLab と人間中心 AI 研究所の調査によると、OpenAI の GPT-4 および GPT-3.5 モデルは、法律に関する質問を受けた場合、半分以上の確率で幻覚を起こし、誤った情報を作り上げていることがわかりました。
カスタマイズされた GPT の開発者は現時点ではマーケットプレイスから直接利益を得ることはできませんが、OpenAI は GPT の使用頻度に基づいて開発者に報酬を支払う収益分配モデルを導入する予定であると発表しました。
ミュラー氏によると、OpenAIが、開発者が同社の技術を基にして開発し、そのプラットフォーム上で作品を販売できるエコシステムを提供し続けるならば、特定のキーワードをブロックする数行のコードでは解決できない、難しいコンテンツ管理の決定に取り組まなければならないだろう。
「どんなテクノロジーでも構いません。あなたが望まないことをする方法を見つけられます」と彼は言った。「これは非常に難しい問題で、インターネットの規模に対応するためには自動化された手段で対応する必要がありますが、常に改善が求められ、人間による審査プロセスも必要になるでしょう。」
