ChatGPTは世界を席巻しました。リリースから2ヶ月でアクティブユーザー数1億人に到達し、史上最速で成長したコンシューマー向けアプリケーションとなりました。ユーザーはこのツールの高度な機能に魅了される一方で、様々な分野に破壊的な変化をもたらす可能性を懸念しています。
ChatGPTが私たち一人ひとりにもたらすプライバシーリスクについては、あまり議論されていません。つい昨日、Googleは独自の会話型AI「Bard」を発表しましたが、他の企業も必ず追随するでしょう。AI開発に取り組むテクノロジー企業は、まさに軍拡競争に突入したと言えるでしょう。
問題は、それが私たちの個人データによって促進されていることです。
3000億語。あなたの言葉はいくつありますか？
ChatGPTは、機能と改善のために膨大なデータを必要とする大規模な言語モデルを基盤としています。モデルをトレーニングするデータが増えるほど、パターンの検出、次に何が来るかを予測する能力、そして妥当なテキストを生成する能力が向上します。
ChatGPTを開発しているOpenAIは、インターネットから体系的に収集した約3000億語（書籍、記事、ウェブサイト、投稿など）をこのツールに入力した。これには同意なしに取得された個人情報も含まれている。
ブログ投稿や製品レビューを書いたり、オンラインの記事にコメントしたりしたことがある場合は、その情報が ChatGPT によって消費されている可能性が高いです。
それで、なぜそれが問題になるのでしょうか?
ChatGPT のトレーニングに使用されるデータ収集には、いくつかの理由から問題があります。
まず、OpenAIが私たちのデータを利用できるかどうか、誰も尋ねられませんでした。これは明らかにプライバシーの侵害であり、特にデータが機密情報であり、私たち自身、家族、または私たちの居場所を特定するために使用できる場合、なおさらです。
たとえデータが公開されている場合でも、その利用はいわゆる「テキストの完全性」を侵害する可能性があります。これはプライバシーに関する法的議論における基本原則であり、個人情報が元々作成された文脈以外で開示されないことを要求します。
また、OpenAIは、個人が同社が個人情報を保管しているかどうかを確認したり、削除を要求したりするための手続きを提供していません。これは欧州一般データ保護規則（GDPR）に基づいて保証された権利ですが、ChatGPTがGDPRの要件に準拠しているかどうかは依然として議論の的となっています。
この「忘れられる権利」は、情報が不正確であったり誤解を招くような場合に特に重要であり、これは ChatGPT では頻繁に発生するようです。
最後に、OpenAIはインターネットから収集したデータに対して報酬を支払っていません。データを提供した個人、ウェブサイト所有者、そして企業には報酬が支払われていません。OpenAIの時価総額が最近290億ドルと、2021年の2倍以上に上ったことを考えると、これは特に注目に値します。
OpenAIは、ChatGPT Plusという有料サブスクリプションプランも発表しました。このプランでは、顧客にツールへの継続的なアクセス、より迅速な応答時間、新機能への優先アクセスを提供します。このプランは、2024年までに10億ドルの収益に貢献すると予想されています。
これらはすべて、私たちの許可なく収集され、使用されたデータ（私たちのデータ）がなければ実現できなかったでしょう。
ChatGPTの脆弱なプライバシーポリシー
もう一つのプライバシーリスクは、ユーザープロンプトの形でChatGPTに提供されるデータに関係しています。ツールに質問に答えたりタスクを実行したりするよう依頼すると、意図せず機密情報を渡して公開してしまう可能性があります。
例えば、弁護士が離婚合意書の草案をレビューするようツールに指示したり、プログラマーがコードの一部をチェックするよう指示したりするとします。出力されたエッセイに加え、合意書とコードはChatGPTのデータベースに蓄積されます。つまり、これらを使用してツールをさらに学習させたり、他の人の指示への応答に組み込んだりすることが可能です。
OpenAIはこれ以外にも、幅広いユーザー情報を収集しています。同社のプライバシーポリシーによると、OpenAIはユーザーのIPアドレス、ブラウザの種類と設定、そしてサイト上でのユーザーのインタラクションに関するデータ（ユーザーがアクセスしたコンテンツの種類、利用した機能、行った行動など）を収集します。
また、OpenAIは、ユーザーの閲覧行動に関する情報を、時間の経過とともに、また複数のウェブサイトにわたって収集します。驚くべきことに、OpenAIは、ビジネス目的を達成するために、ユーザーに通知することなく、ユーザーの個人情報を不特定の第三者と共有する可能性があると述べています。
ChatGPT を抑制する時期が来たのでしょうか?
一部の専門家は、ChatGPTがAIの転換点、つまり私たちの働き方、学び方、書き方、そして思考方法さえも変革する技術開発の実現であると考えています。その潜在的なメリットはさておき、OpenAIは営利を目的とする民間企業であり、その利益と商業的要請は必ずしも社会全体のニーズと一致するわけではないことを忘れてはなりません。
ChatGPTに伴うプライバシーリスクは、警告を発するものであるべきです。そして、ますます増えるAI技術の消費者として、私たちはそのようなツールと共有する情報について細心の注意を払うべきです。
The ConversationはOpenAIにコメントを求めた。
シドニー大学ビジネス情報システム教授、Uri Gal氏
この記事はクリエイティブ・コモンズ・ライセンスに基づきThe Conversationから転載されました。元の記事はこちらです。
