Facebookのフィードを這いずり回る、怒りを誘うクリックベイトの見出しを大量に生み出している人物は、実は人間ではないかもしれない。月曜日に発表された報告書によると、研究者たちはChatGPT型のAIチャットボットによって生成された記事を掲載したニュースサイトを49件発見したという。特定された記事にはチャットボットに共通する特徴がいくつか見られるものの、NewsGuardは「無頓着な読者」はおそらくソフトウェアによって書かれた記事だとは気づかないだろうと警告している。
ニュースサイトの信頼性を評価するブラウザ拡張機能を開発するNewsGuard社のレポートによると、これらのウェブサイトは7つの言語にまたがり、政治やテクノロジーから金融、セレブリティニュースまで幅広いテーマを扱っていた。記事の中で、記事生成に人工知能（AI）を用いたことを明記したサイトは1つもなかった。テーマに関わらず、これらのウェブサイトは大量の低品質コンテンツを生成し、広告が散りばめられていた。人間が生成するデジタルメディアと同様に、この「氾濫」手法は潜在的な広告収入を最大化することを目的としている。AIを活用したウェブサイトの中には、1日に数百件の記事を生成し、その中には明らかに虚偽のものもあったケースもあった。
「要するに、ここ数カ月で数多くの、より強力なAIツールが発表され、一般に公開されるようになったため、かつてはメディア学者の憶測の対象であった、報道機関全体を動員するためにAIツールが利用される可能性があるという懸念が、今や現実のものとなった」とニュースガードは述べた。
NewsGuardが検証したコンテンツの大部分は、クリックと広告収入を稼ぐための比較的リスクの低いコンテンツファーミングのように見えますが、一部のサイトはさらに一歩踏み込み、潜在的に危険な誤情報を拡散していました。例えば、CelebritiesDeaths.comというサイトは、ジョー・バイデン大統領が「眠っている間に安らかに逝去」し、カマラ・ハリス副大統領が後任となったと主張する記事を掲載しました。
ジョー・バイデン氏の死に関する偽ニュースの最初の数行の後に、ChatGPTのエラーメッセージが続きました。「申し訳ありませんが、このプロンプトを完了できません。OpenAIのユースケースポリシーに反し、誤解を招くコンテンツを生成するためです。特に大統領のような著名人の死に関するニュースを捏造することは倫理に反します。」
OpenAIのChatGPTがこれらのサイトの記事すべてに影響を与えたかどうかは不明ですが、ChatGPTは間違いなく最も人気のある生成型チャットボットであり、最も知名度が高いです。OpenAIはGizmodoのコメント要請にすぐには応じませんでした。
チャットボットには決定的な証拠がある
AIが生成した記事の多くには、明らかな兆候が見られた。特定されたウェブサイトのほぼすべてで、AIチャットボットと時間を過ごしたことがある人なら誰でもお馴染みの、ロボット的で魂のない言葉遣いが使用されていたと報告されている。中には、AIが自らの正体を露わにする言葉遣いを、偽ウェブサイトが削除することすら怠っていたケースもあった。例えば、BestBudgetUSA.comというサイトは、「1500語も書けません」というフレーズを含む記事を数十本掲載した後、CNNの記事へのリンクを提示していたと報告書は述べている。49サイトすべてに、上記のようなAIエラーメッセージを明確に示す記事が少なくとも1つは含まれていたと報告書は述べている。
人間のデジタルメディアと同様に、NewsGuardが特定した記事のほとんどは、CNNなどの他の主要報道機関の記事の要約でした。つまり、詳細な解説記事や調査報道は含まれていませんでした。ほとんどの記事の署名には「編集者」または「管理者」と記載されていました。NewsGuardの調査で、AIの使用を認めたのはわずか2サイトでした。あるサイトの管理者は、コンテンツ生成にAIを使用しているケースもあるものの、編集者が適切にファクトチェックを行ってから公開していると述べました。
準備ができていようがいまいが、AIライターは登場する
NewsGuardのレポートは、デジタルパブリッシャーがAIチャットボットの活用にますます関心を寄せていることを示す具体的な数値を示しています。しかし、読者がAIライターの現実を実際に受け入れるかどうかは、まだ不透明です。今年初め、テクノロジーニュースサイトCNETは、ChatGPT風のAIを使って、読者に通知することなく、誤りだらけの低品質記事を数十本生成していたことが暴露され、厳しい状況に陥りました。「CNET Money」という署名で書かれたAI生成コンテンツは、退屈なだけでなく、事実誤認が散見されました。最終的にCNETは大幅な訂正を余儀なくされ、その後数ヶ月間、AI生成コンテンツを展開すべきではないというイメージの象徴となりました。
一方、CNETの騒動は、他の大手出版社が生成型AIの活用を躊躇するのを止めていません。先月、Insiderのグローバル編集長ニコラス・カールソン氏は、社員宛てのメモで、記者のワークフローに組み込めるAIツールを検討するためのワーキンググループを設置すると発表しました。選ばれたジャーナリストは、記事にAI生成テキストを使用するテストを行うほか、アウトラインの作成、インタビュー質問の準備、見出しの試作にもAIツールを活用する予定です。最終的には、AIの原則とベストプラクティスをニュースルーム全体に展開する予定だと報じられています。
「津波が来ます」とカールソン氏はAxiosに語った。「私たちはそれを乗り越えるか、それとも押し流されるかのどちらかです。」
