イーロン・マスクが支援するOpenAIのテキストジェネレーターは、今のところ危険というよりは面白いことが判明

イーロン・マスク氏が支援する非営利団体OpenAIは、非常に強力な機械学習を活用したテキスト生成ソフトウェアを開発したと主張していたが、倫理的に公開することはできないとして、まさにそれを実現した。

OpenAIは以前、GPT-2ソフトウェアを使用し、800万のウェブサイトから収集した約40ギガバイトのデータで学習させたこのテキスト生成器は、与えられたプロンプトからテキストを生成する能力が非常に高く、説得力のある作り話の作成にも利用できると述べていた。ガーディアン紙は、このテキスト生成器を「スタイルと主題の両方において、与えられた内容に一致する、もっともらしい文章を作成できる」と評し、従来のモデルよりも一般的な用途において大幅に優れているとしている。マスク氏はOpenAIの主要な資金提供者の一人だが、AIは人類にとって実存的な脅威であるという信念を公言しており、昨年はOpenAIにおける役割を縮小した。

OpenAIは今週のブログ投稿で、訓練済みのGPT-2モデルの出力は人間にとって説得力があり、「合成プロパガンダ」を作成できると判断したものの、悪用を示す強力な証拠は見つからなかったと述べました。ユーザーはTalkToTransformer.comでフルサイズのGPT-2テキスト翻訳ツールにアクセスできます。

GPT-2モデルは、理解しやすい文章を、それなりに正しいトーンとスタイルで生成し、誤用される状況も容易に想像できますが…これはまさに「人によって結果は異なる」領域です。現状のままでは特に危険だと断言するのは難しいです（ただし、Gizmodoはネット中立性に関する連邦通信委員会（FCC）の偽の書簡を、不気味なほど巧妙に作り出すことができました）。

「『危険すぎる』という言葉は、深く考えたり実験したりすることなく、軽々しく口にされた」と、研究者のデリップ・ラオ氏はザ・ヴァージに語った。「[OpenAI]は、それが本当に危険であることを証明するために十分な時間を費やしていないと思う。」

一方、GPT-2は英語の理解度が非常に高く、非常に面白いです（少なくとも、よりディストピア的な未来を導くほどに上手くなるまでは）。実際に試してみたところ、正直言って、やめられなくなってしまいました。以下にいくつか例を挙げてみました。