人工知能（AI）に関する警告は今や至る所で聞かれるようになりました。AIが人類絶滅をもたらす可能性についての恐怖を煽るメッセージも含まれており、映画『ターミネーター』を彷彿とさせます。英国のリシ・スナック首相は、AIの安全性について議論するサミットを開催しました。
しかし、私たちはAIツールを長年活用してきました。ショッピングサイトで関連商品を推奨するアルゴリズムから、交通標識を認識して車線位置を提供する技術を搭載した自動車まで、AIは様々な分野で活用されています。AIは、効率性を高め、大量のデータを処理・整理し、意思決定の負荷を軽減するためのツールです。
しかしながら、これらのツールは犯罪者を含むすべての人に公開されています。そして、犯罪者によるAIの導入は既に初期段階にあり、ディープフェイク技術はリベンジポルノの作成に利用されています。
テクノロジーは犯罪活動の効率性を高めます。犯罪者はより多くの人々を対象にすることができ、より信憑性を高めることができます。犯罪者が過去にどのように技術の進歩に適応し、取り入れてきたかを観察することで、彼らがAIをどのように活用するかについての手がかりが得られるかもしれません。
1. より優れたフィッシングフック
ChatGPTやGoogleのBardといったAIツールはライティング支援機能を提供しており、経験の浅いライターでも効果的なマーケティングメッセージを作成できる。しかし、この技術は犯罪者が潜在的な被害者に接触する際に、より信憑性のあるメッセージを伝えることにも役立つ可能性がある。
稚拙な文章で簡単に見破られる、フィッシング詐欺のスパムメールやテキストメッセージについて考えてみてください。もっともらしい内容であることは、被害者から情報を引き出す鍵となります。
フィッシングは数字のゲームです。毎日推定34億通のスパムメールが送信されています。私の計算によると、もし犯罪者がメッセージを改良し、たった0.000005%でも誰かに情報を漏らさせることができれば、フィッシングの被害者は年間620万人増加することになります。
2. 自動化されたインタラクション
AIツールの初期の用途の一つは、テキスト、チャットメッセージ、電話を介した顧客とサービス間のやり取りを自動化することでした。これにより、顧客への対応が迅速化し、ビジネス効率が最適化されました。組織との最初のコンタクトは、人間と話す前にAIシステムと関わることになる可能性が高いでしょう。
犯罪者は同じツールを使って、多数の潜在的な被害者と自動化されたやり取りを構築することができます。これは人間だけでは不可能な規模です。電話やメールで銀行などの正規のサービスになりすまし、金銭を盗むための情報を得ようとします。
3. ディープフェイク
AIは、膨大な現実世界のデータで「学習」できる数学モデルを生成することに非常に長けており、特定のタスクにおいてそれらのモデルをより優れたものにすることができます。動画や音声におけるディープフェイク技術はその一例です。Metaphysicというディープフェイクアーティストは最近、テレビ番組「アメリカズ・ゴット・タレント」でサイモン・コーウェルがオペラを歌う動画を公開し、この技術の可能性を示しました。
この技術はほとんどの犯罪者には手の届かないものですが、AIを使って人間のテキストメッセージへの返信、メールの作成、音声メモの保存、電話の発信などを模倣する能力は、AIを使えば自由に利用できます。また、AIを訓練するためのデータも、例えばソーシャルメディア上の動画から収集できます。
ディープフェイクの演技を披露するメタフィジックがアメリカズ・ゴット・タレントに出演。
ソーシャルメディアは、常に犯罪者にとって潜在的な標的に関する情報を掘り出すための宝庫でした。今や、AIがあなたのディープフェイク版を作成するために利用される可能性があります。このディープフェイクは、友人や家族とのやり取りに悪用され、犯罪者にあなたの情報を渡すよう仕向けられる可能性があります。あなたの生活に関するより深い洞察を得ることで、パスワードやPINの推測が容易になります。
4. ブルートフォース
犯罪者が用いるもう一つの手法「ブルートフォース」も、AIの恩恵を受ける可能性があります。これは、文字と記号の多数の組み合わせを順番に試し、パスワードと一致するかどうかを調べる手法です。
長くて複雑なパスワードの方が安全です。
この方法で推測します。総当たり攻撃はリソースを大量に消費しますが、相手について何か知っていれば容易になります。例えば、この方法では候補となるパスワードのリストを優先順位に従って並べ替えることができ、プロセスの効率が向上します。例えば、家族やペットの名前に関連する組み合わせから始めることができます。
あなたのデータに基づいて学習したアルゴリズムを活用することで、優先順位付けされたリストをより正確に作成し、一度に多くの人をターゲットにすることができるため、必要なリソースを削減できます。あなたのオンラインデータを収集し、それをすべて分析してあなたのプロファイルを構築する、専用のAIツールを開発することも可能です。
例えば、テイラー・スウィフトについてソーシャルメディアに頻繁に投稿していた場合、パスワードのヒントを探すために投稿を手作業で確認するのは大変な作業です。自動化ツールを使えば、この作業を迅速かつ効率的に行うことができます。こうした情報はすべてプロフィール作成に利用され、パスワードやPINの推測が容易になります。
健全な懐疑心
AIは社会に真の利益をもたらす可能性があるため、恐れる必要はありません。しかし、他の新しいテクノロジーと同様に、社会はAIに適応し、理解する必要があります。スマートフォンは今や当たり前のものですが、社会はそれを生活の中に取り入れるために適応する必要がありました。AIは概ね有益ですが、子供たちのスクリーンタイムの長さなど、不確実な点も残っています。
私たち個人は、AIを理解しようと積極的に取り組むべきであり、現状に満足してはいけません。健全な懐疑心を持ち続けながら、AIに対する独自のアプローチを発展させるべきです。私たちは、自分が読んだり、聞いたり、見たりしたものの妥当性をどのように検証するかを考える必要があるでしょう。
こうした単純な行為は、社会が AI の恩恵を受けると同時に、潜在的な危害から身を守るのに役立ちます。
AI、チャットボット、そして機械学習の未来についてもっと知りたいですか？人工知能に関する当社の記事をぜひご覧ください。また、「最高の無料AIアートジェネレーター」や「OpenAIのChatGPTについて私たちが知っていることすべて」といったガイドもご覧ください。
ダニエル・プリンス、ランカスター大学サイバーセキュリティ教授
この記事はクリエイティブ・コモンズ・ライセンスに基づきThe Conversationから転載されました。元の記事はこちらです。
