自動運転車に興味を持っているのは、シリコンバレーのパタゴニアを着たエリートたちだけではない。
かつて初期の自動運転車開発における先駆的なインキュベーターであった米国国防総省は、現在、大手自動運転スタートアップ企業と連携し、自律走行軍用車両の次世代像を構想している。国防総省関係者はギズモードに対し、この新興技術への期待を表明する一方で、ハッキングやサイバーセキュリティのリスクを懸念している。
ギズモードは、キャスリーン・ヒックス国防副長官と政府関係者一行と共に、カリフォルニア州メンロパークにあるSLAC国立加速器研究所で今週行われた自動運転車のプレゼンテーションを視察しました。イベント直後、自動運転車の現状について尋ねられたヒックス副長官の特別補佐官の一人は、前向きな姿勢を示しつつも「まだ解決すべき問題点がいくつかある」と述べました。中でも特に懸念されるのは、ハッキングやセキュリティに関する懸念だと、同補佐官は語りました。
注記：この自動運転車メーカーは、米国最大のテクノロジー企業の一つと提携しており、SLACの敷地内でテストを行っていることで広く知られていますが、この記事では社名を出さないようGizmodoに依頼しました。
デモ中に匿名の自動車メーカーとAVのサイバーセキュリティについて話したDSDヒックス氏は、同日遅くに行われたギズモードとのインタビューでも潜在的なセキュリティ上の懸念を指摘した。
「このことは、商業分野においてさえ、訓練された情報、必要なデータ、セキュリティ環境、そしてサイバーセキュリティをすべて手に入れるまでに、自動運転車がどれほど長い道のりを歩むことになるかを示していると思います。」
こうしたセキュリティ上の懸念は必ずしも根拠のないものではありません。自動運転車は、他のコンピューター技術と同様に、定義上、ある程度の攻撃者による攻撃を受けやすいものです。こうした攻撃は、車両のカメラやセンサーを騙して誤った車線に逸脱させること（2019年にKeen Security Labsの研究者によって実証されたように）や、他のコンピューターと同様にソフトウェアの脆弱性を狙うことで発生する可能性があります。つい先月、10代のセキュリティ研究者であるDavid Colombo氏が、オープンソースのログツールに存在するセキュリティ上の脆弱性を突いて、約1時間で13カ国に分散配置された25台のTesla車にリモートハッキングすることに成功しました。このケースでは、Colombo氏はリモートで車を始動させ、ステレオを爆音化し、ドアのロックを解除することができました。これらはすべて、車の所有者に気付かれることなく実行された可能性があります。他のケースでは、高速道路を時速70マイルで走行している車を、エクスプロイトを仕掛けることで強制的に停止させることができたという報告もあります。
結局のところ、自動運転車の安全性を懸念しているのは軍だけではない。モーニング・コンサルトが実施した最新の世論調査によると、米国成人のうち、自動運転車技術を信頼していると答えたのはわずか34%で、さらに大胆な「非常に信頼している」と答えたのはわずか9%だった。3分の1の回答者は全く信頼していないと答えた。
「国防総省の職員は、AVのハッキングについて懸念すべきだ」と、ジェーン・A・ルクレール氏はギズモードのインタビューで述べた。ワシントン・サイバーセキュリティ研究開発センターの教授兼最高執行責任者（COO）であるルクレール氏は、AVのハッキング能力を既に実証している研究者たちは、損害を与えようとしている潜在的な米軍の敵対勢力よりも洗練されていない可能性が高いとも述べた。「AVシステムのサイバーセキュリティを確保するには、多くの対策を講じる必要がある」とルクレール氏は述べ、「そして、それは後付けではなく、システムに統合されるべきだ」と付け加えた。
AV開発は「想像以上に時間がかかった」
ギズモードとのインタビューで、ヒックス氏は国防総省にとってより高度な自律走行車の活用事例は決して不可能ではないと信じていると述べたが、この技術の現状の限界もすぐに認めた。
「思った以上に捉えどころがない」とヒックス氏は述べた。短期的には、特定の環境における自律システムの安全なテストの重要性を強調した。
「最も容易なユースケースとは、最も複雑性の低い環境において、信頼できるデータセットを構築するための十分なデータと、それを運用するための環境が整っているケースです」とヒックス氏は述べた。彼女は、まだ発展途上の自律システムを「比較的安全な環境」、つまり安全にデータを収集し推論を行うことができる環境で訓練することの重要性を指摘した。国防総省が自律走行車の試験を加速させる際には、必ず「人間参加型」システムの原則を遵守しながら実施していくとヒックス氏は述べた。
国防総省は「人間が関与する原則」を堅持しているものの、一部の将軍や、元Google CEOのエリック・シュミット氏をはじめとする米国のAI政策に影響力を持つ人々は、この原則に疑問を呈している。トランプ政権からAIに関する国家安全保障委員会の共同委員長に任命されたシュミット氏は、最近ヘンリー・キッシンジャー氏と共著し、米国のAIに対するより制限的で強硬なアプローチを主張した。
「国防総省当局者が閉鎖された試験場に傾いている懸念は理解できます」とルクレール氏は述べた。「エイブラムス戦車がミニバンに乗ったサッカーママを轢くなんてありえないでしょう？」冗談はさておき、ルクレール氏はこれらのAIシステムの実世界試験がいずれは避けられないことを認めつつも、「それはもう少し先になるかもしれません」と述べた。
AV業界全体の成熟度についてコメントしたヒックス氏は、進歩には「想像していたよりも長い時間がかかった」と述べた。
「なぜAV開発が遅れ続けているのかを理解することは、部門内の多くの上級リーダーが抱えている重要な疑問だと思います。」
国防総省の関係者はギズモードに対し、自動運転車に関連するセンサーやデータ収集にも関心があると語った。関係者によると、国防総省はジョンディアのような企業による自動運転技術の進歩に注目しており、同社はオフロード用途向けの自動運転システムを開発している。象徴的な緑のフレームと巨大な黄色の車輪を持つ農業用トラクターで知られるジョンディアは、今年初めにGPSシステムと12台のカメラを搭載し、360度の障害物検知を可能にする完全自動運転トラクターを発表した。
同社は、理論上は未来の農家はトラクターにプログラムするだけで、トラクターが自動で畑を耕し、植え付け、散布してくれるようになると主張している。国防総省は農家に戦車砲を差し置いてまで運転する準備はできていないものの、軍用車両が遭遇する可能性が高い過酷なオフロード走行における自動運転技術を向上させるために、民間企業から学ぶ機会を見出している。言い換えれば、自動運転の軍用トラックは、サンフランシスコの高速道路を走るテスラよりも、産業用トラクターとの共通点が多いかもしれない。
防衛産業は自律技術と深い関係がある
国防総省がなければ、今日の自動運転車産業は存在しなかったでしょう。インターネットやGPSが普及する以前と同様に、無人運転技術も初期の段階で、ペンタゴンの何でもありで奇抜な研究機関である国防高等研究計画局（DARPA）から大きな後押しを受けました。約20年前の2004年、同局は初の「グランドチャレンジ」を開催し、長距離を自律走行できる車両を設計した気概のある参加者に数百万ドルの賞金を提供しました。しかし、DARPAが設定した142マイル（約224キロメートル）のコースを完走できた車両はありませんでした。それでも、同局はこのチャレンジに続き、2005年と2007年に2回、さらに2回のチャレンジを実施しました。DARPAによると、これらすべては当時まだ未知の領域であった分野におけるイノベーションを促進するためのものでした。
それ以来、状況は大きく変化しました。自動運転技術は、辺鄙な砂漠という限界をはるかに超え、シリコンバレーの注目を集めるようになりました。アルファベット傘下のウェイモ、ゼネラルモーターズ（GM）傘下のクルーズ、そしてインテル傘下のモービルアイは、いずれも昨年、自動運転のテストを強化し、近い将来に本格的な製品化を目指しています。そしてテスラは、他の競合他社に比べて自動運転機能は劣っているにもかかわらず、安全性への懸念を度外視し、オートパイロットのベータテスターに公道でのテストを許可したことで、状況を複雑化させています。
自動運転車のペテン師たちが何年にもわたって（本当に何年も）約束を破ってきたにもかかわらず、ルクレール氏は、2022年の自動車業界は「電気自動車と自動運転車において大きな進歩」を遂げたと述べています。AIについても同様のことが言えます。スタンフォード大学が最近発表した年次AIインデックスレポートによると、2021年の世界の民間投資は総額935億ドルに達しました。これは2020年の投資額の2倍以上です。
軍も忙しく活動している。国防高等研究計画局（DARPA）は、単なる四輪駆動の自律走行にとどまらず、最近、UH-60Aブラックホーク・ヘリコプターの無人機による30分間の自律飛行試験に成功した。この自律飛行は、実験的な「航空乗務員操縦室自動化システム（ALIAS）」によって可能になった。一方、AI制御のF-16は、既に模擬ドッグファイトで人間のパイロットに勝利している。DARPAは、2024年までにオンタリオ湖上空でAI搭載のL-39ジェット機4機による実際のドッグファイトを披露することを目指している。
それでも、これらのテストはあくまでテストに過ぎません。限定的な概念実証は別として、それを実際の戦闘に適用するのは全く別の話です。「自律走行装置は空中や海上で大きな期待を集めています」とルクレール氏は言います。「しかし、陸上戦場の複雑さは、自律走行車にとって全く異なる環境です。テスラのシステムに不具合が生じても問題は限定的ですが、戦場ではエラーが壊滅的な被害をもたらす可能性があります。」
これらはすべて、AI搭載の装甲が溢れる未来の戦場にどれだけ安心できるかによって、驚くほどクールか、あるいはゾッとするほど恐ろしいかのどちらかだ。最良のシナリオでは、これらの自律システムによって、危険にさらされる兵士の数が少なくなる可能性がある。懸念の声は上がっているものの、ルクレール氏は、その可能性を考えると自律化は価値があるかもしれないと述べた。
「私は、兵士を不必要な危険にさらさないよう、人間を機械から外すことに大賛成です」とルクレール氏は述べた。「国防総省は、まだ戦場に出ていない支援任務において、AVによる物資や装備の輸送に集中すべきかもしれません。」
