国防総省は AI 戦争兵器の開発を責任を持って進めている。
今週、国防総省は47ページに及ぶ長文の文書を公開しました。これは、軍の責任ある人工知能原則の実施計画を概説したもので、世界をターミネーターのような地獄絵図にすることなく、AIを軍事に統合することを目指しています。国防総省が倫理的なAI目標を初めて概説したのは2020年ですが、今週発表された「AI開発と加速への責任ある道筋」文書では、国防総省がこれらの主張を実現し、単なる希望的観測の域を超えさせるための体系的な方法が詳述されています。
キャスリーン・ヒックス国防副長官は文書の中で、軍によるAI技術の追求を擁護し、米国の敵対国がAIへの投資を「世界の安全保障、平和、そして安定を脅かす」形で増加させていると主張した。国防総省は、国内への投資を強化することでこの「脅威」に対処したいと考えている。
「デジタル競争の激しい世界において軍事的優位性を維持するために、米国国防総省（DoD）はAI技術を導入し、進化する脅威に対応していく必要がある」とヒックス氏は述べている。「合法的、倫理的、責任ある、そして説明責任を果たす形で新たな技術を活用することは、私たちの理念の中核を成すものである。」
この文書は、国防総省の倫理的AIに対する姿勢の変化を時系列で示しており、同省は「AIの固有の特性と意図しない結果の可能性を考慮した倫理的枠組みを成熟させてきた」と指摘している。軍外の研究者たちは、AIシステムが文化的偏見を強め、有色人種を差別する可能性があることを示している。
国防総省の責任あるAIに関する6つの基本原則それぞれに測定可能な目標を追加したこれらの新しいガイドラインは、軍人および一般市民の「信頼を得る」ことを目的としています。この文書では、この信頼を「望ましい最終状態」と定義し、国防総省が新たなAI技術の推進を継続していくための基盤としています。
「国防総省のAIへの信頼は、国防総省内外のニーズを考慮しつつ、戦闘および非戦闘の幅広い用途において国防総省の戦闘能力を近代化することを可能にする」と文書には記されている。「信頼がなければ、戦闘員や指導者はAIを効果的に活用できず、アメリカ国民もそのような技術の継続的な使用と導入を支持しないだろう」。国防総省は、この信頼の重視を他国との交流にも適用し、「AIの利用に関する新たな国際基準」を設定したいと述べている。
こうした状況を踏まえ、モーニング・コンサルトが最近実施した米国成人を対象とした世論調査では、軍のAIに関する現状について、意見が分かれていることが示されています。約4分の1（26%）の成人が、米軍はAIに関して中国よりも進んでいると考えているのに対し、米国は中国よりも遅れていると考える回答者は29%と、わずかに上回っています。
ギズモードは、3月に国防総省がカリフォルニアを視察した際、ヒックス氏にペンタゴンのAI統合に関する考え方について話を聞いた。ヒックス氏はそこで、「人間がループの中にいる」というアプローチを維持することの重要性を強調した。これは、AIシステムがいつ目的を達成するかを決定する際に、人間のオペレーターが最終的な役割を担うというものだ。ヒックス氏はさらに、AIの軍事応用は米国の価値観と合致する必要があると付け加えた。これは暗黙のうちに安心感を与える言葉だが、結局のところ曖昧な表現である。
「軍事力を強化するだけでなく、エンドユーザー、戦闘員、アメリカ国民、そして国際的なパートナーとの信頼関係を築く、信頼できるエコシステムを構築することが不可欠です」と、ヒックス氏は木曜日にギズモードへの声明で述べた。「このパスウェイは、国防総省が責任あるAI活用組織として行動するというコミットメントを裏付けるものです。」
国防総省のAI道筋に関する報告書は、国防総省内部で明らかに緊張が高まっている中で発表された。国防総省初の最高ソフトウェア責任者であるニコラス・シャイラン氏は、3年間の任期を終え、10月に劇的な形で辞任した。その理由の一つは、米国が中国に追いついていないと彼が見なした状況が一因である。シャイラン氏は辞任後、フィナンシャル・タイムズ紙のインタビューで、国防総省の技術力には「憤慨する十分な理由」があると述べた。
「今後15年から20年の間に、中国に対抗できる可能性はゼロだ」とシャイヤン氏は述べた。「今、既に決着がついている。私の意見では、もう終わったことだ」
国防総省はその後、チャイラン氏の後任として、元Lyftの機械学習責任者であるクレイグ・マーテル氏を国防総省の最高デジタル・人工知能責任者に任命した。報道によると、マーテル氏は今後の国防総省のAI戦略において重要な役割を果たすという。
人権団体、軍事AIに不安
AIの軍事利用はますます不可避なものと認識されつつあるものの、依然として激しい議論が続いている。ヒューマン・ライツ・ウォッチやアムネスティ・インターナショナルといった活動家団体がAI搭載自律型兵器の広範な禁止を求める一方で、軍部やかつてのテック業界の重鎮たちは「中国はどうか」という議論を繰り返し、民間AI企業と軍の間のAI統合の深化を訴えてきた。
「機械に生死に関わる判断を委ねることは、人間の尊厳に対する侵害であり、戦争法と人権の壊滅的な侵害につながる可能性が高い」と、アムネスティ・インターナショナルの軍事・安全保障・警察担当上級顧問は声明で述べた。「また、社会におけるデジタルによる非人間化を加速させ、人々を処理すべきデータポイントに貶めることになるだろう。殺人ロボットの拡散を阻止するためには、強力で法的拘束力のある国際条約が必要だ。」
軍事におけるAI活用の深化を最も強く訴えている人物の一人は、元Google CEOのエリック・シュミット氏です。彼は2019年、当時のトランプ大統領からAIに関する国家安全保障委員会の共同委員長に任命されました。この委員会の目的は、大統領と議会に対し、国防におけるAI活用の推進方法と戦略を詳述した長文の報告書を作成することです。報告書の中でシュミット氏は、軍事におけるAI活用を巡る倫理上の煩雑な手続きを批判し、中国のような「権威主義国家」は「米軍を導くのと同じ厳格な試験や倫理規定に縛られないだろう」という懸念を表明しました。
これまでのところ、米国はAIの拡大を減速させる意向を示していない。昨年末にジュネーブで開催された国連会議では、米国はロシア、中国、インドなどとともに、自律型兵器の開発を制限する法的拘束力のある手段に反対する数少ない国の一つとなった。
「国連検討会議で実質的な成果が得られなかったことは、キラーロボットが提起する懸念への全く不十分な対応だ」と、ヒューマン・ライツ・ウォッチの武器担当ディレクター、スティーブ・グースはジュネーブ会議後の声明で述べた。「現在の外交交渉でキラーロボットに関する今後の道筋が示されなかったことは、各国がこれらの兵器システムを禁止するために別の道を追求する必要があることを示している。世界は待てない。」
一方、少なくとも30カ国が既に自律型兵器システムの禁止を支持する声を上げていると報じられています。自律型兵器の禁止を求める声は、昨年、同期システムは国際法で禁止されるべきだとする声明を発表した国連事務総長アントニオ・グテーレス氏からも支持を得ています。
「人間の関与なしに標的を選択し、人命を奪う力と裁量を持つ自律機械は、政治的に容認できず、道徳的に忌まわしく、国際法で禁止されるべきだ」とグテーレス氏は2019年の声明で述べた。
