448

AIと兵器

大塚 耕平

AIと兵器

2.人間の判断

指針採択に至る過程で、核兵器等を巡る国際力学と同様に、各国の利害対立が表面化しています。

中南米やアフリカを中心とする非同盟諸国グループは、LAWSに対する法的拘束力のある規制や条約化を求めています。

米露は既存の国際人道法で規制可能であるとし、新たなLAWS規制には反対。

2030年にAI世界一を目指す中国は、LAWS開発で競う米国に対抗して自国有利の条件で規制を進めることを企図。規制対象となるLAWSの定義を「人間が制御できない兵器」「自ら進化する兵器」に限定することを求めています。

日本や仏独は法的拘束力のない政治宣言等の形式での規制を主張。その立ち位置と目標が曖昧な印象です。また日本は、人間の関与が確保されたLAWSについてはヒューマンエラーの減少、省力化・省人化効果もあると主張。やはりスタンスが曖昧です。

そのうえで日本は「LAWSは開発しない」という方針を表明。しかし「開発はしないが、米国から購入する」のであれば、開発するのと同じことです。

LAWS規制を求める国々やNGOには、CCWの枠組みにこだわらず、一部の国だけでも禁止条約締結を目指すべきとの主張もあります。その背景には核兵器廃絶国際運動(ICAN)等が奏効して成立した核兵器禁止条約のイメージがあるようです。

しかし、核兵器禁止条約には核保有国やその同盟国(日本等)は不参加。LAWS禁止条約もLAWS開発国や将来の保有国が参加する可能性は低いと言わざるを得ないでしょう。

昨年合意に至った11指針はどのような内容なのか。興味深いので調べてみました。LAWSを巡って規則が制定されたと報じるニュースもありましたが、あくまで「指針」。確定した規制ではなく、来年のCCWにおける議論に向けた基本的コンセンサスという意味です。

指針冒頭には「国連憲章、国際人道法、倫理に従う」とする一方、「将来の議論の結果に予断を与えるものではない」との条件が付されています。

そのうえで、第1項、第2項では、国際人道法は全ての兵器システムに適用され、LAWSの開発、使用においても例外ではないとし、LAWSに関する説明責任は常に人間側にあるとしています。

第3項は、LAWSが自律的に稼働している場合でも、人間とのインターフェースを確保し、重大なエラーや第3者に支配される事態に陥っても、人間による制御や機能停止が可能とすることを求めています。

この項についてはCCWでも激論が交わされたと聞きます。米国は国防省指令を根拠に人間の判断がLAWS使用の前提にあるべきと主張したそうですが、合法的LAWSを確立するための論理展開のようにも思えます。

第4項は、人間による命令及び指揮系統が確保されることを要求。第2項、第3項に通じ、第5項ではそうした条件をチェックするLAWSの法的審査の原則を謳っています。

第6項は、LAWS不拡散対策、及びテロ対策について。とくに、ハッキング、スプーフィング攻撃への対策が具体的に挙げられています。第7項はそうしたリスクのアセスメント及びリスク低減措置の必要性についてです。

スプーフィング攻撃(spoofing attack)は、不正プログラムによって攻撃者を別の人物や組織に見せかける「なりすまし」。動詞「spoof」は「だます」という意味です。

第8項ではLAWS関連の新技術使用時には、国際人道法及びその他の国際関連法規や義務に合致する必要性を求めています。

第9項は、LAWS規制が擬人化のイメージに囚われることに警鐘を鳴らしています。映画「ターミネーター」等の影響により、LAWSは擬人化を想定した議論になりがちです。しかし、実際のLAWSの姿は擬人化が前提ではなく、機能や性能に着目した実質的規制の必要性を指摘しています。

第10項では、LAWSに関連する新技術の平和的利用の権利を保障し、デュアル・ユースを妨げないことを指摘。最後の第11項は、軍事的必要性と人道的考慮のバランスの重要性を強調しています。

総じて言えば、LAWSには国際人道法が適用されること、判断と責任は人間にあること、開発・配備・使用の全てにおいて人間が関与すること、新技術の平和的利用を妨げないこと等を定めています。

上述のとおり、AIの急速な進化によって想定より早くLAWSが実戦配備されることが予測されています。ディープラーニング等によるAIの自己学習、深層学習の成果です。

一方、ソフトウェアとしてのAIは進化するものの、ハードウェアの機能向上が追い付かないことを指摘する専門家もいます。例えば、人間の手足の動きを再現するだけの制御モーターシステムや素材を作ることの困難さを意味しています。

もっとも、それはまさしく擬人化された「ターミネーター」のようなLAWSを想定した場合であり、戦車や航空機が完全なLAWSとして実用化され得ることは容易に想像できます。


 次のページ3.フラッシュ・クラッシュ


関連する記事はありません。

 menu LINK