448

AIと兵器

大塚 耕平

AIと兵器

3.フラッシュ・クラッシュ

LAWS は自軍の死傷者数を減らすことができるため、戦争のハードルが下がるとの指摘があります。

また、AI の判断は人間のように恐怖心や復讐心、興奮、錯乱等の情緒に影響されず、誤爆や民間人の犠牲が減ることから、むしろ人道的であると主張する専門家もいます。

核兵器は非人道的兵器だとする日本と、戦争の早期終結に寄与し、結果的に戦争犠牲者を減らしたとする米国の主張との対立を彷彿とさせます。

AI固有の問題も惹起します。故障や誤作動、将来的には人間に対する反乱を懸念する科学者もいます。

いずれにしても、現時点では「ターミネーター」のような擬人化された完全なLAWSは存在しないものの、AIを搭載し、機能の一部を自動化した兵器は既に存在し、実戦配備されています。以下、無人兵器やLAWSの分類と現状を整理します。

第1は「半自動型兵器」。人間が攻撃対象を設定し、攻撃開始も人間が指示しますが、途中過程や攻撃そのものが自動化された兵器。様々な兵器が実戦配備されていますが、LAWSには含まれません。

例えば、巡航ミサイル。発射後に目的地まで自動飛行しますが、目的地設定と目標破壊の最終判断は人間が行う「半自動型兵器」です。

第2は「自動型兵器」。この段階もLAWSには含まれないという定義で議論が進んでいます。「自動型兵器」は人間ではなく、プログラム(広義のAIも含む)が攻撃目標を認識し、攻撃を開始します。

但し、攻撃はプログラムに設定された範囲内であり、「自動型兵器」ではありますが「自律型兵器」ではありません。プログラムを作成するエンジニア(人間)が攻撃目標及び攻撃の判断基準を設定しているという整理です。

「自動型兵器」も既に実戦配備されています。例えば、イスラエルの無人攻撃機「ハーピー」。自爆型ドローンとも呼ばれ、攻撃対象の地理的情報等を入力して発射。遠隔操作なしに対象地域上空に到達し、旋回しながら標的を捕捉。接近して自爆します。

ロシアの無人戦闘車両「サラートニク」。機関銃、カメラ、レーダーを装備し、標的を識別して攻撃します。米国の無人艦船「シーハンター」。海上を数ヶ月自律航行して、敵の潜水艦を探知・追尾します。韓国の哨兵ロボット「SGR」。北朝鮮との軍事境界線沿いに配備されており、敵兵士の動きを自動感知し、射撃します。

第3は「自律型兵器」すなわちLAWSです。「自律型兵器」には「メタ目的」が与えられます。「メタ目的」とは、より高次元または抽象的な目的のことであり、「この地域を確保せよ」「戦況を打開せよ」といった命令になります。

「自律型兵器」は「メタ目的」を達成するために、状況や環境に対応して、どのように行動するかを自ら考え、最終判断します。「メタ」とは「超越した」「高次の」という含意の古代ギリシャ語の接頭語です。

LAWSが複数連動する「集団自律型兵器」の場合、仮に全面戦闘状態になると、定義上、人間は全く制御できません。「ターミネーター」で「ジェネシス」が意思をもって戦争をエンドレスに継続するようなケースです。

もっとも、第2の「自動型兵器」も制御不能になる危険性があります。「自動型兵器」が複数連動する「集団自動型兵器」もプログラムが想定外の事態に遭遇して暴走する危険性が指摘されています。

システム取引中心になっている金融証券市場で、プログラム売買が暴走して暴落が起き、市場閉鎖せざるを得なくなるような事態と一緒です。金融証券市場では実際にそうした事例が発生しており、フラッシュ・クラッシュ(瞬間的暴落)と呼ばれます。

金融証券市場は閉鎖で事態を収束できますが、兵器のフラッシュ・クラッシュの場合、一方がシステムを止めても、相手が止めない限り、再び戦闘開始となります。そもそも、システムを止められない場合も想定されます。

こんなことを現実に懸念しなくてはならない状況となり、科学者や企業の間でもLAWSに反対する動きが顕現化。

米グーグルは、2017年、米国防総省との間でグーグルAIによる画像解析技術をドローン攻撃に用いるプロジェクトに契約。2018年、その事実が明らかになると、社内外でAIの軍事転用への懸念が高まり、複数の従業員が抗議のため退職。

さらに4千人以上の従業員が、戦争ビジネスへの不参加を求める公開書簡に賛同署名してピチャイCEO(最高経営責任者)に提出。ピチャイCEOは2018年6月、グーグルはAIを兵器開発や監視技術に使用しないこと等のAI利用指針を発表。

具体的には「危害をもたらす可能性のある技術」「人を傷つけることが主目的の兵器や技術」「国際的規範に反した監視のために情報を収集・使用する技術」「国際法や人権を侵害することを目的とした技術」の4項目を挙げ、これらにはグーグルAIを使用しないことを明言。

国際人工知能学会も翌7月、LAWSの開発・生産・取引・使用を行わないことを宣言し、米グーグル傘下のAI開発企業など160社、2400人のエンジニア等が署名。

この話を聞くと、グーグルを称賛し、人間社会の未来にも希望が持てるような気がしますが、これも2年前の話。米中対立を含め、その後の世界はさらに懸念が深刻化する方向に進んでいます。

日本の対応を含め、実情を把握し、今後の平和のあり方を追求していきます。

(了)



関連する記事はありません。

 menu LINK