参議院外交・安全保障に関する調査会（2024-02-07）での発言

○参考人（小笠原一郎君）　ありがとうございます。 　まさに今、そこの部分がこのＬＡＷＳの議論の中でも一番重要な部分の一つとなっておりまして、このＬＡＷＳの、先ほど申しましたけれども、自律の程度というものが非常に重要だというふうに申し上げましたが、特にその中でもマシンラーニング、機械が自分で考えてしまう、特に機械が自分で考えて、自分に与えられたマンデートというか命令を自分で書き換えてしまう、これが非常に恐ろしいと。そういう状況になったらば、本当に機械がその軍事利用されている場合に指揮、軍隊の指揮命令系統から逸脱してしまうと、そういうおそれが出てくると。そういったものはしたがって設計すべきでもないし、開発の、マシンラーニングを備えたような高い自律性を備えたものについては一定の規制を考えるべきであるという多くの意見がございます。 　それに対してどういうふうに対応していくかという手段なんですけれども、まず禁止、制限規範をしっかり作るということだと思いますが、その内容としては、例えばディアクティベート、そのスイッチをオフにしたりオンにしたりして、予想可能が、予想できないような行動に出た場合にそれを人間がスイッチをオフにできるとかですね、あるいは、そういった予想可能性のない行動に出ることを妨げるために、その自律性の機械を、兵器を使う時間的なフレームワークあるいは場所的なフレームワーク、そういったものをしっかりあらかじめ限定してその中でだけ動かすのだといった、こういった考え方、文脈的なコントロールをあらかじめ及ぼしておくという、こういった考え方、こういったことで対処をすべきではないかという考え方が議論の中で出てきております。