参議院外交・安全保障に関する調査会（2024-02-07）での発言

○参考人（小笠原一郎君）　ありがとうございます。 　私が先ほど申し上げました、これまでのＣＣＷの下での政府専門家会議におけるＬＡＷＳに関する十年余りの議論、この蓄積の上に議論が積み重ねられてきておりますけれども、それでは新しいなかなか技術の進展に追い付かないのではないかという御指摘に関する質問だったという、指摘に関する御質問だと思います。 　私、生成ＡＩ、これの軍事利用というのは、非常に今まで私どもが、私どもというか、この政府専門家会合の中で議論されていたものとは超える、大きな軍事利用の可能性を秘めているのではないかと思います。 　例えば、これ全く私の素人の考えでございますけれども、今までは自律性を、一定の機能を持った兵器がこれを、民間人あるいは戦闘員に対して危害を加えるという場面を想定していたんですけれども、生成ＡＩには、例えばその作戦オペレーション、作戦に関する計画そのものを生成ＡＩに頼んで作ってもらうというようなことは今後可能になってくるのではないかと。そういったもっと大きな、現場における兵器としての自律性ではなくて、もっと高次元の指揮命令系統の中での一定のより大きな判断、こういったものが生成ＡＩによって取って代わられる、このことの危険性というものがあろうかと思います。 　こういうことは、だんだん議論が様々な形で、今までの私どもの兵器に特化した議論ではなくて、広くＡＩの軍事利用というところについて議論が開始されております。 　特に注目されるのは、グテーレス事務総長が昨年出された平和への課題という文書の中で、新しいＡＩガバナンスのための国際機関をつくるのだと、そのためにはＩＡＥＡとかこれまでの国際機関を例に考えるべきではないかという提言をしておられます。それを受けて、昨年、三十人ほどから成るパネルがつくられて、その中でまたこういったことも議論されております。若干、当初のグテーレス事務総長の問題意識から離れて、いかにしてむしろＡＩ技術の利益に均てんしていくのかといったことを、途上国に対する環境をつくっていくべきではないかといったようなところに議論が広がっておりますけれども、だんだんそういったことにも今議論が広がりつつあるということ。 　それから、もちろん設計とか開発の部分においても我々議論しておりますけれども、先ほど大椿先生から御指摘のあった報道にもありますように、一定のバイアスが掛かっていくということ、それからもう一つは、生成ＡＩによって偽情報を発出して、それによって戦争をめぐる情勢を変えていくという、こういう偽情報の問題、バイアスの問題、こういった広い、兵器、狭い意味での兵器を超えた、広い軍事オペレーションの中での生成ＡＩが今後演じる役割というものは注目していかなければいけないのかなと思っております。