参議院内閣委員会（2025-05-27）での発言

○奥村政佳君　本当にそういう意味では、そういうところにもだんだんと、いわゆるリアルな戦争ではなくて、そういうところにもしっかりと対応していく必要があるのかなというふうにも思っております。 　その中で、仮にこの自律型のＡＩというものもあります。要するに、自分で判断をして自分で行動を起こしていくようなＡＩ、これが国内で、いわゆる認知戦、情報戦ですね、ＡＩが自ら判断して日本国内で人々の認知や世論に影響を与えるような情報戦を仕掛けた場合に、現在の審議中のこの法案で対応が可能かどうかというのも伺っていきたいと思います。 　先ほど渡邊統括官もおっしゃっていましたけれども、火事のときにふだん訓練していないことはできないというふうにおっしゃっておりました。先ほどの質問では海外の事例でしたが、国内で悪意のあるＡＩが暴走してデマや扇動を行うような最悪のシナリオを想定をしています。もはや、もう人間が関与しなくても、ひょっとするとＡＩ同士がそういう認知戦を行う可能性すら指摘をされています。 　今回、この法案は利活用の促進というのを主眼としていますが、一方で、参考人質疑でも、世界的には将来の強力なＡＩへの規制議論が進む一方で、日本では現に現実化している偽情報拡散への対応こそ喫緊の課題だとも示唆をされました。 　直接ＡＩに指令しなくても、ある入力を基に、例えば、何でしょうかね、こういう考えを広めたいんだというのを基に認知戦を、国内でＡＩが世論操作を始めた場合に、政府としては現行法やこの法案でどのように対処をし得るのかということも考えておく必要があると思います。一旦そういうところに入ってしまうと、エコーチェンバーとかフィルターバブルという言葉もある中で、もう本当に洗脳されてしまう、ＳＮＳで洗脳することも可能だということです。 　考え得る方法としては、こういうのがおかしいよねと、その発言を事業者が削除したら、それに対して例えばＡＩが、これは言論の自由の侵害だということを打ったら向こうがある意味尻込みするぞと、そういうことも考えられるという中で、いろんなことを考えていく必要があると思いますが、現時点で政府の見解はいかがでしょうか、お伺いします。