参議院内閣委員会（2025-05-27）での発言

○奥村政佳君　立憲・社民・無所属の奥村政佳です。 　改めて申すまでもないですが、昨今のテクノロジーそしてＡＩを取り巻く環境の変化の速さには目をみはるものがあります。 　先週、様々な、この質問の準備の中でインターネットの記事とかも見ていますと、先日、アメリカの起業家イーロン・マスクさんが自律型の人型のＡＩロボットを発表して、話題となっていました。テスラ・オプティマスというロボットだそうです。このロボットは、シム・トゥー・リアル、シミュレーション・トゥー・リアルや強化学習を用いてまさに自分で考えて自分で動くと、そんなロボットとなっています。 　　　〔委員長退席、理事磯崎仁彦君着席〕 　つまり、今までは、初めての動きに対しては人間の動きをロボットに覚えさせたり、実際に試行錯誤をする中で、従来であれば現実のロボットで何千回も失敗をして微調整をしていくような課題を、ロボット自体の頭の中でアイデアを、自分の頭の中でシミュレーション学習をして、それで即実行に移していくというサイクルを回すと。つまり、高精度なシミュレーションをすることによって、練習をしなくても一発でできるようになるといったようなロボットだそうでございます。 　このアイデアというのも、インプットするんじゃなくて、人間の映っている動き、これ動画データを見て、それを基に学習をして、こういうことかなと見てまねて、練習をしないでできちゃうということで、すごい時代だなというふうに思っております。 　さらに、自律型エージェントに基づいて決定を下す最新のソフトウェアが組み込まれている、そんなロボットが普及するのは、じゃ、数年後かなと思いきや、実際にはもっと早くて、何と今年中にはテスラは社内向けに千台、そして二〇二六年には外部に発売をするということで、もう僅か数年前にはＳＦのようだったことが目の前に起こってまいります。 　そして、これからは様々なデバイスにもこのＡＩが組み込まれるような世界が当たり前となって、様々な機器が何を考えているか分からないブラックボックスとなっていく未来はもうすぐそこに来ています。世界各国でＡＩの開発競争が激化している中で、いいところ、そしてさらにはＡＩの負の側面というのも表面化をしていくのかなというふうに思っております。 　さらに、このブラックボックスは何を引き起こすかというと、安全保障上のリスクでもあります。 　　　〔理事磯崎仁彦君退席、委員長着席〕 　例えば、ハードウェアでいうと、先週の衆議院内閣委員会では立憲民主党の藤岡委員が、昨日の参議院の決算委員会でも柳ヶ瀬委員が質問をしていたんですけれども、中国製の太陽光発電システムの一部に何か不審な通信機器が接続されている、搭載されているというロイター通信の報道を取り上げて、こういう通信機器の遠隔操作によって広域の停電が発生するおそれなんかも指摘をしていました。更に一歩進んで、ひょっとすると、将来、ＡＩが組み込まれたこういう機器が、遠隔操作をしなくても自分の判断で止まってしまう、発電を止めてしまうみたいなことも技術的には可能になっていくのかなというふうに思っております。 　昨日の質問に対しては、当該機器の設備が含まれる設置者に対し保安上必要な対応を求めると武藤経産大臣は答えておられましたけれども、もうブラックボックスになってくるとそれもできてこないということで、まさにこれから想定外を想定をするということも必要なのかなというふうに思っております。 　このようなこともあるということをちょっと皆様にも共有をしながら、順次質問を進めていきたいと思います。 　さて、まず一問目伺いたいと思います。 　先ほどはそういうハードウェアの話をしましたけれども、一方で情報戦ですね、海外で明らかになったＡＩを利用したプロパガンダ事案について政府の見解をお聞かせをください。 　二〇二四年、オープンＡＩ社の発表では、ロシアや中国など複数の国、組織が生成ＡＩを使って偽情報、偽の情報をＳＮＳ上にばらまこうとしていたという報道がありました。それはストップ、事前にストップすることができた、幸い現時点で大きな成果は上げられなかったということでしたけれども、これはひょっとすると氷山の一角かもしれません。 　参考人質疑でも市川参考人が、日本において直近のＡＩリスクとして、偽情報、誤情報の問題やディープフェイクなどが重要な課題と指摘されていました。 　この悪意ある者がＡＩを用いてこういう情報を拡散する現実が既にあるという中で、この国際的なＡＩプロパガンダの動きがある中で、日本政府として危機感を持っているのか、こういう事案についてまずは率直な所見をお伺いしたいと思います。この日本の世論や国民が標的にされた場合の備えなんかも考えていかなければいけないと思いますが、いかがでしょうか。