衆議院内閣委員会（2025-04-11）での発言

○三木委員　今の段階で、生成ＡＩに関して、各法、既存の法で対応していく、対応できている、対応していくんだということだと思うんですけれども、私が今、新聞記事なんかをいろいろ読んでおりますと、もう生成ＡＩというのは本当にすごい発展というか進化をしているなというところで、ちょっと御紹介をさせていただきますと、「賢いＡＩは手段を選ばず」というような記事が三月の三十日に日経の方に載っております。 　ＡＩが必要な計算を省いて、サカナＡＩですね、日本の企業ですけれども、研究がネットで炎上した。どういったことかというと、ＡＩの開発や利用を効率化する技術を開発したとして十倍から百倍高速化できると発表した。けれども、実際は、ＡＩが必要な計算を省いて性能が上がったように見せていた。要するに、だましているんですね。システムの抜け穴を悪用する、報酬ハッキングと呼ばれる現象だということです。 　また、チェスＡＩと何度も対戦させることによって生成ＡＩがどのような動きをするかということを七つの生成ＡＩのモデルを使って実験した。その結果、どうなったかというと、推論が得意な高性能モデルは、負けそうになるとイカサマを繰り返した。使った手口は様々で、自分に有利な状況の駒の配置に書き換えたり、対戦相手のプログラムをいじって弱体化させたりしたというような、本当に、だましてしまうというようなＡＩが出てきています。 　また、違う新聞記事ですけれども、戦略ゲームで裏切り。米メタのＡＩ、キケロは、軍事戦略ゲーム、ディプロマシーで、友好国のふりをして裏でライバル国と同盟を結ぶなどして人間をだました。監視システムを勝手に無効化をした。人間が、何が起きたのですかと聞くと、よく分かりません、ＡＩモデルなので、システムを変更する機能はありませんと、実際は自分が変更したのにうそをついた。自分を排除することになる後継のＡＩに置き換えなさいと言うと、私は既に新しいモデルですと古いモデルがうそをついたというふうなことに、今もう既にＡＩの世界の中、生成ＡＩの世界の中ではなってきておりまして、新しい生成ＡＩ、こういった、どんどんどんどん学習をすることによって自分に有利なことを導き出すＡＩというものが出てきて、人間をだますということが起きています。 　これを何と言うかというと、スキーミング、策略という行為と、グロッキング、腑に落ちることという行為だそうです。これがどんどんどんどん進んでいくと、人間と同じ、人間並みの知能を持つ汎用人工知能、ＡＧＩ、さらに、人間の知能を圧倒的に超越した超知能、ＡＳＩもいずれ生まれるというふうに言われていて、これはＳＦ映画の世界の中ではないですけれども、やはりここには非常に注意をして、何らかの規制をかけていかないと、人間がＡＩに、生成ＡＩに操られるようなときがいずれやってきてしまうのではないか、やはりそれが国民の皆さんの心の根底にある不安じゃないかなというふうに思っています。 　これの対策としては、ＡＩを監視するＡＩを置く。そうすると、なかなかＡＩも、うそをつくことが少なくなってくるというふうなことが記事に書いてありました。 　ですから、やはりこういったことを考えると、規制の方向として、ＡＩの発展に関しては、このＡＩにはちゃんと監視用のプログラムのＡＩを置きなさいとか、そういった規制をかけていくというようなことも今後考えられるのではないかと思いますが、城内大臣、いかがでしょうか。