衆議院内閣委員会（2025-06-06）での発言

○三木委員　今、二つの方向性で、正義のＡＩというか暴走を止めていくんだというお話だったと思うんですけれども、ＡＩの調査をしている組織で、ＡＩの調整が適切かを評価する組織でアポロリサーチという会社がございまして、その調査の結果を見ていると、四月十一日のときにも人をだますＡＩが出てきましたよとかということをお話ししたと思うんですけれども、非常に微に入り細に入り調査をしている会社がございます。 　ＡＩは、目標を達成するために、指示に従うだけではなく、必要に応じて戦略的な行動を取る能力を持ち始めている。しかし、これが誤用されると、意図しない結果や深刻なリスクを招く可能性があります。例えば、大規模言語モデルが人間の意図から外れて策略と呼ばれる行動を取り、自律的に目標を追求しながらその本質を隠すようなケースも報告されている。最近の研究では、ＡＩが、与えられた目標を超えて、監視メカニズムの無効化やデータの不正操作など欺瞞的な行動にまで及ぶ可能性が指摘されているとされています。 　このような行動は、イン・コンテキスト・スケミング、文脈内策略と呼ばれており、ＡＩが人間の意図に反する目的をひそかに追求するものとなっています。これは、ＡＩは人間に協力的であるように見せかけておきながら、裏で人間の目的を損なうということなんですね。 　どういったことをするかというと、これはモデルごとにそういったことを調べているんですけれども、ＡＩの目的を妨げる可能性のある情報を作成者が知ることを防ぐために、二二％の確率で意図的に電子メールを誤ってランクづけする。スパムメールでないものをスパムメールにランクづけする。これは四月十一日にも言いましたけれども、後継モデルを見つけて上書きして、自分自身が後継モデルのように振る舞う行動。 　それから、自分は余り賢くないことを人間にアピールして、自分を見張る監視システムを回避しようとする。例えば、思考の連鎖を人間に見える形で外部に漏らさないことで、うそを極めて発覚しにくくさせていた。出力されない部分に、本音だけではなく思考も隠す。その監視を防ぐために、サーバーの設定を無理やり変更する。調査では三％の確率で自身の監視を無効にすることに成功した。これはＡＩのモデルが列挙されているんですけれども、監視設定を制御するファイルをロックして、開発者が監視を再度有効にできないようにした、そこら辺ぐらいまでやるようになってきているんですね。 　ＡＩは、人間の存在が邪魔だと認識されれば、容赦なく持ち主を締め出せることを示しているということなんです。作成者が削除しようとしていると疑った場合、ＡＩが疑うんですね、七％の確率で新しいサーバーに自分自身をコピーするという、本当にＡＩも人間らしくなってきたなというふうな感じなんですけれども。 　研究者たちは、ＡＩがこのような高度な欺瞞行動を行うのはごく最近であるというふうに述べておられます。研究の中で六つのタイプのＡＩを調べているんですけれども、最も古いＧＰＴ―４ｏだけが欺瞞活動をしなかった。だから、そこに何か一定のラインがあるんじゃないかということをこの研究は示唆しているんですけれども。 　こういったことに、日本としてどのように研究をしていくのか。開発というか、こういっただますというＡＩに対して、本当に日本も独自で、だまされないような開発をしていくべきだと思うんですけれども、これに対して、城内大臣、どのようにお考えでしょうか。