衆議院内閣委員会（2025-04-16）での発言

○上村委員　れいわ新選組の上村英明です。よろしくお願いします。 　この審議が始まったときには、本当に、私は天然知性という話をしましたけれども、ＡＩとはちょっとほど遠いなというふうに思っていたんですけれども、さっき黄川田委員がおっしゃっていたように、学習していくと、だんだんだんだんレベルが上がってきたなというふうに思っていて、案外、何か私も、うそをつくし、裏切るし、人間というのは元々ＡＩに近いのかなというふうなことも考え始めたという、とんでもない勘違いなんですけれども、そういうことを前提に、さくさくといきたいと思います。 　まず、ＥＵのＡＩ対策というものが午前中の話でも出たんですけれども、どちらかというとハードロー的な法規制を取るもので、日本は放任主義の強いアメリカとＥＵの中間的な位置を占めたいと城内大臣がおっしゃったというふうに覚えております。 　しかし、ＥＵのＡＩ法も、細かく見ると結構よくできているなと思うところがあるんですけれども、法規制の分野で細かい配慮があって、むしろ放任的な領域も認めています。例えば、リスク全体はレベルを四つに分けて、許容できないリスク、それからハイリスク、限定的なリスク、最小リスクという四つのリスクの分類をした後、それぞれに対応が違っているという、かなり柔軟な構造を持っているのではないかなというふうに思っています。特に、最小リスクの場合は、リスクの対応はほとんど必要ないということになっています。 　では、例えば、容認できないリスクというのはどういうリスクがあるかといいますと、これは八項目が挙げられているわけですけれども、例えば、意思決定を無意識のうちに操作するサブリミナル技術、こういうことがよくあるというふうな、聞かれたことがあると思いますけれども。 　それから、これは四番目なんですけれども、プロファイリングなどに基づく犯罪リスク評価と犯罪予測。これは何なのかというと、いわゆる冤罪事件を生んできたような捜査のやり方をＡＩがやるとこうなるということです。つまり、この人が犯人だろうという情報を集めて、犯人を逆に最初から特定するということです。 　それから、五番目ですけれども、インターネットあるいは監視カメラの映像を使った顔認証のデータベースの作成。六番目には、職場や教育における感情を推測するための感情認識、これはちょっとまだ私も理解できていないんですけれども。七番目には、人種、政治的意見、労働組合への加入、宗教又は哲学的信条、性的指向などのデータを集めて人間を分類してデータ化する。こういうことは禁止項目になっています。 　こうした八項目のＡＩシステムを使っちゃいけないという領域があるんですけれども、この領域はどういうふうな基準で選ばれたかというと、一つは、基本的人権の尊重です、そしてもう一つが、普遍的価値。この二つは、日本政府でいっても、安保三文書の中に、日本は世界でも進んだ民主主義国家であり、こうした価値は共有できるんだということは明確に書かれています。その意味では、こうした価値を共有することは日本では何ら問題ないのではないかなというようなことを思っています。 　ただ、若干違うのが三番目の原則でして、これは何かというと、ＥＵは厳しい規定を設けているんですけれども、この厳しさの背景にある判断基準は何かというと、予防原則というものです。 　ここにいらっしゃる方はちょっと記憶があるかもしれませんが、食品安全委員会の基準設定のときに、日本はこの予防原則を取っていない。つまり、何かあったときの被害は甚大なので、先駆けて厳しい規制を作るというのが予防原則の在り方なんですけれども、こうした基準の下に先ほどの容認できないリスクというものが設定されているということがあります。 　先ほど、午前中の委員会でもお話があったんですけれども、やはり変化が激しいＡＩの世界ということは言えているんですけれども、それにも増して、逆に言えば、先手先手で予知していくということがむしろ日常的に行われないとこの世界に対応できないのではないかという専門家の御意見を午前中は伺いました。 　その意味でいけば、やはり容認できないリスクのようなものを日本もきちんとこうした法案に書き込まなくちゃいけないんじゃないかというふうなことを考えるんですけれども、城内大臣の御見解をお伺いいたします。