参議院内閣委員会（2025-05-22）での発言

○参考人（村上明子君）　ありがとうございます。お答えいたします。 　ジェンダーの例に関しましては、ちょっと生成ＡＩ以前になるんですけれども、同じ収入、同じ立場の男性と女性のクレジットカードの与信額が女性の方が三分の一程度にＡＩで自動的になってしまうというようなことであったり、あるいは採用ですね。特に、とあるＩＴ企業のエンジニアの採用で、過去に採用した人がたまたま全員男性でしたと。そうなると、女性的なことが書いてあるレジュメは全部自動的に落とされてしまう。それはまさに、ＡＩが、こういう目的で動いてくださいねと人間が指示をしたときに、その目的に対して倫理観も何もなくまず突出してしまうというのが一番の原因になっています。 　これは過去のものをデータとして使う以上、過去に人間が誤って区別、差別していたものというのを再生産してしまうというところが、これは人間が意図して差別したシステムを作らなくても起こってしまうことなんですね。 　ところが、先ほど言ったように、ＡＩをつくった人たちが偏ったモノリシックな団体であると、そういった偏り、あるいは、出力に対するおかしい違和感ということに気付けないまま、それを世の中に出してしまうということが非常に問題だと考えています。なので、それを、ＡＩを作る現場、それから使う現場、そして利用する現場が多様的な物の見方で、先ほど言っていたモニタリングというところを人間としてきちんと見続けるということが必要なのではというふうに思います。 　無意識という観点でいうと、今申し上げたように、システム的に過去のものを、過去の悪いことを再生産してしまう。これをやはり自動的に、ＡＩを使ってそういったデータの偏り、あるいは出力の偏りがないかどうかというものを見る。こういった技術的なものというのは今研究で盛んに行われていますので、技術的にそういったことを回避できるといったことも将来的にはできると思います。 　若干、その技術の進歩に合わせてイタチごっこ的にＡＩの安全性というのは見えるかもしれないんですけれども、それを良く言えばアジャイルにやっていく。今までの組織であるとか考え方というのは、そういったアジャイル的な対応がイタチごっこですらできないというところを柔軟に変えていこうというところがこの法案で推進されるとよいなというふうに思っております。 　以上です。