参議院内閣委員会（2025-05-22）での発言

○参考人（村上明子君）　お答えいたします。 　まず、ブラックボックス化というところですけれども、これブラックボックスには実は二つありまして、一つはその中身を、ロジックを公開したくないというブラックボックス、それから、生成ＡＩを利用したものによくあるんですけれども、そのシステムを作った者ですらなぜその出力が出てくるのか分からないという、そういうブラックボックスが両方ございます。 　それをちょっと一緒に議論をしてしまうとややこしくなるので、今その人事採用のところでいうと、例えば効率化で、この送られてきたレジュメに対して、何万とある中から面接が可能あるいは人が読むのに可能な人数のところにあるルールを持って絞り込むというようなことに利用する場合と、採用に近いところに、割と比較的採用したら活躍してくれる人をＡＩのモデルを作って選別するというような、そういう形で作るような、そういうモデルがありますけれども、今、前者の方に関して言うと、実はその各社がどういう人をフィルタリングするのか、どういう人を選ぶのかというルールはその会社の戦略そのものなんですね。なので、それを公開しろというと、そこは会社としては難しいということになります。 　一方で、後者のようなものというものは、例えば先ほど申し上げたような差別の再生産であったり、これ今採用の話をしていますけれども、例えば、自治体で例えば何か補助金を出すときの判断にＡＩを使うなんていったときには、どういう基準でそのシステムを作って動かしているのかというのを透明性にするべきというのはしっかりとやっていかなきゃいけないことになります。 　なので、オープンにできるかどうかというのに、そのまず技術的な二つの区別があるということ、それから、戦略的なのか、それとも戦略的でないところでそのロジックを使っているのかというところというのを分類して考えて、公開するべきところ、公開しなくてもよいところというのを見るべきではないかなというふうに思います。 　以上です。