参議院内閣委員会（2025-05-22）での発言

○参考人（大屋雄裕君）　二点お答えいたします。 　一つ目は国際協力の点でございますが、意見の中で言及いたしましたＡＩ開発ガイドライン、総務省のものですね、これには実は国際的議論のためのという言葉がくっついておりまして、ちゃんと英語に訳して世界に向けて発信をしたと。その後の働きかけもあって、実はＯＥＣＤガイドラインの制定に大きく貢献したという実績がございます。 　このような形で、実はこれまで、この分野において日本は、先駆けて日米欧の協力のフレームワークをつくり、ある時期までは中国もその協力のフレームワークに応じてくれるというところまでは持っていった実績がございますので、引き続きその貢献をすべきだということがここに示されておるのだと思いますが、一方で、村上参考人御指摘のとおり、ずっと同じ人間がやっておるではないかというのも事実でございまして、私もそろそろ疲れてまいりましたので、やはり先ほど申し上げたように、次世代の人材育成ということに向けての手厚い配慮をいただきたいというふうには考えております。 　第二は、責務の点でございます。 　二〇一六年に、マイクロソフトがＴａｙという会話ロボット、チャットボットですね、をインターネット上に公開したところ、様々なユーザーがいろんなことをした結果、二十四時間以内に差別的発言を繰り返すようになり、一旦サービス中止に追い込まれ、修復したということで再公開したんだけど、やっぱり同じ結果になって公開が停止されたという事案がございました。 　オンプレミスという言い方を我々は用いますが、通常の例えばワープロソフトのように、自分のコンピューター上で動いていて、結果も自分のコンピューターで閉じているというケースであれば、これは何をしていただいてもよいのだと思います。改造を試みて、その結果動かなくなりましたというようなことがあっても、それはそれで差し支えなかろうと思うわけですが、現在のＡＩシステムは、例えば物理的にはインターネット上のサーバーで動作している。したがって、あるユーザーの動作が直接にほかのユーザーたちに影響を及ぼすということもあれば、物理的にはオンプレミスで手元の端末上で動いていても、学習結果を共有するなどの形でその結果が他の一般的なユーザーに影響を及ぼすという環境の下で動いております。 　ということは、その存在が全てのユーザーに一どきに影響を与えるようなインフラストラクチャー的なものとして機能しているということでございまして、であるならば、その利用者には一定の行為ののりというものがあってしかるべきなのではないかと。やはり、水道の水源となっている池に毒物を投げ込むということはこれは許されないのであって、他者に被害を及ぼさないように自らの行動を抑制すべき道義的責務はあると私は考えております。 　もちろん、これを法的義務にしてよろしいかということについては非常に大きな議論のあるところであろうと思いますし、それはうかつにやればプライバシーを無視して私的生活の監視をもたらすことになりますので、ここは大いに注意しなければいけないところだと思いますが、今回の法案は一定の責務があることを確認したにとどまるものでありますので、このような書きぶりは先ほど申し上げたような問題認識からも適切なのではないかと考えておるところでございます。 　以上です。