衆議院内閣委員会（2025-04-16）での発言

○生貝参考人　本日、このような機会をいただき、ありがとうございます。一橋大学の生貝直人と申します。 　私は、研究者としては、こうしたＡＩを始めとするデジタル技術に関する法制度の在り方というものを、ＥＵですとか米国との比較を中心とした研究を行っているものでございまして、今回、松尾参考人が座長を務められるＡＩ制度研究会の委員も務めさせていただいたところでございます。 　今回、本法案に関しまして、一つの大きなテーマである研究開発ですとか活用の促進に関しては、ほかの参考人からも御意見があるところかというふうに思いますので、私の方は、こちらの一枚紙を参考にいたしまして、特にリスク対応の観点から、この法案に関する私の意見というものと、そして幾つかの期待ということを、大きく三点に分けて申し上げさせていただきたいというふうに思います。 　まず、本法案、第三章に規定されるＡＩ基本計画、そして第四章によって創設されるＡＩ戦略本部といった、まさに国の体制整備に関する規定を始めといたしまして、これは、ＡＩ関連技術の研究開発、活用の推進というものはもとよりであるのですけれども、やはり、複数領域に係るリスクへの府省横断的対応を我が国として可能とする基盤法制としての意義を有するものと考えております。 　ＡＩの法制上、課題になるリスクといいますと、生成ＡＩの登場前は、国際的にも主として比較的そのリスクというものは特定して議論されてきたところだったというふうに思います。一つは、ＡＩを組み込んだ製品が間違った判断をする、暴走する、爆発する、そのような製品安全のリスクということ。それからもう一つは、ＡＩが個人に関する情報を分析して、プロファイリングして、時には人を差別的な取扱いをする自動的決定を行う。大きくはその二つが焦点を当てられており、それはこれからも重要でございます。 　なのでございますけれども、二〇二二年のチャットＧＰＴ、そして生成ＡＩの本格的な普及というのは、法的側面からのＡＩの位置づけというものをかなり変容させたというふうに思っております。それはまさしく、人の代わりに情報を生成してくれるＡＩなわけでございます。そうした情報というのがこれから社会全体で流通する情報のおよそ大半を占めるようになるという予測は、決して大げさではないというふうに思います。 　そうしましたときに、情報関連法制全体がこれまで考えてきたリスクというものをどのように新しく再構築していくのかということ。例えばディープフェイクへの対応というのはその典型であるというふうに思います。民事救済、刑事規制、そして知的財産権、消費者法制。そして、それらの生み出されたディープフェイクが流通する多くの場というのはソーシャルメディアを始めとするプラットフォームでございます、それとの規制との関係をどう考えるか。そして、選挙のときにどのような特別な対応が必要かというふうにいったようなことは、これらそれぞれ所管省庁もそして使う法律も違うわけでございますけれども、やはり調和した対応ということが何より重要になるわけでございます。 　そして、もう一つ加えますと、やはり法制という観点から見てＡＩ分野というのは、技術そして運用の実態、アルゴリズムがどのように機能しているのか、あるいは生成ＡＩに関する安全性は実際にどのように技術的に試みられているのか、そのようなことを正確に継続的に把握し続けることに高いコストがかかります。 　そのことに関して、今回のような総合的な体制整備というのが行われることによって、ＡＩセーフティ・インスティテュート等国内外機関の連携を含めまして、各法領域の運用と、そして今後の改正等の大前提となるインテリジェンス基盤の構築が行われていくということを非常に強く期待するところでございます。 　御参考まで申し上げますと、ＥＵのＡＩ法制、ＡＩ政策を担当するＡＩオフィスというのは、それだけで百四十人のスタッフを抱えており、また、それに加えまして、少なくとも数十人の科学者が科学的見地からのそうした政策の立案と運用の助言を行っているというふうにいったチームを抱えている。このような体制整備を一つは大きく可能としてくれるだろう。 　二つ目といたしまして、適正性確保のための指針の整備というのが今回の規範的な側面として大変重要かと思います。ことに加えて、恐らくはそれと少なからず連動する形で進められるであろう国による情報収集、調査、研究と指導、助言、情報提供等の規定。このことというのは、ＡＩ技術の進化がかつてない速度で進む中で、私がずっと専門にしてまいります官民の共同規制の考え方とも親和性の高い、柔軟性、機敏性の高いリスク対応のＰＤＣＡサイクルを構築する枠組みとしての機能、意義を有すると考えるところでございます。 　この指針の中におきましては、広島ＡＩプロセス等、国際的な規範との整合性はもとよりでございますけれども、リスクベースの考え方を考慮しながら、複数法分野に係る共通の事項、例えば、やはり国際的にも透明性確保、ＡＩ生成コンテンツの判別性確保、学習データの概要の開示といったようなことは共通の事項として理解が進んできているところでございます。そして、既存法令で対応が十分にできないリスク、及び開発、運用を行う事業者自身がリスクの軽減とそして自らの評価ということをしっかり行っていただく、こうしたことをしっかり念頭に置いた指針というものが作成されることを私としては期待するところでございます。 　そして、もう一つ、指針の作成、見直しプロセスと、及びその運用がしっかり事業者によっても遵守されているのかということをモニタリングするプロセス、この両面におきまして、消費者、市民社会、学界等の多様なステークホルダーの実効性ある参加というものを是非確保していただきたいというふうに思います。 　これは、制度の実効性でありますとか、それに必要な知識集約というところもあるのでございますけれども、やはり、こういった実質的な我が国の制度というものを立法によってある種行政及び関係するステークホルダーに委ねる。その中で、しっかりとその制度に対する民主的正統性を確保していくというふうにいったような観点からも、こうした手法というものを是非重視していただきたいと思います。 　最後に、三点目でございます。 　今後数年間の中で様々リスクが生じてくる、それはイノベーションが期待どおりに進んでくれればこそ生じ得ることでございますけれども。その中で、恐らくは多数の個別法の改正でございますとか、ＡＩに対応するための。そして、本法案の附則二条に定められている本法案自体の検討、いわば見直しというふうにいったようなことが必要になる可能性というのは、これは恐らく高いというふうに思います。 　そうしたときに、やはり、今回法律を作る、そしてそれを国民の安全、安心と技術革新を高い水準で両立させ続けていくためには、リスクが起こったときに初めて検討を開始して、そして三か月なり半年なりで結論を出すというプロセスだけではなく、やはり常日頃から、本当に望ましい、このＡＩに関わるより望ましい制度というものは果たして何であるのか。そして、それは個別の問題での対応ということはもとより、まさに今回のような、恐らくはこれまでの法制の中でも全く新しいガバナンスメカニズムの在り方、そういった全体の枠組みというものを継続的に検討を続ける必要があるというふうに思います。 　是非、新設されるＡＩ戦略本部の中でも、制度の継続検討というふうにいったようなことを一つ念頭に置いていただきたいと期待するところでございます。 　私からは以上でございます。御清聴ありがとうございました。（拍手）