参議院本会議（2025-05-16）での発言

○竹詰仁君　国民民主党・新緑風会の竹詰仁です。 　会派を代表して、ただいま議題となりました人工知能関連技術の研究開発及び活用の推進に関する法律案について質問をいたします。 　ＡＩ技術は急速な進化を遂げており、社会構造や我々の日常生活に既に変化をもたらし、今後更に大きな変化を生み出すことになります。ＡＩの活用は、産業の生産性を飛躍的に高め、経済成長の強力な起爆剤となるだけでなく、少子高齢化による労働力不足といった我が国が抱える構造的な課題の解決にも有効です。 　我が国が国際社会で競争力を維持拡大していくためには、ＡＩの研究開発と活用を最重要課題として位置付け、推進していくことが極めて重要となります。このような認識の下、以下質問いたします。 　まず、国産のＡＩ開発について伺います。 　二〇二二年に米国のオープンＡＩがチャットＧＰＴを発表して以降、生成ＡＩの開発はグーグルやメタなどの海外の巨大ＩＴ企業、ビッグテックがリードしてきました。 　こうした中、国内のＡＩ開発は苦戦を強いられている状況にありますが、独自のＡＩ開発が進められてもいます。例えば、ＮＴＴのｔｓｕｚｕｍｉやＮＥＣのｃｏｔｏｍｉといった日本語大規模言語モデル、国産ＬＬＭが実用化されており、これらのモデルは高い日本語処理能力と軽量性を両立している点で注目を集めています。 　国産のＡＩを開発し、技術基盤を持つことは、経済安全保障の観点から重要であるとともに、ＡＩモデルが開発国の文化や価値観を反映することを踏まえると、日本の文化や社会に通じたＡＩを開発する意義は大きいと言えます。 　一方で、国内のニーズだけに焦点を当て過ぎて海外市場への展開がおろそかになれば、国際標準やトレンドから乖離し、いわゆるガラパゴス化に陥る可能性があり、結果的に国際競争から取り残されることにつながりかねません。 　二〇二四年二月より、経済産業省とＮＥＤＯによりＧＥＮＩＡＣという支援プロジェクトが立ち上げられ、生成ＡＩの開発力の強化が図られていることは評価いたします。一方で、今後は国産ＡＩの技術力を国際競争で取り残されないよう一層高めるとともに、積極的な海外展開に向けた支援が求められると考えます。国産ＡＩ開発及び海外展開についての政府の方針について、城内大臣、そして武藤経産大臣に伺います。 　次に、ＡＩの研究開発、活用を促進する上で欠かせないリスク対応について伺います。 　本法案第十六条では、不正な目的又は不適切な方法によるＡＩ関連技術の研究開発、活用に伴って国民の権利利益の侵害が生じた事案などについて、国が調査を行うこととされています。 　条文では、国民の権利利益の侵害をもたらすおそれのあるＡＩについては、調査を実施することは明記されておりません。ＡＩに対する不安の声も多く聞かれる中、ＡＩの活用を推進するのであれば、権利利益の侵害が生じた事案だけではなく、国が責任を持って被害を未然に防止する観点から適切な調査を実施する必要があると考えます。 　本法案に基づき、国民の権利利益の被害の未然防止のための調査について、城内大臣の答弁を求めます。 　また、本法案第十六条では、調査の結果に基づき、国が情報提供等の必要な措置をとることが規定されています。 　ＡＩは、人間の理解が及ばないほど内部動作が複雑となっており、予期しない有害な出力が発生する可能性があるとされています。発生したインシデントに関する情報をＡＩの開発者や利用者等の間で適切に報告、共有することにより、類似の事案の再発防止や、より信頼性の高いシステムの開発等につなげていくことも重要です。 　Ｇ７広島ＡＩプロセスの国際行動規範でも、産業界、政府、市民社会、学界を含む、高度なＡＩシステムを開発する組織間での責任ある情報共有とインシデントの報告に向けて取り組むことが示されていますが、国が情報提供等の必要な措置及び産業界、学界、開発者等との間でどのように情報共有等を図っていくか、城内大臣に伺います。 　次に、ＡＩの安全性に関する認証制度について伺います。 　ＡＩの安全な利用を確保するために有効な方法となり得るのが、認証制度の創設です。認証の有無によって、信頼性の高いＡＩシステムを選択し、利用することが可能になれば、ＡＩ利用率が低い我が国での利用率向上につながることが期待されます。ＡＩについては、システムの仕組みや用途が千差万別である上に、出力の予測が困難であるなど、特有の課題があると認識していますが、ＡＩの安全性に関する認証制度の現状と新たな認証制度の創設に対する政府の見解について、城内大臣に伺います。 　次に、ＡＩ時代を見据えた教育の在り方について伺います。 　スマートフォンへのＡＩの標準搭載が進み、無料で利用可能なＡＩサービスも多く登場するなど、ＡＩは国民生活に身近なものとなりつつあります。本格的なＡＩ時代の到来に向けて、子供たちのＡＩリテラシー向上が不可欠となっています。 　読解力などの基礎的な学力や、創造性、倫理的な判断能力など、ＡＩの特性を理解した上で利活用することができるリテラシーを養うため、子供たちにＡＩに関する教育を充実させていく必要があると考えますが、子供たちへのＡＩ時代を見据えた教育の在り方について、あべ文部科学大臣に伺います。 　二〇二三年にユネスコが公表した教育・研究分野での生成ＡＩの利用に関する指針では、生成ＡＩの大部分は大人向けに設計されており、子供が使用すれば不適切な内容に触れるリスクがあるとし、利用の最低年齢を十三歳とすべきとしています。 　主要な生成ＡＩサービスでは利用規約に年齢制限が設けられており、チャットＧＰＴでは十三歳未満の利用を認めず、十八歳未満が使う場合は保護者の同意が必要とされています。しかし、昨年開催されたある自治体のイベントで、イベント担当者が年齢制限の存在を把握しておらず、小学生にチャットＧＰＴを操作させてしまった事例があったと報道されております。 　ＡＩのリスクや利用のルールについては、十分に把握されていないのが実情です。ＡＩの適正な利用について社会全体への周知を図るなど、子供たちをＡＩのリスクから守るための取組が必要だと考えますが、城内大臣の認識を伺います。 　ＡＩが悪用されるディープフェイクが大きな問題となっています。ＡＩが合成された音声や動画を用いて、有名人を装った詐欺に悪用したり、偽画像や偽動画を使った情報操作や世論工作に悪用するといった事案が発生しています。ディープフェイクは名誉毀損や著作権侵害等の犯罪ともなり得ます。 　一方で、ディープフェイクの作成や配布を取り締まる場合、憲法上の表現の自由との兼ね合いが問題となるとの指摘もあります。 　ＡＩが進むにつれて、ディープフェイクに対して量、質共に対応していく必要があります。ディープフェイクへの対応について、城内大臣の考えを伺います。 　次に、ＡＩの普及に伴う電力需要に関する課題について質問いたします。 　ＡＩをめぐっては、今後も大規模な基盤モデルの開発や自動運転やロボットなど、幅広い分野での活用が広がっていくことが予想されます。これらを背景に、ＡＩの利用に必要となるデータセンターの電力消費量は今後十年間で十倍以上増加するとも見込まれています。 　発電、変電、送配電の増強など、ＡＩの普及を踏まえた電力の安定供給に向けた取組の方針について伺うとともに、電力と通信の効果的な連携を図るための取組であるワット・ビット連携の実現に向けた検討状況について、武藤経産大臣に伺います。 　最後に、採用活動など人事分野のＡＩ活用について伺います。 　人事分野におけるＡＩ活用については、学習データに偏りがあるために生じる差別、学習データやそのアルゴリズムが見えないことによる公平性への疑問、また、それにより、それによる不利益などを受ける可能性、人事分野の議論が成熟しておりません。 　採用活動など人事分野のＡＩ活用について、城内大臣及び福岡厚生労働大臣に考えを伺います。 　以上、質問を終わります。御清聴ありがとうございました。（拍手） 　　　〔国務大臣城内実君登壇、拍手〕