国会発言検索

○参考人（大屋雄裕君）　慶應義塾大学の大屋と申します。本日はこのような機会を与えていただきまして、誠にありがとうございます。 　以下、審議の対象となっている人工知能関連技術の研究開発及び活用の推進に関する法律案に対する若干の意見を述べさせていただきます。 　まず初めに、私自身について若干の御説明をすることをお許しください。御紹介いただいたとおり、私は法学部法律学科に所属する教員ですが、実定法学を専門にしている者ではなく、基礎法学に属する法哲学という分野を専攻しております。これは、憲法や民法といった特定の実定法を前提にして、その解釈について議論するのではなく、そもそも法とは何か、何であるべきか、あるいは法解釈に客観的な正解はあるかといったような法全体に対する哲学的な分析を主な任務とする学問分野であります。私自身は、その中でも、情報社会論と申しますか、コンピューターやインターネット技術の発…

○参考人（大屋雄裕君）　お答えいたします。 　おっしゃるとおりで、きちんと現状を把握しながら、やるべきものはやっていかなければいけない。しかし、何をやるべきかということを一番よく理解しているのは研究開発の当事者であります。したがって、まずは研究者、開発者自身が、これはやってはいけないということを深く自覚していただくことが非常に重要である。その次は、例えばそれを、利活用企業であれば、企業の経営者層あるいは法務等のガバナンス部局が、やってはいけないことを技術側がやろうとしていたら止めていただくということが必要である。 　これら、現場に近い側からガバナンスを利かせていき、それが全く効果がないとか、あるいは、そもそもそういうことを考えない企業という不届きな存在が出てこないように国の方できちんとグリップする必要があると。逆に言うと、そういうことをきちんとやれる優良企業に対して国が余りその行動を制…

○参考人（大屋雄裕君）　お答えいたします。 　まず、そのとおりだと思っております。 　そして、まず巨大ＩＴ企業には、やはり一億二千万人がいる巨大市場としての日本というものに真面目に向き合うインセンティブはあるはずであります。また、我々が彼らのサービスを安心して使えば使うほど彼ら自身がもうかるという、共存共栄の関係が本来はあるはずであります。それを我々も信じているし、だから我々に誠実に向き合っていただきたいというメッセージを発することがまず重要なんだと思っております。 　ただ、安全保障についてはちょっとそのような共存共栄の関係とは違う側面が出てこようかと思いますので、それについては別に考えなければいけないと思っておりますが、私自身は、その点はこの法案のスコープからは若干外れるのかなと思っているということでございます。 　以上です。…

○参考人（大屋雄裕君）　第一に、これまでその努力はしてきましたし、それなりの成果は上がっているというふうに認識しております。第二に、それはできるかできないかというより、やらねばならぬことだというふうに私自身は認識をしておるということでございます。…

○参考人（大屋雄裕君）　お答えいたします。 　ＡＩというのは、特定の評価基準を前提としたときに、それをより効率的に実現する機械だというふうに言えようかと思います。したがって、あらかじめ評価基準が定まっているチェスや囲碁、将棋といったゲームでは、これは人類の大方をとっくに追い越してしまったということになるわけです。 　ところで、例えば現代アートというのはそういうものではなくて、むしろ新たな評価基準を提案する、そういう営みであります。あるいは、法解釈、私の専門領域について申し上げますと、例えばこれまでの判例があるのでそれに沿って判断するという比較的機械化できそうな部分も当然あるわけですが、最高裁判決の多くがそうであるように、むしろこれまでと違う考え方、これまでと違う評価基準というものを積極的に提案するようなものもあるわけですね。 　そのようなクリエーティブな側面というのをＡＩはいまだ成し…

○参考人（大屋雄裕君）　ありがとうございます。 　我が国の現状については、確かにこの法案には規制的要素がほぼないのですけれども、実はある種のセグメント的規制が実現しているという考え方もできると思っています。例えばですが、ＡＩを組み込んだ医療機器については、これはいわゆる薬機法の問題でありまして、承認を得ない限り医療現場で用いることはできないという状況になっているわけですね。 　そのように、セグメントによってはもう既に規制済みである、若しくは一定のリスクに事後的にも対応する体制が取れているということを前提にしますと、ＡＩの影響が大きいにもかかわらずそのようないわゆる業法規制がない分野として注目すべきだと思っておりますのは、それは私がこの業界にいるからでもありますが、教育であります。 　教育現場にＡＩが着々と進出しつつありますが、それに対する規制ないし、あるいはリスク評価自体も極めて乏し…

○参考人（大屋雄裕君）　ありがとうございます。 　おっしゃるとおりでありまして、特に機械学習型ＡＩについては、それがどのような理由で一定の解を出してきたかということは極めて分かりにくい。これをブラックボックス化というふうに呼ばれております。そのような現象が生じることは、もう明らかだと思われております。 　これに対するガバナンス策としまして、そのＡＩ自体の説明能力を高めていこう、なぜこの結論が出たかということを可視化していく技術を開発していこうという方針も一つあります。説明可能ＡＩ、エクスプレーナブルＡＩと呼ばれるものです。 　ただ、この技術の方向性は、私自身の評価としては余り明るくなく、それよりは監査ＡＩのような、おっしゃったような、その結論がなぜ出たのかを監査する別のＡＩと組み合わせるであるとか、あるいは、それぞれ別の作り方をした三系統のＡＩを同時に走らせて多数決で決めるというよう…

○参考人（大屋雄裕君）　お答えいたします。ありがとうございます。 　まず、例えば信用情報につきましても、これまでに存在してきた金融機関は、例えば事故情報を基に信用を計算しておりますし、それについては情報開示のシステムがございまして、本人がひょっとしておかしいのではと思ったら確認をすることができる、あるいは訂正の申立てができるということになっております。しかし、ＡＩの発展によって、そのような統制を受けていない業者あるいは業態というものが生まれてくる。それを一つのリスクとして考えていかなければいけないというふうに考えておるということが第一であります。 　もう一つは、ＡＩというのはそれ自体技術でして、その技術なりの癖がある、あるいは特徴があるものであります。例えば、生成系ＡＩであればハルシネーションと呼ばれる全く存在しない情報をあたかも本当のものであるかのように提示するという現象が生じること…

○参考人（大屋雄裕君）　ありがとうございます。 　法案に書かなくてもいいといえばそのとおりなのですが、要するに、人工知能関連技術の開発あるいはその研究に積極的に予算を付けるであるとか、そのような教育部門の増設に対する支援を行うであるとか、あるいは、それこそ例えば永沼参考人もおっしゃいましたけれども、研究者の待遇には現状額面では少なくともアメリカと日本の間に大きな格差があるわけで、それを事業者の自助努力でカバーできるかと言われると、限界があると。そこを例えば国が支援するといったこともあり得べきスキームだとは思うところですね。そこには法案としては踏み込んでいない。もちろん、これらは基本的に予算措置の話なので、今後政府の施策の方で実現していただきたいということだとは思いますが、そのようなことになろうかと思います。…

○参考人（大屋雄裕君）　お答えいたします。 　国際的な比較調査をいたしましても、日本人というのは、ヨーロッパであるとかアメリカと比べてＡＩに対する警戒感が低いということが示されております。したがって、適切な使い方をちゃんと提案していく限りにおいて、社会がそれを受け入れ、利活用が進むということが期待できます。もちろん、先ほど来問題になっている中高年の教育機会をどう提供していくかという課題はあるわけですけれども、きちんと働きかければ応えてくださるだろうという状況がある。したがって、それを生かして柔軟な効率化が進められるようなガバナンスルールができれば、それは我々にとって有利だろうと考えます。 　逆に、欧米には、ＡＩに対するある種の本能的な警戒感が非常に強いということが示されておりまして、これに基づいて非常に強いガバナンスが強制されるような国際ルールが形成されてしまうと、我々の社会では要らな…

○参考人（大屋雄裕君）　お答えいたします。 　まず一つに、学習されない権利を一般的に認めるべきではないと考えます。それは、例えば我々が物を書きます。それは世間の方々からはいろんな御意見があり、御批判を頂戴する、あるいは長大な反論論文を書かれるというようなことはありますが、それを受けて立つことが言論をする者の責任であるというふうに考えております。表現をするということは、それを見られるということは当然含意されているはずだと思うわけですね。したがって、一般的に、それが他者に利用されない権利みたいなものを考えることは困難であると思うわけです。 　ただし、一つは、先ほど意見を申し上げた際にも言及いたしましたが、競合製品を作るために使われると。例えば、仮に手塚治虫先生にしておきますが、手塚治虫の作品を学習して偽手塚治虫をつくって、しかもその作品を金で売りさばくというような利用法がなされるのは不適切…

○参考人（大屋雄裕君）　お答えいたします。 　村上参考人がおっしゃった安全と安心の違いということを前提として、二点ほど考えられようかと思います。 　一つは、ある種のバイアスがやはり報道から生じるであろうと。つまり、システムというのは異常動作が起きたときだけ報道されますので、かつての体感治安の問題と同じでございます。 　事件が起きると報道される、そのために、犯罪は周りで増えているというふうに思う方はそれなりに市民の中で多いわけですが、実は犯罪は統計としては減り続けているわけですよね。このような形で、やはり、詳しくない方ほど、技術的な実情というのを余り理解しないままに不安感が高じているというところは一つあるのだと思っております。 　もう一つは、ＡＩという言葉で何を想像しているのかというところにずれがあるだろうと思っております。 　そもそも、ＡＩという言葉を正確に定義するのは各種の行政…

○参考人（大屋雄裕君）　ありがとうございます。 　個人情報保護の世界で申し上げますと、やはり明確な悪用を意図している事業者とか個人がおるということを前提に我々は法規制を考えていかなければいけない、いわゆる名簿屋問題などがそれに当たると思っております。 　他方で、ＡＩ技術についていいますと、例えば人類を滅ぼす結果を生み出すようなＡＩを開発しようとする事業者というのがどこにいるかと考えると、余りいなさそうなんですね。先ほど申し上げましたが、やはり基本的には、事業者は、我々が喜んでその事業者の提供するサービスを使ってお金を落としてくれることが大好きなのであって、そのようなウィン・ウィンのインセンティブを持っていると考えることができます。 　ただ、それにしても、こういう問題についてはきちんと注意しなさいよというその安全性検証の枠組みを提供していくことは重要なわけですけれども、第一義的には、彼…

○参考人（大屋雄裕君）　ありがとうございます。 　各事業者には、基本的には適切な人材を採用したいというインセンティブがあると思います。なので、不合理な差別については競争環境の中で淘汰されていくということが期待できようかと思います。 　他方で、ダイバーシティー・アンド・インクルージョンが最も適切な例だと思いますけれども、過去の経緯で例えば男女間に効率の差が生じてしまっているけれども、それは本来不当なのであるというケースがあり得ようかと思います。そのような場合には、逆にＡＩを利用することによって効率的な採用が行われた結果、既存の差別が拡大再生産されるということになりかねないというのは事実であります。 　これについては、結果に対する監査をやるという方向しか恐らくは対策はないわけでして、それを第三者機関でやるのか、あるいは、ある種の監査ＡＩみたいなものでやることを義務付けるとか、あるいは、そ…

○参考人（大屋雄裕君）　二点お答えいたします。 　一つ目は国際協力の点でございますが、意見の中で言及いたしましたＡＩ開発ガイドライン、総務省のものですね、これには実は国際的議論のためのという言葉がくっついておりまして、ちゃんと英語に訳して世界に向けて発信をしたと。その後の働きかけもあって、実はＯＥＣＤガイドラインの制定に大きく貢献したという実績がございます。 　このような形で、実はこれまで、この分野において日本は、先駆けて日米欧の協力のフレームワークをつくり、ある時期までは中国もその協力のフレームワークに応じてくれるというところまでは持っていった実績がございますので、引き続きその貢献をすべきだということがここに示されておるのだと思いますが、一方で、村上参考人御指摘のとおり、ずっと同じ人間がやっておるではないかというのも事実でございまして、私もそろそろ疲れてまいりましたので、やはり先ほど…

○参考人（大屋雄裕君）　ＡＩは機械ですので、例えば一定のデータを学習させて、そうですね、解答例を十個出してみよとか、違うパターンでバラエティーを持たせて百個作ってみろと言われたら作ると思います。 　問題は、その中でどれが最も良いとか、相対的に良いという評価をＡＩはなし得ないということで、なので、まさに生成ＡＩとはそういうものなわけですが、作るだけ作らせるというところまではＡＩでいいものが出せる、あるいは少なくともやれることはやれる、それを評価するところがまだ人間にしかできていないというのがお答えになろうかと思います。…

○参考人（大屋雄裕君）　コンピューター自体は、あるいはＡＩというプログラム自体は、その書かれたとおりにしか動きません。 　問題は、我々人間がこう動いてほしいなという思いをプログラムという形で記述するわけですが、そこがパーフェクトではないということですね。つまり、いわゆるバグという問題が起きて、それはコンピューターの誤動作だというふうに我々はつい表現してしまうのですが、プログラムは正常に動作しているんです。人間の表現が間違えたのですね。そのような問題はＡＩについても常に起こり得ます。…

○参考人（大屋雄裕君）　基本的にはそのようなことでいいと思います。 　囲碁の場合のＡＩがまさにそうだったのですが、ルールを与えているわけですね。こういうルールで勝ち負けを判定しますよと。それはＡＩにトライアル・アンド・エラーを自動的に何度も何度もやらせたわけであります。そうすると、これまでの人間のいわゆる定石では発見されていない手法というのが発見されたというようなことがございました。この場合は、基準を与えていて、基準に対して最適化しなさいよという人間の意図は伝わっているわけですね。ただ、それはきっとこういう動作になるであろうなという我々の予想とは違う結果が出ていたわけであります。 　このような形でのずれというのが起きていて、なぜこうなったかが分からない。良いのは良いんです。良いことは分かるんだけど、何でなのか分からないというのが今ＡＩについて言われているブラックボックス化と呼ばれること…

○参考人（大屋雄裕君）　二つの事案があろうかと思います。 　一つは、おっしゃった例の一つは、サイバー攻撃があったようなケースで、本来学習させたもの、あるいは利活用者が意図していたのとは違う目的が勝手に注入されたと、こういう形でのアタックを受けることによってシステムが乗っ取られる危険というのは当然ございます。これについては、したがって、結果をちゃんと検証して、ドローンの場合であれば、多分違った方向に行ったのが目に見えますので、その時点でシステムをシャットダウンして、安全回復、安全確保措置を講じるみたいなことが要請されることになります。 　それとは別に、先ほどのバグと同じなのですが、一定の評価基準は伝えましたと。ところが、その評価基準が言葉足らずであった、我々からするとですね、というようなことがよく起きるわけであります。先ほど申し上げたＨＡＬ９０００の例というのは実はそのケースだったはずで…

○参考人（大屋雄裕君）　安全確保措置が十分に講じられていれば大丈夫だし、そうでなければいけないというのがお答えになろうかと思います。 　一例として申し上げますと、医療に用いられるＡＩ診断ですね、診断機器にＡＩを組み込んだ場合に、それがちゃんと動作しているし期待どおりだよなということは常に医師が点検して、その上でないと実際の医療行為につながらないようになっております。 　このような形で、能力のある人がちゃんと監査した上でということであれば生命のようなものについても利用可能だと思いますし、何かインターネット上でいきなりＡＩ病気診断システムが動き始めるというような事態は避けた方がよろしかろうと思うところでございます。…