内閣委員会 第16号

○委員長（和田政宗君）　ただいまから内閣委員会を開会いたします。 　委員の異動について御報告いたします。 　昨日までに、河野義博君及び奥村政佳君が委員を辞任され、その補欠として窪田哲也君及び三上えりさんが選任されました。 　　　　─────────────

○委員長（和田政宗君）　人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。 　本日は、本案の審査のため、四名の参考人から御意見を伺います。 　御出席いただいている参考人は、独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長村上明子さん、一般社団法人日本経済団体連合会デジタルエコノミー推進委員会国際戦略ＷＧ主査・日本電気株式会社ＣＤＯ　Ｏｆｆｉｃｅ主席プロフェッショナル永沼美保さん、慶應義塾大学法学部法律学科教授大屋雄裕君及び一橋大学イノベーション研究センター特任教授・東京科学大学データサイエンス・ＡＩ全学教育機構特任教授市川類君でございます。 　この際、参考人の皆様に一言御挨拶を申し上げます。 　本日は、御多忙のところ御出席いただき、誠にありがとうございます。 　皆様から忌憚のない御意見を賜りまして、今後の審査の参考にいたしたいと存じますので、どうぞよろしくお願いをいたします。 　次に、議事の進め方について申し上げます。 　まず、村上参考人、永沼参考人、大屋参考人、市川参考人の順にお一人十五分程度で御意見をお述べいただき、その後、委員の質疑にお答えいただきたいと存じます。 　また、御発言の際は、挙手をしていただき、その都度、委員長の許可を得ることとなっておりますので、御承知おきください。 　なお、御発言は着席のままで結構でございます。 　それでは、まず村上参考人からお願いをいたします。村上参考人。

○参考人（村上明子君）　ありがとうございます。 　ＡＩセーフティ・インスティテュート所長の村上でございます。本日はこのような場にお呼びいただきまして、ありがとうございます。しっかりと意見の陳述をさせていただきます。 　では、こちらのお配りしております配付資料に基づいて御説明を差し上げます。 　まず最初に、簡単に私の自己紹介をさせていただきたいと思いますので、二ページ目を御覧ください。 　私は、先ほど申し上げましたＡＩセーフティ・インスティテュートの所長をしております。そして、民間の立場もございまして、ＳＯＭＰＯホールディングス並びに損害保険ジャパン株式会社でチーフ・データ・オフィサーということで、データの観点からこのＡＩの促進というものを見ております。また、ＡＩ戦略会議の下部組織であるＡＩ制度研究会にも参画いたしまして、座長代理を務めさせていただきました。 　私のキャリアはＡＩの研究者から始まっておりまして、ＩＴの会社で長年ＡＩのＲアンドＤに関わってまいりました。ＡＩの研究者、そしてソフトウェア開発というふうに立場を変えまして、五年前に転職をいたしまして、事業会社でのＡＩの活用をしております。そして、一年少し前に立ち上がりましたＡＩセーフティ・インスティテュートで初代の所長をさせていただくということで、政府の立場も今持っております。 　また、一市民といたしましては、民間ボランティアでＩＴを用いた防災・減災といった活動もしておりまして、このような多様な立場から、近年急速に発展してきたＡＩに関して、安全性への不安というものも交えながら意見を述べさせていただきたいというふうに考えております。 　本日は、本法案に関して、下記の、今から述べます三つの観点から御意見をさせていただきます。一つ目は、ＡＩの安全性に関することと国際的な動向ですね。二つ目が、国際整合性を踏まえた制度設計の重要性について、そして三つ目は、それを支えるためのＡＩの国としての戦略と人材確保、育成の重要性についてでございます。 　まず、法案への意見に入る前に、日本におけるＡＩ活用の重要性とＡＩの安全性について御説明をさせていただきたいと思いますので、配付資料の三ページ目を御覧ください。 　この日本におけるＡＩの活用といったところで一番重要なものといいますのは、私も民間の立場で経験しておりますけれども、一番はＡＩを用いた効率性の確保ではないかというふうに考えています。日本は人口が減少しておりまして、それに伴う労働力の不足に耐えるためには、仕事の効率化、今日している仕事を今より少ない人数でするということが非常に重要になってまいります。 　しかし、残念なことに日本の労働生産性は世界的に見て高い方ではありません。二〇二三年のデータではございますけれども、先進主要七か国、Ｇ７で最下位、そしてＯＥＣＤの中でも二十三位という、褒められた成績ではございません。また、ＯＥＣＤは二〇二三年に、日本企業のデジタル化、そして自動化投資の遅れを指摘して、ＡＩなど先端技術の積極的活用を通じた生産性向上というのを提言してきております。 　この生産性がなかなか向上しない理由といいますものの一つに、日本の企業文化というのがございます。保守的、前例踏襲的といったことでございますけれども、これが組織間のサイロを生んで、サイロ的断絶を生んでしまいます。この組織間の断絶というところがガバナンスの欠如というものも招いてしまいまして、このガバナンスの低下というのは技術の導入によるリスクを上昇させてしまいます。このＡＩのような新しい技術を導入することを避けるという負のスパイラルに入ってしまっているというのが日本の産業界の現状だというふうに思っております。 　これを打破するためには、書かせていただいた二つの施策というのが重要になってくると思います。一つとしては、国としてのＡＩ戦略を明確化すること、そして二つ目としては、安全に関する情報の提供でございます。 　やはりＡＩというものというのがなかなか、ＩＴをなりわいとしていない企業に関しましてはえたいの知れないもの、不安なものということなんですけれども、これを国あるいは自治体が率先して利用していくことでＡＩの活用による効果というものを見せていく、そして、ＡＩのイノベーション、国内のイノベーションにつなげていくためには、骨太のＡＩ戦略というものを継続的に打ち出し続けていくという必要がございます。毎年毎年ＡＩを取り巻く状況は変化しておりますので、こちらの継続的に見直していくということが必要です。 　この本法案の第十九条において、内閣に人工知能戦略本部を置き、そしてそのＡＩの活用推進に関する施策というのを統合的に見ていらっしゃるという条文があり、この内閣に設置される人工知能戦略本部に期待したいところでございます。 　また、ＡＩの安全性に対する情報の提供です。やはり、ＡＩに対する安全性に関する不安というものが、このＡＩを活用していくことの障害になっているというふうに考えられます。そのためにも、この本法案の第三条の四に記載されております、人工知能関連技術の研究開発及び活用の過程の透明性の確保その他の必要な施策を講じるといったところに宣言されたもの、これを実行していくということは重要でございます。 　私が所長をしておりますＡＩセーフティ・インスティテュートはこの部分にしっかり貢献をしていくというところでございますけれども、やはりこの透明性の担保あるいは安全性の技術的なところというのは、非常に技術力も、それから調査能力も必要でございます。こちらを私どものＡＩセーフティ・インスティテュートで内閣設置の戦略本部の下進めていくということが重要と考えております。 　また、ＡＩというもの、国境ございませんので、国境を越えた利用というものが非常によく行われます。そのため、国境を越えた企業活動のための国際整合性、非常に重要になってまいります。また、その最先端の技術を理解し続ける、そして戦略を打ち続けるというための人材の確保というもの、重要になってきますので、この二点については後ほど少し御説明いたします。 　資料の四ページ目に移らせていただきます。少し時間を取りまして、ＡＩセーフティ・インスティテュートの話をお話しさせてください。 　二〇二三年、生成ＡＩ元年と呼ばれていますけれども、チャットＧＰＴに代表される生成ＡＩが一気に広まった年に、ＡＩのイノベーションとともに、ＡＩのリスクに関する懸念というものも非常に多く取り沙汰されることがありました。その年に広島で行われたＧ７で、広島ＡＩプロセスの議論でＡＩの安全性についての議論、そしてその年の十一月に英国で開催されたＡＩセーフティーサミットの議論を経て、世界でのＡＩの安全性に対する認識が高まり、世界各国でＡＩセーフティーに関する組織というのが設立されております。 　日本でも、ＡＩセーフティ・インスティテュートが、ＵＫ、ＵＳに次いで三番目という早さで設立をいたしました。これは本当に政治の御判断、そして省庁の実行のスピードの速いというところで、私、所長をしておりますけれども、称賛に値するものではないかなというふうに考えてございます。 　また、この世界で立ち上がっているＡＩセーフティーの組織をつなぐために、ＵＳの掛け声でＡＩＳＩ国際ネットワークが設立され、日本も積極的に参画をしてございます。 　次のページ、五ページ目に、ＡＩセーフティ・インスティテュート、これ、ＡＩＳＩとお呼びするんですけれども、この役割とスコープをまとめさせていただきました。 　私どもの役割というものは、ＡＩの安全、安心な活用が促進されるようこの官民の取組を支援すること、技術的な支援をすることというのが私たちの役割でございます。役割としては、まず、政府への支援、そして、技術的な文書などの集約といったＡＩセーフティーに関する情報のハブになること、そして三つ目に、関連の研究機関、国研でも多くのＡＩに関する研究をされていますので、そちらの関連機関との連携というものがございます。 　一番大事なのは、このＡＩセーフティーで安全性のことだけを考えるのではなくて、私たちの最終的な目標は、安全性を通してＡＩのイノベーションを加速することにあります。安全性を担保できても、このイノベーションが加速しなければ意味がないわけです。なので、このＡＩセーフティ・インスティテュートの立場といたしましては、安全とそしてイノベーションのバランスを取った施策というものをしっかりと進めていこうとしています。 　そして、そのためには、国内そして国際的な関係機関との連携というのも非常に重要になってまいります。国際のことに関しまして次のページ、六ページ目を御参照いただければと思います。 　各国で様々なガイドライン出てございます。皆様御存じのように、日本では、世界に先んじてＡＩ事業者ガイドラインというものをガイドラインとして省庁から発出しております。アメリカも、米国ＮＩＳＴの下でＡＩリスクマネジメントフレームワークというものが出されております。 　これ、各国のレギュレーションというものが、例えば日本企業が海外で活動するときに非常に重要になってきますけれども、日本とほかの国のものを一対一で比較するというのは非常に時間的にも効率的ではございませんので、まず私どもは、そのアメリカのリスクマネジメントフレームワークと日本のＡＩ事業者ガイドラインの比較をいたしまして、それをリファレンスといたしまして世界各国の比較を可能としております。 　また、このガイドラインをこの活動、このクロスウォークの活動を通しまして世界的に通用する各種ガイドラインを作成するということを継続して行っております。昨年度は、ＡＩセーフティーに関する評価観点ガイドであったりレッドチーミング手法というものを日本語のみならず英語でも発出しております。 　また、こういったレギュレーションあるいはガイドラインといったものは、国際的に合意形成の下進んでいくということが大事です。こういうことにしっかり日本として参画をしていくことで、例えば日本にとって不利になるようなレギュレーションを作られないように、あるいは、日本が忘れている、抜け漏れのあるようなガイドラインというものはないかということをチェックしながら進んでいくということで、こちら一例書かせていただきましたけれども、先ほど挙げさせていただいたＡＩＳＩ国際ネットワーク会合を中心とした国際的な連携というものも進めさせていただいているのがＡＩＳＩの活動でございます。 　ＡＩＳＩの御紹介させていただきましたけれども、私どものＡＩセーフティ・インスティテュートは立法機関ではございません。立法をなさる政府の方たちに技術的にサポートをしていくという組織になります。また、研究機関でもございませんけれども、国研を中心としたアカデミックの活動をしていらっしゃる方としっかりと連携をすることで、世界的に技術の先端というものを集約し、しっかりと国際貢献というものをしていくというところが重要だというふうに考えております。 　最後のページでございます。七ページ目を御覧いただければと思います。 　今お話しさせていただいたんですけれども、ＡＩの安全性とイノベーションの推進というところは、しっかりとした国としてのＡＩ戦略というものが重要になります。そして、それを継続的に、設立、実施していくためにはやはり人材ということで、最後のページは人材について書かせていただきました。 　このＡＩのリスクを防御するためには、やはり最先端のＡＩというのがどういうものなのかということをしっかりと理解して、自分自身で開発をできるようなＡＩ人材というものが日本の中で必要になってまいります。 　ところが、そのＡＩ人材って今まだまだ日本では足りないということで、育成をしていかなければならないということなんですけれども、やはり、今ＡＩ立国と呼ばれているそういう国は、この母集団が多いんですね。もうとにかく人口が多くて、その中からエリートが出てくると。 　今、日本の人口は減少傾向にありまして、今すぐに人口を増やす、母数を増やすというのは難しいことではありますけれども、私が考えるには、一つの方法として、今ＡＩに関連している技術者というのがほとんど男性であるという観点に注目をいたしました。 　私も、三十年前に大学にいるときには、残念ながら理系の大学というのは女性五％程度でございましたけれども、今現時点でも、ＡＩに関する学部、学科というのは一〇％程度という、まだ余り改善している状況とは言えません。もしこれが男性を減らすことなく女性の希望者というのを増やすと母集団を増やすことができるんじゃないかと、そういったその一つの方法がございます。 　それをすると、実は、女性という多面的なところが入ってきますと、この多様性、ダイバーシティーというのも確保されまして、公平性そしてインクルージョンということで、多面的に実はＡＩの安全性というのを見ることができるというふうに考えています。ＡＩの危険、リスクというものは非常に多面的なものです。これが危険だったものというのが、ほかの国に行ってしまえば余り危険とみなされないものも多くあります。そういったものをいち早く多面的なもので獲得していくためにも、人材の多様性と、そして持続的な育成というものが重要になってくると思います。 　もう一つは、やはり高度な専門家やエンジニアの確保という文脈に加えて、国民が広く人工知能関連技術の利活用に興味を持ってもらうということも重要だと思っています。この利活用とリスク対策の双方に興味を持って、そして関心を深めていくような、そういう施策という面でもＡＩ戦略のところで期待をしております。 　今述べたような人材の確保にとっては本法案の十四条、そして、教育の振興等には十五条に記載されていますので、この辺りをしっかりと推進していただくというふうに期待をしております。 　最後になりますけれども、ＡＩの安全性というものは、このＡＩのイノベーションのブレーキではございません。これは、皆さんがイノベーションをする、あるいは効率的に仕事をするためのアクセルを踏むためのガードレールというふうに考えています。このしっかりとしたイノベーションと安全性のバランスの取れたＡＩ戦略というものを本法案で実現していっていただければというふうに期待をしております。 　私からは以上でございます。

○委員長（和田政宗君）　ありがとうございました。 　次に、永沼参考人にお願いをいたします。永沼参考人。

○参考人（永沼美保君）　ありがとうございます。 　経団連のデジタルエコノミー推進委員会で国際戦略ワーキンググループというのがございまして、そちらの主査を務めております永沼でございます。本日はよろしくお願いいたします。 　経団連として本日意見を述べさせていただきますが、同時に、私は、日本企業である日本電気株式会社においてＣＤＯ　Ｏｆｆｉｃｅというものが今年から新設されておりまして、このＣＤＯはチーフ・デジタル・オフィサーでございます、このデジタルに関する内容に関して、弊社のＣＤＯ、これは当然、役員級の、副社長級の者が入っているところで、やはりこれから議題になってまいりますこのＡＩに関しまして、特に私の場合はガバナンスというところに関しまして、今プロフェッショナルという立場で推進をしているところでございます。 　まずは、最初に、今回のＡＩの法案を取りまとめられました行政府の皆様並びに国会の審議に関わる立法府の皆様の御尽力に心より敬意を表します。また、本日はこのような機会をいただきまして深く感謝をしております。 　経団連では、このＡＩの制度及びそれからＡＩの法案に関する議論に関しては深く参画をさせていただいておりまして、特に経済界からの意見を入力をさせていただいております。その観点からも、本日、私どもの考えを述べさせていただきたいと思いますが、皆様のお手元に一枚、こちらの、本日、これから私の方で申し上げる三つの点がまとまっております。本日は、この三つの、我々の経団連としての基本的な考え方、それからＡＩの法案に対する考え方、それから、あと最後に、お願いというか、今後の制度の運用に当たってのお願いですね、要望といったようなところを中心にお話をさせていただきます。 　まず、経団連の基本的な考え方でございますが、まず、経団連では、この持続的な社会ということの実現に向けてソサエティー五・〇フォーＳＤＧｓというものが掲げられております。こちらでは、ＡＩを始めとする先端技術の積極的な活用、あとはデータの連携ですとか、それから利活用というところを積極的に推し進めるというところが基本的な考え方でございます。 　こうした認識の下に、まず人間中心のＡＩというこの理念を明確にした上で、ＡＩがもたらす生産性の向上ですとか、またイノベーションの創出といったような、こういったプラスの面、恩恵につきましては、あらゆる主体が享受をできるべきであるというこのＡＩパワードな社会の実現というものを目指しております。 　こちらについては、二〇二三年の十一月、二年前になりますけれども、一年半前ですね、二〇二三年の十一月に、ＡＩ活用戦略のセカンド、二番目というところでの提言を公表をしております。 　ここで申し上げているのは、産業の競争力の向上というところは当然なんですけれども、やはり健全な競争環境を確保するという観点が必要であって、その観点から、我が国におけるこのＡＩの開発能力の強化というところも提言をさせていただいております。 　これらの提言の取りまとめに当たりましては、ＡＩの開発、それから利用、済みません、開発、提供、利用というこの三つの主な各フェーズに携わる様々な企業の方、あるいは有識者の方々から御意見を伺っております。ここでは、世に言う大企業と言われるところのみではなくて、ＡＩに関してはやはり多様な事業者が関わっておりますので、中小企業ですとか、特にＡＩのスタートアップといったような方々からの御意見の方も取り入れさせていただいております。特に、この提言においては、先ほど申し上げましたが、ＡＩの利活用を後押しする環境の整備ということと、リスクに対する適切な対応を両立していくということが重要であるということを強く提言をさせていただいております。 　こちらが経団連としての基本的な考え方なんですけれども、これを基に、今回のＡＩの法案につきまして、私どもの考え方を述べさせていただきます。 　まず、こちらのＡＩの法案でございますが、経団連のこの基本的な考え方とまずおおむね方向性が一致をするものであるというふうに認識をしております。我々としては、これから申し上げる四つの点につきましては特に評価をしておるところでございます。 　まず一つ目でございますが、基本理念として、イノベーションの促進とリスク対応の両立ということが明確に打ち出されているという点がございます。これちょうど、私が先ほど我々のこの基本的な考え方として提言をさせていただいた内容とほぼ一致している内容でございますので、やはり経済界としてはこの両立の部分というところがキーポイントだと考えております。 　それから二つ目でございますが、今回の司令塔機能が明示をされたというところで、内閣総理大臣を本部長とするＡＩ戦略本部、こちらの設置によりまして、関係府、また省庁間の連携というところ、それから司令塔機能の強化というところが図られるということで、日本でもこういった機能がきちんと機能をするというところが明示化されていると。この点につきましては評価をしております。 　また、次、三番目なんですけれども、先ほど村上様のところからもあったんですが、やはり経済界として一つ大きなポイントになるのが、国際的なこの整合性というところがございます。国際的な規範との整合性ですとか、あと、日本は今中心にやっていますが、データの越境流通、これよくＤＦＦＴ、信頼性のある自由なデータ流通というような議論が今行われておりますけれども、そういったようなものにも配慮をして、データの流通部分ですね、越境を含んだ流通部分といったところにも配慮がされていて、日本企業のグローバル展開を後押しする内容であるというところを私どもとしては非常にポイントであると考えております。 　また、最後になりますが、四つ目のポイントとしましては、事業者の協力が、これが我々一番関わりますけれども、我々のこの協力というところが努力義務として整理をされたというところと、それによって、我々のこの民間による自主性の尊重をしつつ、過度な規制とならないというところの配慮がされていると。ここ、先ほど一番目に申しましたイノベーションの促進とリスク対応の両立というところにも関わってまいりますが、この四つの点につきまして大変高く評価をさせていただいております。 　これらはいずれも先ほど申し上げましたＡＩパワードな社会というものの実現に向けた重要な一歩であると捉えておりまして、私ども経団連として本法案を支持しております。 　次に、四つ目の観点でございますが、制度運用というところのお願いの部分になります。 　これ、今申し上げたことの一方で、今後、法律に基づくその政策の運用ですとか、具体的な施策のこの設計というものが行われてまいります。この際も、これから申し上げる四つの点を是非御考慮いただいて、重視をいただくというところが私どもからのお願いとなってまいります。 　まず一つ目は、何度も申し上げておりますが、恐縮でございますが、イノベーションとリスク対応のバランス、ここについては是非柔軟な設計をお願いをしたいと思っております。 　この観点は、やはり日本のＡＩ産業の振興並びに国際競争力と、この部分の強化という観点は、これはもう不可欠なものでございまして、やはりそのときには、国内技術の開発、それからその育成というものが不可欠でございます。海外の技術への過度な依存と、現実的なところもありますけれども、過度な依存ということを減らすということについては、やはり今後、経済安全保障の観点からも、私どもにとっても非常に重要であると捉えております。 　その上で、開発者、提供者、この開発をするものを提供をする方々のこの責任分担の明確化というところが必要かなと。かつ、ＡＩの製品ですとか安全対策といったところに関しては、認証制度等がこれから出てきてまいります。我々はそれを活用して、組織的なガバナンスの強化をやはり行っていくということが必要になりますので、こういった部分でのガバナンスの強化。また、先ほどからもお話出ておりますけれども、高度なＡＩリテラシーを備えた人材の育成といった取組をバランスよく着実に推進をいただきたいと思います。 　特に人材については、先ほど村上様からも細かくあったところでございますが、やはり今の時代に沿った形の多様性も含めたところでの専門家というところの育成が必要になってくると考えております。 　それから、二番目でございます。柔軟で実効性のある制度設計というところでございます。 　これは、経済界なので、やはりここの部分のところは経団連のメンバーも非常に気にしておりまして、やはり技術の進歩はＡＩにつきましては相当速いと、それから、それに伴ってビジネスの環境も変化をするというところがございます。そちらに対応するべく、経済界の意見を政策に反映する仕組みというところについては、引き続き整備をお願いをしたいというふうに考えております。 　また、政府が全体のゴールを示して、具体的なところは我々の方に、民間側の方に委ねると。これはゴールベースアプローチというふうに呼んでおりますが、こういった民間側の方の柔軟な動きというものを後押ししていただく、そういったアプローチを期待をしております。 　それから、三つ目でございます。ここは我々非常に重要でございまして、国際的整合性の確保でございます。 　グローバルでは、今欧米もそうですし、それ以外の国々、途上国も含めてなんですが、多くの場でＡＩの議論がなされております。国際機関も、影響力のある国際機関でも、いろんなフレームワークですとかいろいろなことが議論をされている中で、これらの動向を踏まえて、国際的な相互運用を確保していただくと。 　そのために、広島ＡＩプロセスと、広島ＡＩプロセスについては報告の枠組みがありまして、これは特に日本がリードをしてつくったものでありますし、今国際的にも認知をされていると。こういったような枠組みですとか、あとは国際の標準化といったようなところを推進するとともに、ＡＩ関連の国際ルール形成に当たっての日本のプレゼンスというものを確保いただきたいというふうに考えております。 　この部分はルール形成というところでございまして、今後の我々の社会のところに大きく響いてまいりますので、是非この点については官民の連携を強化をいただきたいというふうに考えております。 　そして最後、四つ目でございますが、政府調達の先導的な役割という観点でございます。 　政府自らがＡＩを積極的に調達し利活用するという、そういう姿勢を示していただくということは、民間の活用の促進ですとか市場の形成に大きく影響を与えてまいります。 　その際のこの調達の透明性の確保というところが一つポイントではあるんですが、できればこの透明性の確保をした上で、やはり先ほど申し上げたように、日本は多様な民間の事業者がおりますので、スタートアップを含めて多様なこの我々の事業者に公正な機会を与えていただくというところがやはりこれから我々が非常に期待をしていくところでございます。 　こちらにつきましては、経団連の中で実はアンケートを取ったりしまして、我々の意見の集約をしております。詳細につきましては、皆様のお手元のこの参考人関係資料の中に入っておりますので、是非御覧いただきまして、こちらの四点の観点からの、この今後の日本における制度の運用の設計をお願いしたいと思っております。 　最後になりますが、いろいろと申し上げましたが、改めまして、本法案の審議に当たりまして、経済界の考え方を述べる機会を頂戴し、感謝をしております。今後の施策のところの具体化に当たりましても、引き続き、実務を担っていく我々企業側の声をお酌み取りいただけますと大変幸いに存じます。 　また、経団連としましても、ＡＩパワードな社会の実現に向けて、官民で緊密に連携をして取り組んでいくという決意を持ってまいります。先生方の御理解を賜りたく、どうぞよろしくお願いを申し上げます。 　私からは以上です。ありがとうございました。

○委員長（和田政宗君）　ありがとうございました。 　次に、大屋参考人にお願いいたします。大屋参考人。

○参考人（大屋雄裕君）　慶應義塾大学の大屋と申します。本日はこのような機会を与えていただきまして、誠にありがとうございます。 　以下、審議の対象となっている人工知能関連技術の研究開発及び活用の推進に関する法律案に対する若干の意見を述べさせていただきます。 　まず初めに、私自身について若干の御説明をすることをお許しください。御紹介いただいたとおり、私は法学部法律学科に所属する教員ですが、実定法学を専門にしている者ではなく、基礎法学に属する法哲学という分野を専攻しております。これは、憲法や民法といった特定の実定法を前提にして、その解釈について議論するのではなく、そもそも法とは何か、何であるべきか、あるいは法解釈に客観的な正解はあるかといったような法全体に対する哲学的な分析を主な任務とする学問分野であります。私自身は、その中でも、情報社会論と申しますか、コンピューターやインターネット技術の発展が法や政治のシステムにどのような影響をもたらすかという問題について、ここ三十年ほど研究を続けてまいりました。 　そして、御承知のとおり、ここ十年ほど、このような議論における重要な新要素となってきたのが人工知能、ＡＩでありまして、私もＡＩの倫理やガバナンスについてこの間多くの論文を書いてまいりましたし、総務省におけるＡＩ開発ガイドライン、ＡＩ利活用ガイドラインや、統合イノベーション戦略推進会議に決定していただきました、人間中心のＡＩ社会原則の策定を目指した議論に参画してまいりました。ただ、令和五年に設置されましたＡＩ戦略会議及びその下部組織の議論には加わっておりませんので、今回の法案には独立の立場で意見を申し上げるということになろうかと存じます。 　そこで、今回の法案に対する評価を一言で申し上げるならば、時宜を得た適切なものであるというふうに私自身は考えております。 　御承知のとおり、近事、急速な発展を遂げているＡＩ技術については、それを適切に利活用した場合には非常に大きなメリットが得られるであろう、あるいは社会全体の効率化に著しい貢献をなし得るであろうということが確実視されており、法案の第三条第二項でもそのように位置付けられております。その一方、それが悪用された場合、あるいはその利活用に当たってプライバシー等の重要な価値が侵害された場合には非常に大きな問題が発生するであろうということも予測されており、これについても第三条第四項で明言されております。 　そこで、この技術をどのようにガバナンスしていくか、副作用を防ぎながら、そのメリットを享受できるように技術発展をコントロールするためにはどのように考えるべきかということが議論の対象になってまいりました。その際、日米欧という範囲においてもその考え方に大きな差があるという点が明らかになってきているわけであります。 　御承知のとおり、欧州連合、ＥＵにおきましては、二〇二四年にＡＩ法と通称される法律が成立しており、順次施行が進められている状況にあります。その特徴は、第一に、官、民といったセクターを分けることなく、また、医療、金融、教育、雇用など様々なセグメントごとに規制を分けることもせず、全てを一本の法律で規制するというオムニバス方式を採用したこと、第二に、様々なＡＩ技術の利活用目的について、その内在的なリスクに応じて四段階にクラス分けし、最高レベルのものについては明確に禁止ＡＩとして位置付けたほか、それ以下についても危険性に応じた安全確保措置を講じるべきことを定めた点にあります。したがって、一定の要件を定めてガバナンス措置を強制し、違反に対しては制裁を科すというハードローアプローチが明確に選択されたということになろうかと存じます。 　これに対してアメリカでは、バイデン政権下において、二〇二三年十月に、ＡＩの安全、安心で信頼に値する開発、利用に関する大統領令が出され、アルゴリズムに由来する差別を防ぐための支援プログラムやガイダンス、消費者、患者、学生の権利を保護し、労働者を支援することなどを目標とする政策実現が、主として行政府内を対象に命じられました。 　また、生成ＡＩを開発している企業の経営者等が集められ、一定のガバナンスへの努力を自主的に行うことへのコミットメントを取り付けるといったような形での緩やかな規制が施行されていたと考えることができます。ところが、第二次トランプ政権の発足に伴い、この大統領令は即日撤回されております。 　今後、トランプ政権がどのような方向性でＡＩ技術のガバナンスを行おうとするかは全く見通せない状況でありますが、この五月九日に連邦著作権局が著作権とＡＩに関する報告書の第三部、生成ＡＩのトレーニングの草稿を公表したところ、その直後に同組織のトップである著作権登録官シラ・パールマター氏が解雇されるという経緯がございました。 　この二つの出来事の関連性についての正式な情報は何もありません。しかし、同報告書案が、単なる分析や研究ではなく、市場で競合するコンテンツを生成するために既存の著作物を学習に用いること、特に違法なアクセスを通じて入手したコンテンツを用いることは著作権の例外として許容されるフェアユースの限界を超えると指摘し、ＡＩ学習に対し否定的な方向性を示したとされていることからは一定の示唆が得られる可能性があります。 　さて、これらに対し我が国はこれまでどのようなガバナンス方法を模索してきたかというと、これはマルチステークホルダープロセスという言葉でしばしば表現されております。 　すなわち、ＡＩ技術の研究者や開発者、あるいはそれを利活用する企業を一方に、インターネット利用者の団体や技術発展の影響を受けるであろう消費者、高齢者などの団体をもう一方に、そして、私を含めた法律学、経済学等の有識者を更に加えまして、これらの関係者が一堂に会したところで議論を行い、一定のコンセンサスを得た上で、それを基にガイドラインとして内容を取りまとめていくというソフトローアプローチであります。 　さきに言及した様々なガイドラインも、このような関係者間での広範な議論に基づくコンセンサスを通じて形成されてきたものであり、あらかじめ議論に参加していることから得られる結論への納得感といったものを一つの契機として、関係者の自主的、自発的な遵守の尊重にまずは期待するという方向性であります。 　その背景としては、大きく二点ほど指摘しておくことができようかと思います。 　第一は、やや悲観的な話ですが、ＡＩの開発も含めて巨大ＩＴ企業の多くはアメリカにその本拠を置いているグローバル企業であり、それに対して我が国が単に法的な強制力のみを根拠として一定の規制に従わせることが本当に可能かという問題。 　彼らにしてみれば、技術開発やサービス提供の拠点を日本から撤退させるとか、あるいは、過去にオーストラリアやカナダでいわゆるニュース税の導入、すなわち、これらのＩＴ企業が既存マスメディアの報道を利用して独自のニュースサービスを利用者に対して提供した際に一定の使用料をメディアに対して支払うことを義務付けるという制度を構築しようとした際、グーグルやフェイスブックが当該国家の領域におけるニュースサービスの提供を打ち切るという事態が発生したように、日本でのサービス提供も打ち切ってしまうということが常に選択肢として存在しております。 　我が国の企業活動、市民生活共に、あるいは政府を含めた公共セクターの活動も含めて、これらの巨大ＩＴ企業が提供するサービスに依存している状況でそのような危険を冒すことは賢明か、むしろ、彼らも含めた当事者が納得し、遵守できる規制の在り方について共に模索することの方が賢明なのではないかというのが第一点であります。 　第二は、別の方向で悲観的な話ですが、そもそもＡＩ技術の現状を正確に理解し、その将来的な発展の方向性を予測し、それらを踏まえて適切な規制をデザインすることなど本当に可能かという問題であります。 　その際に重要なのは、ＡＩ技術はなお全体として萌芽的な段階にあり、急速に変化しつつ、状態であるということ、また、従来の巨大科学技術のように、専門的な知識、経験が被規制側に偏って存在しているというのも事実ではありますが、それ以上に、開発や利活用を行っている企業などの当事者自身にもその将来については予測し難い状況にあるということであります。 　前述したＥＵのＡＩ法の原案が欧州委員会から公表されたのは二〇二一年四月ですが、その後、成立に至るまでに相当の期間を要しております。これは、その間にステーブルディフュージョンやチャットＧＰＴといった生成系ＡＩ技術が急速な発展と普及を遂げたところ、これが規制のスコープに入っていなかったために大規模な修正が必要になったからと報道されております。 　ハードローによる規制においては、その対象となる技術それ自体や利活用方法について明確な要件として規定することが必要となるところ、例えば二〇二二年末からの二年強で生成系ＡＩはこれだけ急速に進歩し、企業の現場などにおいて利用されるようになると予想していた人は、ＡＩの専門家も含めていなかったのではないかと思います。 　この専門家を含めてという点が重要であって、従来想定していたような巨大科学技術、典型的には、原子力発電のようなものであれば、高度の能力を持った専門家が電力会社やその研究所には多数存在し、何をすればどうなるかということは理解できていたわけです。その割にあのていたらくかという御批判は当然あり得ようかと思いますが、一応はそういうことであります。 　それに対し、規制側の官庁において同等の能力を備えることは、研究者にとってのインセンティブという面からも処遇の面からも難しく、その状況で政府の側が適切な規制をデザインすることは可能かということが問題として意識されてまいりました。 　ところが、ＡＩについては、もちろん実際に開発などを行っている企業側には規制者である政府より豊富な知識と経験が備わっているものの、彼ら自身も技術発展の方向性やスピードを予測できていないというのが実態だと思われます。このような状況において適切なハードロー規制を考えることは輪を掛けて困難だというのが私見であります。 　そこで、今回の法案ですが、これは、一言で言えば、このソフトローアプローチを継続するということをハードローとして規定したということになります。 　既に御覧いただいているとおり、この法案は、第三条において目指すべき方向性を基本理念として示した上、国、地方自治体、研究開発機関、活用事業者、そして国民について、それぞれの立場から基本理念の実現に向けて努力し、貢献し、相互に協力していこうということを第四条から第九条にかけて規定し、その後、第十一条から第十七条までに取るべき施策の方向性を列挙した上で、必要な施策を講じるべきことを定めるというプログラム規定を置くものです。言い換えれば、新たに事業者や国民に法的な義務を課すものではなく、何かを禁止することもなく、これまでも関係者間で合意形成してきた方向性でそれぞれが自主的、自発的に努力しようと呼びかけるもので、具体的に講じるべき措置や避けるべき対応については引き続きガイドラインにより示していくということになろうかと思います。 　あえて言えば、人工知能戦略本部を設置し、人工知能基本計画を定めるということを明言した点と、第十六条ですが、国民の権利利益の侵害が生じた事案について政府が分析や対策の検討を行い、その結果に基づいて指導、助言、情報提供を行うべきことを定めている点が新たな対応と位置付けられるかと思いますが、この調査権限についても、民間事業者に対しては協力を求め得ることが第二十五条第二項において定められているにとどまります。これまでと同様、必要な場合には関係者のコンセンサスに基づく対応を行うという方向性であり、ＥＵのように特定の正しいガバナンス手法を強制するわけでもなく、アメリカのように自由放任主義を取るわけでもないという意味では、その中間に自らを位置付けたものと言えようかと思います。 　現在、様々な事情によりＥＵとアメリカの政策的志向が大きく分裂しつつあるという状況がありますが、ＡＩのガバナンスを適切かつ有効に行うためには、日米欧の間で相互に協力し、互いの施策の相互運用性を確保していくことが必要不可欠であると私自身も考えておりますし、そのような考え方に基づいて、二〇二三年広島サミットを契機として広島ＡＩプロセスの取組が進められているものと認識しております。そのような国際的ハーモナイゼーションに積極的に貢献することを目指す我が国として、極端な立場を取らず、関係者の合意と自主的な協力を呼びかけることには十分な正当性があると考えるところです。 　あるいは、今後、ＡＩ技術の発展がある程度安定し、どのような分野においてどのような利活用をどの程度規制すべきかということについて、関係者の一致した見通しが成り立つという事態が到来するかもしれません。あるいは、ＥＵのＡＩ法における禁止ＡＩの類型をその一例と考えることもできるかもしれませんが、その段階に至った場合には、より積極的かつ明確なハードローによる規制を考慮すべきであるとは考えております。しかし、それは現在の話ではなく、現時点において我が国が採用すべき枠組みとしては妥当な内容がこの法案には示されていると考えます。 　以上から、本法案については適切なものと考えているという結論を再度述べさせていただきまして、私の発言を終わらせていただきたいと思います。 　ありがとうございました。

○委員長（和田政宗君）　ありがとうございました。 　次に、市川参考人にお願いいたします。市川参考人。

○参考人（市川類君）　御紹介ありがとうございます。一橋大学、東京科学大学で特任教授をしております市川と申します。 　まず、参考人としてお招きいただきまして非常に光栄に存じます。 　私は元々は、長らく霞が関で役人をやっておりまして、役所の中でもずっと長らく技術とかイノベーション政策に取り組んでおりました。その中では、デジタルとかＡＩ技術もその際にもやっておりました。その関心が高じて、今では大学でイノベーションとかＡＩ政策に係る教育研究に取り組んでいると、こういう立場でおります。 　私のそのイノベーション政策の関心といいますと、どういった研究開発をやるかというよりは、むしろ、社会とイノベーションがどういう関係にあるのかと、こういう関心がありまして、一つは、もちろんどういった社会であればイノベーションが進むんだろうと、こういう話もあるんですけれども、もう一つは、技術、イノベーションがどんどん進んでいく、そうするといろんな制度ができてくるよねと、それがどういうふうなメカニズムで動くのかという、こういう関心を持っておりまして、特にＡＩ政策は、リスクのガバナンスも含めてそういったところが動いているものですから、かれこれこの十年くらいずっと世界のＡＩガバナンス政策の動向を見て、世界各国がどういうメカニズムでこういうことが議論され、動いているのか、その中から学び取れることは何かと、こういうことをやっておりました。 　今回、本法案に関しましては、先ほど大屋参考人と同じく、私自身は政策立案とか戦略会議とかには全く参加しておりませんので、元役人であるということも含めて、忖度するつもりは全くないのですけれども、原則としては評価、現時点のものとしては評価できるものではないかなという観点から、まず、特に論点になるような三つのポイントと、あと今後取り組むべき課題として、たくさんやることはあると思うんですけど、余り議論されていなさそうだなという点を三点ほど意見を述べさせていただければなというふうに思っています。 　まず、これはもう皆さん、各参考人の方々がおっしゃっておりますけれども、今回、ＡＩ戦略本部をつくるということになっておりまして、これ自身については、やはり昨今のＡＩ技術の重要性の増大、それからそれの社会的なインパクトの大きさを踏まえると、非常に適切なものなのではないかなと思います。 　ＡＩ政策全体で申し上げますと、実はこの数か月くらいで世界が大きく変わっております。チャットＧＰＴが出た後、二〇二三年、二四年は、何かすごい技術が出てきたよね、そのためにこれちょっと規制しないと危ないんじゃないかというのが特に欧米を中心に動いていましたが、二五年になってから大きく方向が変わっています。 　それは、もちろんトランプ政権になって方向転換されたのももちろんなんですが、欧州も、今や英国も含めて、世界各国、ＡＩ技術を使って自国の産業競争力を強化しようという方向に全て動いてしまっています。もちろん、ＡＩガバナンスは引き続き重要なんですが、こういったすごい技術の政策の流れの中、かつ、もう言うまでもなく、世界各国、主要国は今イノベーション政策の最重要政策としてＡＩ政策を打ってきております。アメリカももう一丁目一番地になっています。という流れの中で、日本がどうするかということになっております。 　日本の政策体制につきましては、チャットＧＰＴが出てきた二三年以降、ＡＩ戦略会議も含めて、体制は整ってきているとは思うんですけれども、過去から踏まえると、実は日本でＡＩ戦略を作ったというのが二〇一七年のＡＩ技術戦略なんですが、これは非常に世界的にも早い戦略を作っているんですが、その後、体制が変わり、また一から作って、ＡＩ戦略二〇一九を作り、また審議会の体制を変え直して二〇二二を作った。それぞれは非常にいいんですけれど、事務局の体制も含めて非常に不確実なところで動いてきたかなというところの反省が個人的には外から見ていて思います。そういった中で、今回法定をして、位置付けをしてきたというところには非常に意義があるんではないかなと思うのが一点目でございます。 　それから二点目でございますけれども、今回法案の中にＡＩガバナンスに係る政策の方針を明記したということは非常に重要だと思います。 　その際、やはりもう当然、ＡＩ技術というのは非常に有用な技術である一方、それがゆえに、すごい強力であるがゆえに、使い方によってはリスクが生じる。リスクというのは、いいことに使ったつもりなんだけど悪影響してしまったという非意図的なリスクと、これは何でも使える技術なんで悪い方に使うという人もいると、この両方のリスクをどう抑えるかというこの二つになってくるわけですけれども、それに対して対応していくということが重要なんですが、やはりＡＩ技術というのは、何でも使えるという技術、汎用技術と言われますけれど、ということと、それからもう一つは、どんどんやっぱり技術が進んでくるので、いろんな使い方が更にどんどん増えてくる、こういう話になってきて、事前のリスクを特定するというのがかなり難しい、絶対ゼロとは言いませんけど、難しいというのがあります。 　例えば、ＡＩが、第三次ＡＩブームが出てきて、ＡＩがすごいぞと、ディープラーニングがすごいぞというのが出てきて、これは面白いと言いつつも、やっぱりＡＩ倫理が重要なんではないかというのが二〇一五、六年くらいからもう議論が起きています。 　で、何かもうありそうだよねと言いながら、例えば、二〇一八年に欧州が一番初めのＡＩリスク、当時、ＡＩ倫理なんですけれども、レポートを出しているんですけど、そのとき書かれているリスクの内容というのが、自動運転のトロッコ問題が問題じゃないかというのが筆頭にあるんですね。今議論されているようなＡＩリスクは当時はやっぱり予想できなかった。その後、中国で社会スコア、社会的スコアみたいなの使ったり、あるいは監視カメラを使って人を追跡したりしているのを見て、欧州では、あんなことに使ったら駄目じゃないかといって法案に記載し、アメリカで黒人を差別しているようなＡＩが出ているといって、それは駄目だといって法案出して、その後、二〇二一年にＡＩ法案ができたと、こういう流れになっています。 　なので、やはりアンテナを高く張って世界各国の事例を見ていくというところは非常に重要なんですけれども、完全に事前から予測できることはない。したがって、やらなきゃいけないのは、できるだけアンテナを高く張ってリスクを見つつもアジャイルに対応していくという政府内体制をつくっていく、これらをちゃんとやっていくということが非常に重要という意味で、今回の法案のところはそこが書かれているという意味でいいかなと思っています。 　それから第三点目でございますが、先ほど大屋参考人からも話ありましたけど、やはり規制をどうするのかというのは非常に大きな世界的な論点になります。 　これは、一つは、ＡＩといったときにかなり文化的な、によって見方が異なるというのを私は見ております。ＡＩって、工学的に考えると、人間が目標なりインプットを入れて、それに対して期待するようなアウトプットで出してきて、場合によってはそれに基づいて行動を行うような機械、システムなんですね。それがもちろん間違った使い方をすると変な結果になるし悪影響を及ぼすというのは先ほど申したとおりですけど、もう一つの見方があって、これは、ＡＩって人工知能だろうと、知能だよねと、人間の知能に匹敵するようなのが今後出てくるんだろうと。そうすると、人間社会を壊してしまうんじゃないかというやはりイメージを持ちます。本当にそうなるかというのはもう専門家たちが山のように議論しているが、答えというのは出ていません。 　だから、やはりそれをすごく気にすると、ＡＩの開発自体をちゃんと規制しないといけない、ＡＩ自体ですね、使い方以前にという話が出てきて、その中でＡＩ、規制をしなきゃいけない、不安があるし、規制をしなきゃできないというのが特に欧米で議論がなされています。 　一方で、内閣府の資料を見ると、日本では、何でしたっけ、社会的にＡＩに対する不安感がある。これは、ちょっと私、どうやって調査をしたかは完全には理解していないですけど、あり得べしだなと思っておりますが、先ほどのようなそのＡＩが何か人類を超えてしまうから怖いというのでは多分ないと思っていて、これは、ＡＩに限らず新興技術が世の中に出てくると、やはり何か怖いよねと思うのは社会としての当然の反応として出てきます。 　特にそれは、若い人は全く気にしないんですね。どんどん技術を入れていこうというところがあるんですけど、ここでダグラス・アダムズの法則と書いていますけど、若い人はどんどん技術を取り入れていくんですけど、やっぱり中高齢者は今までの技術でいいんじゃないかという思いがあるので、そうすると技術に対して否定的になる、したがって社会受容性が落ちるということが言われています。 　当然ながら、日本というのは一九七〇年代くらいは若い人がすごく多かったので、日本って新技術をどんどん取り入れる国として世界的に有名だったわけですね。が、今はもう、これは自慢してもいいのかもしれないですけど、日本は高齢化社会です。だから、その際に、やはり新技術に対して否定的なところが、側面が出てきているだろう、その中でどうしていくのかというのが多分我々に掲げられた課題の一つではないかなというふうに思います。 　そういった中で、いろいろＡＩの規制については、私ここに書きましたように五つくらい、最先端ＡＩ技術をどう規制するのか、あるいはＡＩ一般全体の使い方についてちゃんとガイドラインを作っていくのかという話と、特に重要技術の分野で、ＡＩに置き換えると変なことしてしまったらまずいよねって、この辺りの話、それからあとは、データコンテンツ、著作権とか個人情報保護法とかこういったところが今のままでいいんですかって議論が当然出てくる。刑法に関しても、今まで想定してこなかったような悪用が、使われる、悪用されるんじゃないですか、そうするとどうするんですかというふうなところがある。 　特にこの三、四、五みたいなことは、今後ＡＩ戦略本部でどう議論していくかというところが課題だと思っていますが、特に一みたいなＡＩをどう規制するかというような話は、この三の動きの中で、カリフォルニア州でも提案されたけど否決になり、欧州はもうＡＩ法を作っちゃいました。ただ、今、ＡＩ法を作ったそばからＡＩの手続の、法の手続の簡素化だという形に振れておりまして、かなり時代の流れで法規制という、現時点での法規制というのは難しい状況になっているのかなというのが私の理解です。 　という以上の三点を踏まえて三点ほど、今後の重点課題という形でまとめさせていただきました。もちろん、いろんな施策はこれまでも行われていると思いますが、その中でも余り議論されていないかなという点を挙げたつもりでございます。 　一つは、やはり今回ＡＩ法を出したということは、何で出したかというと、やはり社会的にＡＩという技術が非常に重要になってきている、じゃ、そのときに、政府はどうしているんだという話をちゃんと取り組まないといけない課題なのかなというふうに思っています。 　今回、ＡＩ戦略本部ということができて、これをちゃんと動かすことも重要なんですけど、やはり国家全体としてＡＩをどう位置付けるかというふうな、もう少し俯瞰的な立場からＡＩ以外も含めた戦略をちゃんと進めていく必要があるんだということを思っているのが一点ございますし、あとは、もうこれも、今回ＡＩガバナンスとしていろんな体制、関係省庁間との連携をやっていくということは、これは重要なんですけど、その際にも、もうたくさん言われているので言う必要はないかと思っていますが、アジャイルガバナンスをどうするか、マルチステークホルダープロセスをどうやって実現していくのか、これは当然課題です。 　それに加えて、やはり重要な話としては、政府自らがちゃんとＡＩの利活用を促進していくということの重要性について触れたいと思っております。 　今まで、例えば経産省とかが、民間の研究開発とか、ＤＸ、ＡＩ含むＤＸの推進とか、あるいはガイドラインの策定とか、こういったことをして、民間にやれやれと言っているわけですが、じゃ、振り返ってみて、政府がどれだけやっているのかといったところでいうと、いろんな評価はあるんでしょうし、最近デジタル庁が取り組み始めたというところもありますけれども、政府がまずＡＩ頑張っているのというところが非常に重要なところの論点なのではないかなというふうに思っております。 　本来はやはり、またアメリカとかで見ていくと、もちろんそのアメリカの政策の対象が、やはり政府自らのところが一番やりやすいというのは当然あるんですが、やはり、まずやるのは、政府でＡＩ人材をどんどん活用していって、政府内のＡＩを促進し、調達を通じて民間企業に促進するという、そういった戦略が大きく書かれているわけですね。そういったところが非常に重要かなというふうに思っております。 　あとは、ＡＩの外交体制というのが非常に重要です。 　日本の産業競争力は遅れているといいますけれども、実は、国際外交のところで見ると、広島ＡＩプロセスも含めて、日本って非常によくやっているんではないかなというふうなところが評価をされているんではないかと思います。これをやっていく際には、またやはり役所の体制をちゃんと強化していく必要があるのかなと思います。 　最後、時間もなくなりましたのでまとめたいと思いますけれども、これは皆さんも言っていますように、やはり人材が、ＡＩ戦略って基本的にはもう研究、コンピューター資源を整備し、データを整備し、人材をして、あと、ベンチャーと利活用促進策をつくれば大体仕上がるわけですが、日本に関しては、単にＡＩ人材が全くやはり律速、ＡＩの進め方にあって律速になっているということと、若者人口が減っているという、そういう流れの中で、あとは先ほど言ったように、やはり高齢者にちゃんと理解してもらう、あるいは高齢者も使っていく、かつＡＩを使っていくという世界をつくっていくには、実はＡＩ戦略の今人材戦略というのは、ＡＩ戦略、二〇一九年のとき作ったもので、それが二〇二五年に切れることになっているんですね。そういうことを踏まえますと、やはり新しい戦略本部が人材、広い意味での人材をどうするのかということが重要なんではないかなと思います。 　時間を超過して申し訳ございませんが、以上で終わらせていただきたいと思います。ありがとうございました。

○委員長（和田政宗君）　ありがとうございました。 　以上で参考人の御意見の陳述は終わりました。 　これより参考人に対する質疑を行います。 　なお、質疑及び答弁は着席のままで結構でございます。 　質疑のある方は順次御発言願います。

○山本啓介君　ありがとうございました。 　それぞれの参考人におかれましては、本日の出席はもとより、これまで、お話を伺えば、長年にわたってこの分野で政府又はそれぞれのお立場で大変な御尽力をいただいておることがうかがい知れました。改めて心からの敬意を表したいと思います。 　その上で質問をしていくのは、この法律案の中身について今参考人の方々からお話を伺ったことを質疑していくわけですけれども、非常にちょっと興味の湧く話ばかりだったので、法案を離れて興味本位で聞いてしまわないように何とか戒めていきたいんですが、ただ、時間は限られておりますので、ちょっと大変失礼な物言いですけれども、お尋ねしますが端的にお答えいただきたいというふうに思います。 　まず、市川参考人からお伺いしたいんですけれども、総じて皆さんがおっしゃっていた話というのは、広島プロセスのことも含めて、我が国の政府のこのルールメーキングについては、非常によくできている、取り組んでいる、また今回の法案についても、評価するとか高いということ。しかしながら、今後取り組む内容のポイントというのは、まずは国が動くということ。安全性についても、国が動くことによって、官民の連携によって、国民にそういった部分を知っていただく必要性があると。しかしながら、しかしながら、原則、この分野は日進月歩というよりももっと速いと。だから、今のリスクがずっと置いてきぼりのリスクになることはないという話だったと思うんですけど。 　しかしながら、その中でも、市川参考人のお話であったんですけれども、それでも、そのときはそのときでしっかりと分析をして、リスクと捉まえて、しっかりと立ち止まってやっているんだというお話があったと。今、一番直近のリスクは何なのかということを少し、一言いただければと思います。

○参考人（市川類君）　御質問ありがとうございます。 　直近のリスク、ＡＩに係るリスクという御質問ですが、これはやはり多様なものがあります。 　ＡＩのリスクというときに、私はいつも考えているんですけど、ＡＩを使って、いろんな分野で使われるんですけれども、ＡＩだけのリスクではなかったりするかなというふうに思っています。 　その前提でお話をすると、世界的には、今、先ほど言った①のところですね、先端的なＡＩというのが今後、将来怖いんじゃないか、そのために規制をしなきゃいけないというのがやはり世界的には大きな課題です。 　一方で、現実でも、今後、怖いというよりもリスクが生じているという点でいうと、日本でいうとやはり偽情報、誤情報みたいな問題、これはＡＩだけというよりも、ＡＩを使ったものがデジタルプラットフォームで共有されて問題になるという、そういったところの使い方の全体の流れの中でどうするかとか、あとは、その一環でございますけれども、例えばディープフェイクみたいな話とかがやはり世間的には関心のある重要な話かなと思っています。 　ただ、それ以外にも、やはり、例えば重要なインフラとかで使う際にＡＩの信頼性は大丈夫なのかとかいうのは、もう個別の各分野では非常に重要になっている課題かなというふうに思います。 　以上です。

○山本啓介君　ありがとうございます。 　そういったリスクについても、しばらくするともう過去の考え方になってしまう可能性もあるというところも先ほどの説明で十分分かったんですけれども、基本的にやはり人間が開発して考えていくものでありますので、人間が取り得る対応というのは、これを一つの技術として取り続ける以上はさほど大きな脅威にならないのかなと。しかしながら、しかしながら、やはり物理的なものにつながったり、あと、オートマチックに判断を行う、そういったものを作ったならば、恐らく脅威になっていくのかなというふうなことは感じました。 　今回の法律の中身というのは、日本のＡＩ開発、活用がまず遅れているという前提に立った上で、多くの国民がＡＩに対して不安を持っている、そのことについては、先ほど申し上げたとおり、皆さんは、官民の連携の前の、国が動くということでクリアされていくんじゃないかというふうな話をされました。 　次に、大屋参考人にお尋ねしたいんですけれども、欧米の動きですね、日米欧の中で、欧米の動きで、やはり少し強制的な取組になっていったヨーロッパに対して、米というのはやはりビジネスの観点というものが、まあちょっと柔らかにソフトランディングしていこうと。 　日本というのは、そういった事柄も含めて、関わる方々全体がこの議論に参画したことによって、一定柔らかい状況を維持しながら、さっきから言うように、どんどんどんどん更新されていく技術だったり、どんどんどんどん更新されていく想定されるリスクというものにそのときそのときで対応していく、そういった部分で、社会全体が、これは国民性もあるんだと思いますけれども、そういった捉まえ方のルールが今回もできているんだと思う。これが、広島以降の議論の、世界的な議論の中においても日本がリードする一つの余地になっていくのかなというふうに私は感想としては思いました。 　そういう考え方においた場合、今後、その開発研究が発展していく、これをグリップすることは当然やっぱり大事なことだと思うんです。我々はそれを法律で定めようとしているんですけれども、その観点についてもう少し補足で説明をいただきたいと思います。

○参考人（大屋雄裕君）　お答えいたします。 　おっしゃるとおりで、きちんと現状を把握しながら、やるべきものはやっていかなければいけない。しかし、何をやるべきかということを一番よく理解しているのは研究開発の当事者であります。したがって、まずは研究者、開発者自身が、これはやってはいけないということを深く自覚していただくことが非常に重要である。その次は、例えばそれを、利活用企業であれば、企業の経営者層あるいは法務等のガバナンス部局が、やってはいけないことを技術側がやろうとしていたら止めていただくということが必要である。 　これら、現場に近い側からガバナンスを利かせていき、それが全く効果がないとか、あるいは、そもそもそういうことを考えない企業という不届きな存在が出てこないように国の方できちんとグリップする必要があると。逆に言うと、そういうことをきちんとやれる優良企業に対して国が余りその行動を制約すべきではないというふうに考えているので、法律の在り方もそのように設計すべきだというふうに考えているということでございます。 　以上です。

○山本啓介君　ありがとうございます。 　そうする場合、ややもすると少しビジネス先行になっていく、経済的なものがうまくいけば国の発展に資するというところが先行し過ぎると、こういう国民生活や国の安全保障に関係する事柄については少し結果と異なるものになってしまいがちかなと。 　先ほど少しアメリカと日本の状況についてお話しいただいたときに、我が国においてはなかなか、巨大ＩＴ企業というのはほとんどアメリカのもの又は海外のものが多くありますと。それらをビジネスのテーブルで議論すると、撤退されたり打切りをされたりというふうな、アメリカ側の判断というものに委ねなきゃいけないところが、そこを何とか我が国国内のルールを世界的なルールの中に落とし込んでいって世界的な共通の価値観をつくっていくということができれば、そういったアメリカの巨大なＩＴ企業についても国内のこの日本の価値観の中でのルールでできるんじゃないかという説明だと私は、ちょっと乱暴なんですけど、そういう理解をしたんですけど、その辺についてはいかがですか。

○参考人（大屋雄裕君）　お答えいたします。 　まず、そのとおりだと思っております。 　そして、まず巨大ＩＴ企業には、やはり一億二千万人がいる巨大市場としての日本というものに真面目に向き合うインセンティブはあるはずであります。また、我々が彼らのサービスを安心して使えば使うほど彼ら自身がもうかるという、共存共栄の関係が本来はあるはずであります。それを我々も信じているし、だから我々に誠実に向き合っていただきたいというメッセージを発することがまず重要なんだと思っております。 　ただ、安全保障についてはちょっとそのような共存共栄の関係とは違う側面が出てこようかと思いますので、それについては別に考えなければいけないと思っておりますが、私自身は、その点はこの法案のスコープからは若干外れるのかなと思っているということでございます。 　以上です。

○山本啓介君　ありがとうございます。 　そういった取組を世界に発信していくにおいても、今回この法律の中に定められている、内閣総理大臣を本部長として全閣僚を構成員として置いているＡＩ戦略本部の位置付けであるというふうに私も理解しています。 　ただ、安全保障の観点と経済的なビジネスの世界とを、それらをおいても、やはりこのＡＩの技術というのは我々の生活や物事の考え方を大きく変化させる。先ほど少し市川さんのときも話しましたけれども、物理的な行動や自動的な判断をＡＩに委ねなければ、人類に対する影響はさほどないだろうというふうに私は思っているんですけれども、ただ、そのＡＩの判断が世界の常識をつくったときに、我々の持っている価値観だったり歴史観だったり人生観といったものも影響を受けるわけですから、物理的なものがなくてもやっぱり人類は影響を受けてしまうのかなと。 　そういったもので、世界の常識までこのＡＩを引き上げていくことはやはり良くない、こういったところを少しストップしていくこと、これが国内の中において自然に、先ほど参考人がおっしゃった、私は緩やかな状況を維持しながらという表現をしましたけれども、しながら関わりのある人たちに理解を求めていく、納得感をつくっていく、そしてそれを官民の取組を通じて国民全体に、また世界のルールとして位置付けていく、こういう動きというのは可能と思っていらっしゃるわけですよね。

○参考人（大屋雄裕君）　第一に、これまでその努力はしてきましたし、それなりの成果は上がっているというふうに認識しております。第二に、それはできるかできないかというより、やらねばならぬことだというふうに私自身は認識をしておるということでございます。

○山本啓介君　ありがとうございます。 　その上で、やらねばならぬの、まあ経団連の代表でといったらおかしいでしょうけれども、経団連の代表でお見えいただきました永沼参考人にお尋ねしたいんですけれども、健全な競争能力というのは維持しながら、開発、提供、利用というこの三つを今後やっぱり進めていかなきゃいけない。しっかりとした取組があるからこそ、そしてそこに安全保障の観点も入れながら、さらにはしっかりとした人材を確保しているからこそ国際的な信用というのも高まっていくんだと思います。 　国内においてこういった取組が確立していく先に国際社会においてのルールメーキングのリーダーともなり得るんだと思うんですが、先ほどちょっと少し説明の中で触れられましたＤＦＦＴの国際的なこの我が国への信頼、勝ち得ていく、その取組についてもう少し補足して説明をいただけますか。

○参考人（永沼美保君）　ありがとうございます。お答えをいたします。 　今おっしゃったとおりでございまして、やはり民間も我々の、まあガバナンスというところが、今回ＡＩのガバナンスという言葉、いろいろ各所で出てきておりますが、やはり自主的に我々が自分たちを律していく、その中の共通のガイドラインというか、するべき指針といったようなものにやっぱり従っていく、その中で、それに準拠した形で、我々は基本的にルールを社内の中にも、組織の中にもルールを持って運用するというところがまず必要になってくるというのが、最初の前半部分のところに私の方でも賛同する点でございます。 　それからもう一つ、御質問のありましたＤＦＦＴ、この信頼あるデータの自由な流通に関しましては、これは、これから議論がもちろん活発化していくものであるというふうに考えます。そもそも、こちらもサミットのところで、ダボスですね、ダボスのところで日本から提唱したものでもありますけれども、このプライバシーですとか、それから、基本的にはプライバシーですね、プライバシーであったりセキュリティーといったようなところを確保しつつ、今までどうしてもデータというのを抱え込むというような形になりがちだったところを、信頼のできる関係者間のメカニズムの中では、そういったようなところの担保をしつつ、技術的にプライバシーであったりとか、そういったようなトラスト部分のところの技術を確保しながら利活用を進められないかというところがこちらの基本のベースの話であるというふうに私どもは捉えております。 　で、越境データの部分のところになってきて、そうはいっても、やはり各国の法令が違ったりとか、やはり現実問題のところの課題は今ありますが、今そこのところを政府の皆様を中心に、また国際機関を中心に議論が進められているというところで、我々民間からも、特に経団連も含めてでございますが、民間の課題は何か、特に、非常に政府の方々の目線のところとそれから我々の実務のところの部分を埋める形で何か日本からそういったところに貢献できることはないかというところを議論をしているというところでございます。 　以上でございます。

○山本啓介君　ＡＩに関してもそうでありますし、デジタルの技術もそうでありますけれども、もうそんなに新しいものではなくて、長い年月掛けて各国が取り組んでいて、民間においては、非常に大きな巨大ＩＴ企業などにおいては、もう更なるデータの更新というか、どんどん技術の更新が行われていくわけですけれども、そういう取組の中においても、なおかつ今日御出席の参考人の方々は、こういったルールについてはまだこれからなんだと、日本の取組についてはまだリーダーとしてもやっていけるんだと、これからこの世界観においてはしっかりとしたルールメーキングをやっていく必要性があると。そこにおいてのビジネスのシーンにおいては、各国の信用を得るために今御説明いただいたような取組、ルールを作っていく中で必要になってくると。 　ＩＴの世界がという映画の話のような話をするつもりはないんですけれども、しかしながら、この中にある常識というのが、これからしっかりとつくっていかれるということであれば、やはり日本が世界にリードをしていく立ち位置にならなきゃならない。 　今回の法律、法案の中には、それぞれの立場の方々に責務という形で取り組むことというのが位置付けられています。経団連の、所属されているということも踏まえて、永沼参考人に、この責務の捉えについて少し説明いただけますか。

○参考人（永沼美保君）　ありがとうございます。 　こちらについては、特にルールメークというところの観点でのお話もあったと思うんですけれども、ルールの形成は幾つかのレイヤーがあるというふうに捉えております。 　非常に我々と同じ方向を向く方々との議論であったり、それから民間同士の話であったり、あるいはもっとハイレイヤーな話、例えば国際連合であったりとかそういったようなところでも、いろんなフレームワークとかそういったようなところがやはり議論をされていく中で、やはり、我々民間も含めてでございますが、何が基本的に譲れないものであるかと、ここだけは、この部分というところは担保されなければならないというようなところを明確にして、その上でルール形成のところに官民連携で臨んでいるというところが今一点ございます。 　そういったようなものに対して、そこの議論の中で出てきたルールというところを準拠した上で、そちらの方をやはり運用していくというところにやはり落とし込んでいくというところが我々にとっての大きな責務であるというふうには考えております。

○山本啓介君　時間がなくなってまいりました。 　最後に満を持して、満を持しているのはこっちなんですけども、村上参考人にお尋ねしたいと思いますけど、説明というか、お話の最後の辺りにダイバーシティーという言い方があったですかね。やはりこれは、この世界観においてはまだまだ常識がないということであれば、間違った常識がそこで確立されたならば、人類というのは物理的なものを介さなくてもやはり影響を受けるんだと私も思います。多くの論文を発出している大学のものが検索に引っかかりやすいように、そういう世界観ではあるんだと思います。 　そういったことを踏まえて、このガードレールとなるものを作っていく、取り組んでいく、国が先導してそういったものを構築していかなければならない、そういった説明は非常に分かりやすいものでありました。こういった世界観のルール、日本が今後どのようになお一層トップとしてルールメーキングを果たしていくべきなのか、そういった部分についての説明を詳しくいただきたいと思います。

○参考人（村上明子君）　お答えいたします。 　今、ダイバーシティーというところ、今回の御説明の中では、女性の母数を増やす中での女性の拡大というところで取り上げさせていただきましたが、女性というのはダイバーシティーの一部でしかないというふうに考えています。 　ＡＩの開発というのは、二〇一〇年代に開発者が三十代の白人男性しかいないということが非常に問題になっていました。参考人のどなたかが例に出されていた黒人の差別的なＡＩのシステムができたというところも、そういったことが原因で起きています。 　そういったそのＡＩとしてつくられたものがリスクがあるかどうかというのは多様な見方がありまして、そこをしっかりと、国にとって、あるいは国民にとって害のないＡＩというものをどうつくっていくのかというのは非常に重要なところだと思っています。これに関しては技術的な側面と倫理的な側面という二つあると思っています。 　まず、倫理的に許されないものは何なのか、物理的に許されないものは何なのか。ＡＩがやって駄目なものという以前に、人間としてやって駄目なものというのは法律で罰せられるべき、そして、ＡＩ独自のことで、既存の法律でカバーできないものが当法案で、今罰則はないものではあるんですけれども、しっかりとそこを避けるようにということを責務としてやっていくということが重要なんだというふうに思っています。 　最後に、技術的なところに関しまして言うと、倫理的なところで駄目ということを技術的に捉えられるかというのは別な問題なんですね。そこは技術力が必要になってくるので、先ほど言っていたその人材の確保というところが必要になってくるかというふうに存じます。

○山本啓介君　何か箱庭みたいなものを作っていくような世界観を持っていたんですけれども、やはり人間がつくるというもの、人間が駄目なものはＡＩでも駄目だというところは譲れないし、私ども日本人というのは非常に謙虚な国民性もあります。それこそが世界でやはりルールメーキングしていくにふさわしい立ち位置かなというふうに感じました。 　ありがとうございました。終わります。

○石垣のりこ君　立憲民主・社民・無所属会派の石垣のりこと申します。 　本日は、四人の参考人の皆様、それぞれのお立場から貴重な御意見、誠にありがとうございました。 　今回の法案、そして、昨今、このＡＩを取り巻く様々な話題、ニュースなどを見聞きしておりまして、私、ロボットを研究することは人間を深く知ることだという、このアンドロイドサイエンス、ロボット研究者の一人者の方がおっしゃっていた言葉を思い出すんですけれども、このＡＩ開発においても、ニューロンの数理モデルですよね、脳神経系を基にしてということもありまして、これ基本は、このヒューマンアンドロイドサイエンスにも通じるというか、ベースを同じにするものだなというふうに思っております。 　そこで、非常に素朴な疑問で恐縮なんですけれども、どんなに技術が進歩したとしてもＡＩにはできないことというのを、それぞれの参考人の皆様どのようにお考えになるか、お答えをいただきたいんですが、お願いしてよろしいでしょうか。順番に。

○参考人（村上明子君）　ありがとうございます。 　これは私の私見でございますけれども、ＡＩは人間に寄り添ったり共感するふりはできると思うんですけれども、そこが本当に人間のためになって人間のことを考えているかということを保証できない。これは実は人間関係も同じなんですけれども、機械に関して言うと、相手のことを信じるかどうかというときに、相手の機械を人間と同じように信用できるかというところが、恐らく人間にとってのＡＩが仲間になれるかの違いなのかなというふうに思っています。 　ちょっと御質問の趣旨とは違うかもしれないんですけど、ＡＩができないことというより、人間がＡＩに対しての感情の障壁を今持っているというところが、ちょっと返答とさせていただきました。

○参考人（永沼美保君）　ありがとうございます。 　私も技術の会社におりまして、ほとんどの者が技術の開発者であったりエンジニアの方々でありますので、彼らはいろいろとやりたいというところもあるし、あるかと思いますが。 　ＡＩにはなかなか取って代われないような職業とか、そういった話は昨今いろいろなところであると思うんですけれども、今日のお話のところで一つ、恐らくここはないだろう、人間の関与は絶対に必要になるのは、やはり先ほどから出ているルールメークの部分でございます。 　ここの部分というのは、やはり交渉事があると同時に、これは官でも民でもどんなレベルでもそうだと思いますが、我々はコロナを体験をしまして、その間に世に言うオンラインのみの世界を知ってまいりましたけれども、やはりこの部分のところというのは一つ、こういう交渉事部分のところについて、それからそこを促進していくような、そういうような活動というところは一つ、本日の議論に関するところですと一つあるかというふうに考えております。

○参考人（大屋雄裕君）　お答えいたします。 　ＡＩというのは、特定の評価基準を前提としたときに、それをより効率的に実現する機械だというふうに言えようかと思います。したがって、あらかじめ評価基準が定まっているチェスや囲碁、将棋といったゲームでは、これは人類の大方をとっくに追い越してしまったということになるわけです。 　ところで、例えば現代アートというのはそういうものではなくて、むしろ新たな評価基準を提案する、そういう営みであります。あるいは、法解釈、私の専門領域について申し上げますと、例えばこれまでの判例があるのでそれに沿って判断するという比較的機械化できそうな部分も当然あるわけですが、最高裁判決の多くがそうであるように、むしろこれまでと違う考え方、これまでと違う評価基準というものを積極的に提案するようなものもあるわけですね。 　そのようなクリエーティブな側面というのをＡＩはいまだ成し得ていない。したがって、それは当面、人間の責務として残るであろうというふうに考えております。 　以上です。

○参考人（市川類君）　御質問ありがとうございます。これまでの皆様の、参考人とほぼ同じような答えになってくるとは思いますが。 　やはりＡＩというのは、基本的には、工学的に見ると、目標を与えてそれに対して回答する話です。その中で、こういうふうにしたらこういう感情を返せとか、こういうふうに怒っている顔をしろとか、目標を入れれば何でもできるんですけれど、それが本当の感情かという話と、先ほど、例えば最適化をする際に何を最適化するかという目標を入れなきゃいけないんですけど、やはり人間の感覚でいうと、今までどおりの平均値の答えを出してくださいとやれば出るんですけど、これがやっぱりいいよなと感じるところというのは、これは人間の感情、感覚の話で、そこの判断をＡＩに任せると面白いものはできない。したがって、そこはやはり人間がやらなきゃいけないところだと、こういうふうに考えております。

○石垣のりこ君　四人の参考人の皆様、それぞれ唐突な質問にお答えいただきまして、誠にありがとうございます。 　それも、今お話しいただいたのも、きっとそこはなかなか超えるのは確かに難しいんだろうなというふうに感じる反面、もし、もっともっと、それこそ今想定されている以上に技術が進歩していったときに、いわゆるロボットの開発でいえば不気味の谷を越えるような、よりこれはどっちが人間なのかよく分からないみたいな状況というのは生まれ得るのだろうなということも何となく想像はするわけであります。 　市川参考人の資料読ませていただきまして、そういう、そのときにどういうリスクが生じてくるかというところも非常に分かりづらいと。ＡＩ技術に対してリスクベースアプローチにより効果的に法規制を行うためには、その社会的リスクの特定が不可欠であるが、そもそも、ＡＩなどの新興技術がもたらす社会的リスクについては、その普及が進展する前に事前に予測することは困難であることが読み取れるというような記載がございまして、この点に関しては、それぞれの参考人の御意見も基本的なところは一致されているところがあるのかなと思うんですけれども。 　としますと、今回の法案が、規制に重きを置かずに、ある意味推進法に重きを置いているということも鑑みまして、事後に様々なリスクに対応しなければならないということになると思います。そのことについて、このイノベーション促進とリスク対応のバランスという今回の非常に重要なポイントがあると思いますが、どういう点に、やっぱり、今回この法案が成立したとして、政府として最もこの事後に対応しなければならないというリスクに対してやっておくべきこと、政府としてやっておくべきこと、それぞれお一つずつ、これだというものを挙げていただけますでしょうか。

○参考人（村上明子君）　ＡＩ、多岐にわたっているので、これということを一つ選ぶのが非常に難しいというふうに感じています。 　今、私は、ＡＩ開発者を経験して、それから今、ＡＩ安全性のところをしているところを鑑みますと、やはり私たちは、技術者あるいは研究者である前に人間だと思っています。人間がしていけないことというのは技術者がしていけないということ。なので、やはりその技術を考える前に、人間として何をするべきなのか、あるいは人間として何をしていけないのかという、個人個人の倫理観というのをしっかり持つことというのが一つなすべきことなのではないかなというふうに思っています。それから、技術というものでそれを実現していくということが大事なのかなと思っております。 　以上でございます。

○参考人（永沼美保君）　ありがとうございます。 　イノベーションとリスクの対応のバランスのところは私の方から何度も何度もお願いをしたところでございますが、やはり、イノベーションのところを、何でも進めるというよりは、やはりそのイノベーションの部分を検証するというのは、社会的な側面、技術的な側面、倫理的な側面といった多方面からの検証は必要ではあると同時に、そうはいっても、やはり産業を振興させていく必要があると。 　今回の法案のところでの一つのポイントは官民連携というところで、私ども、報告をするなり、民間側の方から官の方に情報を提供するという観点がございます。まず、このリスクとして捉えるべきは何なのか、そのタイミングは何なのかというところは、これから日本のモデルの中で、それの適正な部分というのはこの官民連携の中でやはり模索をしていくものであろうというふうに考えております。そのときの、どうやってそれを判断するかとかそういったようなところは、まずユースケースが必要になってくるというところなので、私どもとしては、このバランスのところ、イコール、やはり経済界としては、情報提供というところがある中で、官民のこの連携の在り方というところを一つキーポイントとして考えております。 　以上です。

○参考人（大屋雄裕君）　ありがとうございます。 　我が国の現状については、確かにこの法案には規制的要素がほぼないのですけれども、実はある種のセグメント的規制が実現しているという考え方もできると思っています。例えばですが、ＡＩを組み込んだ医療機器については、これはいわゆる薬機法の問題でありまして、承認を得ない限り医療現場で用いることはできないという状況になっているわけですね。 　そのように、セグメントによってはもう既に規制済みである、若しくは一定のリスクに事後的にも対応する体制が取れているということを前提にしますと、ＡＩの影響が大きいにもかかわらずそのようないわゆる業法規制がない分野として注目すべきだと思っておりますのは、それは私がこの業界にいるからでもありますが、教育であります。 　教育現場にＡＩが着々と進出しつつありますが、それに対する規制ないし、あるいはリスク評価自体も極めて乏しいという状況にありますので、そこで何か良からぬことが起きないかということについては注視しておく必要があるというふうに私は考えております。 　以上です。

○参考人（市川類君）　御質問ありがとうございます。 　今回、事後にＡＩに係るリスクが出てきた場合にどう対応するかという御質問ですが、簡潔に申し上げますと、やはりまずはアジャイルに対応するということと、二番目は、それをやはり、じゃ、どこまでが良くて悪いのかというのを適切なプロセスを通じて関係者も含めて対応するという点と、三番目は、それでできた基準はやはり広く公開して今後そういうことをしないようにしていくと、この三点が重要ではないかなと、こういうふうに思っております。 　以上です。

○石垣のりこ君　度々、半ばむちゃぶりで申し訳ございません。ありがとうございます。 　今お話にありまして、それぞれ重要なポイント、確かに一つに絞るのは難しいというところで、ちょっと時間の関係もあるかと思って、済みません、無理を申し上げて絞ってお話しをいただきましたけれども、今回の法案に関しましても、内閣府のＡＩ制度研究会の中で十四のリスクを例示して、このうち十三は既存の法律で対策が取れる場合の例を示していると。そこで対応できないものを今回の法案も含めてというような立て付けになっているというか流れになっているというふうに認識しております。 　一方で、これまでの議論を振り返ってみますと、結局、じゃ、現状起きているリスクに対してどの程度対応できているのかという疑問に対しても、個々のケース、その都度ケース・バイ・ケースで対応している。どこまでそういうリスクに対応できるかは、それを見てみないと分からないというような政府からの答弁が基本にあるかというふうに感じております。 　かつ、先ほどアンケートのお話がありましたけれども、実際に六六％の方が政府に求めたいこととして、ＡＩの活用に関して、やっぱりＡＩの悪用、犯罪に対する法的対策の強化というものを挙げていますので、先ほど大屋参考人の方からもありましたけれども、その教育の面ということも含めて、しっかりとやっぱり皆さんにまだまだ認識が届いていないということが非常に大きな問題として私も感じております。 　その上でといいますか、どんどんその技術が発達していく上で、じゃ、そのＡＩが暴走をしないように、先ほど、そのルールメークの部分をやっぱり担えるであったり、新たな価値の部分はなかなか人間じゃないとできないというところはあると思うんですが、より技術がやっぱり進歩していくと、ごくごく限られた能力、その知識のある方しかそのＡＩの技術が本当に正しく動いているか、誤っているところがどこにあるかということを見極めるのが非常に厳しくなってくるのではないかということが推測されます。 　その際に、そのＡＩを更にチェックするＡＩというような形で、そういう想定がされた場合にどういうリスクがあり得るのか、そもそもそういう立て付けが可能であるのかということに関して、どうでしょうかね、大屋参考人と永沼参考人、お二人に伺いたいと思います。

○参考人（大屋雄裕君）　ありがとうございます。 　おっしゃるとおりでありまして、特に機械学習型ＡＩについては、それがどのような理由で一定の解を出してきたかということは極めて分かりにくい。これをブラックボックス化というふうに呼ばれております。そのような現象が生じることは、もう明らかだと思われております。 　これに対するガバナンス策としまして、そのＡＩ自体の説明能力を高めていこう、なぜこの結論が出たかということを可視化していく技術を開発していこうという方針も一つあります。説明可能ＡＩ、エクスプレーナブルＡＩと呼ばれるものです。 　ただ、この技術の方向性は、私自身の評価としては余り明るくなく、それよりは監査ＡＩのような、おっしゃったような、その結論がなぜ出たのかを監査する別のＡＩと組み合わせるであるとか、あるいは、それぞれ別の作り方をした三系統のＡＩを同時に走らせて多数決で決めるというような仕組みを考えていかないのではいけないのではないかというような構想は、これは理論レベルというか、議論のレベルとしては現れてきているというところであります。 　以上です。

○参考人（永沼美保君）　ありがとうございます。 　こちらの話については、ちょっと将来的な部分のところはこれからいろいろと考えなきゃいけないところではございますが、先ほど私の中のプレゼンの中で人間中心という言葉がございました。これは日本が取っている一つの大きな、欧米といいますか、今主流になっておりますが、人間が中心になると。 　これは非常にハイレベルな原則で言っているだけではなくて、やはり現場のところでも必ず人間のチェックは入れるということが原則としてございます。ルールがあり、人間がやはり判断をするというこの原則は各レベルでやはり生かしていくと。でも、それであっても、技術の進歩のところで自動的にというところになってくると、今、大屋先生のおっしゃったような、参考人のおっしゃったようなことを考えていくこと。 　それから監査の部分、出力していくこのデータの部分をどう検証しますかというところにはなってまいりますが、やはりこの人間中心というところはある程度は残していくのであろうというところが今お答えできる現状の部分のところかと思います。 　以上です。

○石垣のりこ君　ありがとうございます。 　大屋参考人からは、ＡＩの合議制みたいなお話があって、非常に興味深いなと思いましたし、あと永沼参考人からのお話を見ると、じゃ、人間が関わったときに、ＡＩが出した結論に対して、じゃ、人間が全て責任を負うということをよしとするのかというようなちょっと課題もあるのではないかというふうに感じました。 　たくさん質問はあるんですけれども、最後に、時間も参りましたので、一つ、村上参考人に伺いたいと思います。 　先ほども、ＡＩの問題としましてジェンダーロールの潜在的な刷り込みのお話があったと思いますが、ちょっとこの点を改めて、具体例も含めてこういう課題があるということをちょっとお話しいただきたいということと、あと、無意識であるがゆえに、出てきたものに対してそのジェンダーロールの潜在的なものを顕在化するためにどういうことが必要であるというふうにお考えになっているか、お話しいただけますでしょうか。

○参考人（村上明子君）　ありがとうございます。お答えいたします。 　ジェンダーの例に関しましては、ちょっと生成ＡＩ以前になるんですけれども、同じ収入、同じ立場の男性と女性のクレジットカードの与信額が女性の方が三分の一程度にＡＩで自動的になってしまうというようなことであったり、あるいは採用ですね。特に、とあるＩＴ企業のエンジニアの採用で、過去に採用した人がたまたま全員男性でしたと。そうなると、女性的なことが書いてあるレジュメは全部自動的に落とされてしまう。それはまさに、ＡＩが、こういう目的で動いてくださいねと人間が指示をしたときに、その目的に対して倫理観も何もなくまず突出してしまうというのが一番の原因になっています。 　これは過去のものをデータとして使う以上、過去に人間が誤って区別、差別していたものというのを再生産してしまうというところが、これは人間が意図して差別したシステムを作らなくても起こってしまうことなんですね。 　ところが、先ほど言ったように、ＡＩをつくった人たちが偏ったモノリシックな団体であると、そういった偏り、あるいは、出力に対するおかしい違和感ということに気付けないまま、それを世の中に出してしまうということが非常に問題だと考えています。なので、それを、ＡＩを作る現場、それから使う現場、そして利用する現場が多様的な物の見方で、先ほど言っていたモニタリングというところを人間としてきちんと見続けるということが必要なのではというふうに思います。 　無意識という観点でいうと、今申し上げたように、システム的に過去のものを、過去の悪いことを再生産してしまう。これをやはり自動的に、ＡＩを使ってそういったデータの偏り、あるいは出力の偏りがないかどうかというものを見る。こういった技術的なものというのは今研究で盛んに行われていますので、技術的にそういったことを回避できるといったことも将来的にはできると思います。 　若干、その技術の進歩に合わせてイタチごっこ的にＡＩの安全性というのは見えるかもしれないんですけれども、それを良く言えばアジャイルにやっていく。今までの組織であるとか考え方というのは、そういったアジャイル的な対応がイタチごっこですらできないというところを柔軟に変えていこうというところがこの法案で推進されるとよいなというふうに思っております。 　以上です。

○石垣のりこ君　ありがとうございます。 　それぞれの参考人の皆さんから非常に貴重なお話を伺うことができました。 　ＡＩに使われるのではなく、あくまで人間中心で、私たちがＡＩを活用して、より私たちのこの暮らしのクオリティーを上げていくということに資するものでなければならないというふうに私も感じますので、今日いただいたお話を参考に、人間疎外にならないＡＩ技術の推進、この立法府としてどのように取り組んでいけるか、お話を参考に取り組んでいきたいと思います。 　ありがとうございました。

○竹谷とし子君　公明党の竹谷とし子でございます。 　四人の先生のお話を伺いまして、大変勉強になりましたし、また興味深い点が多々ありました。ありがとうございます。 　まず、村上参考人に伺いたいと思います。 　日本がイノベーション進まなかった理由として、前例踏襲、保守的な日本企業、まさにそうだなということを思いましたけれども、ＡＩの安全性を担保すれば利活用とイノベーションはできるだろうと、本当にそうだなということも思いました。 　国及び自治体、行政側でも活用していこうということでこの法案の中でうたわれておりますけれども、自治体、私、東京なんですけれども、東京の各自治体でも、様々もう既に取り入れているということでございます。一方で、まだ使っていない自治体の理由として、安全性を担保した上で使用できるか検証を重ねていきたいと。著作権侵害とか情報流出とか、そういったリスク、考慮をする必要性というものも現場で認識をされておられるようでございます。ですので、この安全性がまた担保されることで、国や行政というのは本当にそういうところ慎重でありますので、民間以上にですね、それを、対策を示すことで利活用が進んでいくということを私も思っております。 　その上で、ＡＩＳＩという組織について教えていただきました。この法案では、第十六条の中でも、このＡＩ使用、活用に伴って国民の権利利益の侵害が生じた事案の分析を行うこと、また調査して研究をして、指導、助言、情報提供を、必要な措置を講ずるということで国の役割として定められているところでございますけれども、このこととこのＡＩＳＩとの関係はどのようなものになるのかということを伺いたいというふうに思います。

○参考人（村上明子君）　ありがとうございます。 　御指摘いただいたまず前段のところで、自治体、国が活用していくというところは非常に私も期待しているところでございます。 　　　〔委員長退席、理事磯崎仁彦君着席〕 　私個人としては、東京都のＡＩ戦略会議の方にも参画させていただいておりまして、東京のような大きい自治体は先んじてそういう安全性の担保なども含めてできることが多いと思うんですけれども、東京都に比べると、比較的小さい自治体というのは自分たちでそれを全部やり切るのは難しいと思っていますので、そういった大きい自治体が率いることでほかの自治体も追随できるようなことというのを政府も主導して進めていっていただくことを期待しております。 　さて、御質問でございますけれども、御指摘のように、十六条に、ＡＩの活用のところで、何か国民の不利益になるところに関しまして、きちんと分析をして対策を講ずるというところがございます。 　現時点でのＡＩＳＩは、調査研究はいたしますけれども、個別の事案に対しての調査をするという業務は担っておりません。今、全体的な傾向であるとか世界の動向というところを鑑みて、ガイドラインを出したり、あるいは、政府にこういうふうに、政府あるいは官庁の皆様にこういうふうにしたらいいという助言をお出しするという立場ではございますけれども、個別事案の調査分析というものは任務としては担っておりません。 　ただ、私は、やはりそういった知識を持った人たちが分散していくというところは非効率であるというふうには考えておりまして、それの一つとして、関連の国研の皆様とのパートナーシップというものを結ばせていただいており、私どもが独自に研究あるいは調査をしなくても、国研の皆様のやっていらっしゃる研究というものをそのＡＩＳＩの活動に役立てるということをしております。同じような形で、その知識を持った人たち、スキルを持った人たちが国の中で分散しないような形で今後は進めていくのが望ましいのではないかというふうに考えております。 　以上でございます。

○竹谷とし子君　ありがとうございます。 　続きまして、大屋先生に伺いたいと思います。 　　　〔理事磯崎仁彦君退席、委員長着席〕 　法哲学ということで、大変興味深く聞かせていただきました。事前に配付を、提供をいただきました先生の論文ですね、「ＡＩによる危機、ＡＩをめぐる危機」ということで、こちらももう十分そしゃくできているか分からないんですけれども、非常に深い洞察をお示しいただきました。 　この中にプロファイリングの問題ということで御紹介をいただいております。信用情報も具体の例に挙げていってくださっておりますけれども、本当にＡＩによるものじゃなくても、この信用機関というかの信用情報というのがブラックボックス化されていて、例えば不正利用されて、個人情報を不正利用されてクレジット情報を、クレジットカード作られて、それで支払が滞ったようなことも本人の信用情報になっている場合とかもあるようで、ただそれが本人には知らされず、あなたの信用情報レベルは低いですという感じになっていることもあるように思います。 　それだけではなくて、もっと進化をすると、いろんな情報を集めて、この人にはこういう与信を与えようとか、そういう判断もしていくことにも使っていくことになるんだと思うんですけど、プロファイリングの例としてそういうのを挙げられているんですけれども、これを例にして、結局はＡＩのリスクといっても、その技術ではなくて、使う側の取扱い方によるんだという、そういうようなことをお示しいただいていて、本当にそうだなということを思いまして、これから学校教育とか、また中高年者、私も含めて、のリテラシーを高めていくに当たって、ＡＩって別に恐れるものじゃなくて、そういうものだからどういうふうに使っていったらいいんだよということを子供も大人も学んで考えるというか、そういう機会が必要だなということを非常にこれを読ませていただいて感じたところでございます。 　これについて、先生のお考えを伺えればと思います。

○参考人（大屋雄裕君）　お答えいたします。ありがとうございます。 　まず、例えば信用情報につきましても、これまでに存在してきた金融機関は、例えば事故情報を基に信用を計算しておりますし、それについては情報開示のシステムがございまして、本人がひょっとしておかしいのではと思ったら確認をすることができる、あるいは訂正の申立てができるということになっております。しかし、ＡＩの発展によって、そのような統制を受けていない業者あるいは業態というものが生まれてくる。それを一つのリスクとして考えていかなければいけないというふうに考えておるということが第一であります。 　もう一つは、ＡＩというのはそれ自体技術でして、その技術なりの癖がある、あるいは特徴があるものであります。例えば、生成系ＡＩであればハルシネーションと呼ばれる全く存在しない情報をあたかも本当のものであるかのように提示するという現象が生じることは広く知られているわけですが、この広く知られているというのはもちろんＡＩに関係する人々の間でということであり、残念ながら現段階においては市民の間でというようにはなっていないと思います。 　第一に、それに対する対策としては、学校教育の中にＡＩの利用法、利活用法、逆にその問題点というのを組み込んでいくことが必要だと考えておりまして、実際、大学などではそのような観点からの教育が始まってきているところだと認識しています。 　ただ、問題なのは、議員からも御指摘ありましたが、中高年層のように既に学校を出られたという方、この方々にどうやって情報を届けていくかというのは一つの大きな課題であり、私自身としては、マスメディアにそういうところは頑張っていただきたいと思っているところではありますけれども、なお課題として政府の立場からも検討していく必要があるのではないかと思っております。 　以上です。

○竹谷とし子君　ありがとうございます。 　ＡＩは便利なんですけれども、間違えることもあるし、いろんな問題があるというふうにも思っています。 　ある人が、国会質疑にＡＩ使う人をどう思いますかとＡＩのある製品に聞いたら、そういう国会質問に使っちゃうというのは、何というんでしょうか、ばかにして、笑っちゃうねという感じで言っていたということを言われまして、ああそうなんだなと、それぐらいのつもりで使いこなしていくというのが人間には、人間中心のＡＩなんじゃないかなというふうに感じたところでございます。ありがとうございます。 　次に、永沼参考人に伺いたいと思います。 　この制度運用に当たっての要望ということで明確にお示しいただきまして、ありがとうございます。 　この中の①番目のイノベーションとリスク対応のバランスということで、責任分担の明確化ということを言っていただいております。これについてもう少し詳しくお伺いできれば有り難く存じます。

○参考人（永沼美保君）　ありがとうございます。 　開発者、それから提供者、また利用者といったところがＡＩのところには、事業のところには出てくると思うんですけれども、まず、引渡しをして、それぞれの、まずタスク部分のところで何をするかというところもありますけれども、それぞれに、この間のところがどのように線引きがされるのかというところがＡＩのときにはもう少し明確になっていく必要もございます。 　ここのところで申し上げているこの責任分担の明確化というところは、今、具体的にしてここのところをこう変えてというところではないんですけれども、今あるこの三者、特にここのところでは開発者、提供者というふうに申し上げておりますが、この部分のところの定義付けの部分とそこの役割分担のところをまず明確にしていく中で、その中で、その間のところの部分のところをどのように定義付けをしていくかというところを一応念頭として置いて考えております。

○竹谷とし子君　ありがとうございます。 　また、③番目の国際的整合性の確保というところで、ＡＩの国際ルール形成への関与を強化すべきということで御提案いただいております。 　本当にこれとても大事なことだというふうに思いますけれども、こちらどのような方法が考えられるか、また、それをいかに政府として後押しをしていくことができるかということについてもお考えを伺えればと思います。

○参考人（永沼美保君）　ありがとうございます。 　国際的な整合性というところとルール形成というところ、ここは、実は本日の四名の参考人のところで皆共通の部分であったと思いますが、まず、基本的にルール形成は幾つかのレイヤーがやはり出てくるというところがございます。 　その一つの例として広島ＡＩプロセスというところが今回はよく出てきていると思いますし、私のところで国際の標準化と、少し技術のレイヤーに落としたところでもありますし、また、本当に全世界で促進をしていくような大きなその枠組みの話といったような部分があるんですけれども、やはり、その全てとは言いませんけれども、そういう場に日本の方がとにかくきちんと入るということです。 　それも、できれば官民という形で、官の方は当然政府としてのお仕事もあるんですけれども、我々事業者といったようなところも、この知見を持ってその場に議論ができるようなことが推進されていくのが望ましいというふうに考えておりまして、やはりそのルール形成の場に人をどういうふうに送り込んでいくか、人材をどうしていくかというようなところも必要になってくると思います。 　特にＡＩの場合は、従来型のルールの議論だけではなくて、やはり技術議論等々もありますし、若年層の方にも参加をしていただくというようなところで、先ほどから出ている多様の部分というところも含めた形での、一体となった、日本としての一体となった体系の確保というところを検討しております。

○竹谷とし子君　ありがとうございます。 　続きまして、市川参考人に伺いたいと思います。 　先ほども中高年者へのリテラシー教育ということでお伺いを大屋先生にもさせていただきましたけれども、市川先生の資料の最後のところでも、やっぱり中高齢者への積極的リスキリングということで明示をしていただいておりまして、これどういうふうにやればいいかということについて御意見を是非伺いたいというふうに思います。

○参考人（市川類君）　御質問ありがとうございます。 　書いてみたものの、なかなか難しい課題ではあるなと、こういうふうに思っています。 　やはり、ただ、全体的に申し上げますと、やはり今、もう若手をＡＩ人材、教育していくだけではなくて、日本国民全体としてこのＡＩの時代をやっていく、をつくっていく、社会をつくっていく際には、もちろん強制はしないんですけれども、ＡＩを使うと、もっといい生活、それは子供たち等も含めていい生活が送れるよという雰囲気づくりをまずしていくという、こういうことが重要かなというふうに思います。 　その中で、やはり今でいうと、オンラインでの、オンデマンドとか、そういったところで触れる世界も、教材もありますし、教材だけじゃなくて、やはり社会全体としてＡＩを使って、ＡＩを使いこなしている子供たちと一緒にうまくできているようなという社会環境づくりをいかにつくっていくのかということが重要ではないかなというふうに考えております。 　以上です。

○竹谷とし子君　陰謀論が結構ネット上であるんですけれども、一説によると、中高年の方ほど陰謀論にはまりやすいというような御指摘もありまして、ＡＩを使って、この陰謀論にはまっている人から、もうちょっと視野を広げていただけるような、そういうこともやると一石二鳥なのかなというふうにも思っているところでありますけれども、非常にこの中高齢者の方々に知っていただくというのが、経営者も、二代目と初代と今すごく考え方がいろんな面で違っていて、やっぱり初代の御高齢の方々にいろんな新しいことを知っていただいて、共通の言語ができるとまたイノベーションも進んでいくと思うので、非常にここは大事なところだなというふうに思っているところでございます。 　最後に、村上参考人に伺いたいというふうに思うんですけれども、人材育成のところでＤＥＩの重要性を言っていただきまして、非常に参考になりました。開発者の分野でも大変重要、人材育成大事だと思うんですけれども、どちらかというと、この利活用に近い部分でも非常に裾野が広いといいますか、だと思いますし、理系に女性を増やすべきというふうにも思うんですけれども、利活用分野ではむしろ、理系というよりは、理系、文系は余り関係ないかなというふうにも思っておりまして、そこのところで女性をもっと入ってもらいたいなというふうに思うんですけれども、そこについて、増やしていく、そういう方策について、何かこういうやり方があるのではというものがあれば教えていただければというふうに思います。

○参考人（村上明子君）　ありがとうございます。 　ＡＩ人材だけではなくて、ＡＩの利用人材におけるダイバーシティーというところでございますけれども、これは、私からの個人的な意見としては、やはり業務で今ＡＩを使うということと、あと、普通の市民生活でＡＩを使うということ、両方今進んでいます。 　正直、ちょっと、私は日本の企業におりますけれども、企業よりも皆さん生活で使われている方が進んでいるというところになります。そうなると、生活者としては、実は女性と男性は余り差分なく、あるいはいろいろなものに興味を持つという観点では、もしかしたら女性の方が積極的に使っている可能性もあるなと思います。済みません、手元にそういう分析のがございませんけれども。ただ、やはりそれがどんどんどんどん加速していくと、どんどん、企業生活で使っていった人が市民生活でも使っていくという流れが、普通は技術はその順番で来ることも多くございますので、様々なその社会での、企業での経験というものを持ち帰って家庭で広げていく。 　今、若い世代というのは、共働きの方も増えてまいりましたし、そこまで男女差というのが広がらないようにするため、なので、ＡＩに対する利用者を直接というよりは、二つあると思うのは、まずは、女性の社会進出というものを継続的にするということが女性の利用者としてのリテラシーを上げていくということ。 　もう一つは、やはり最後に言わせていただきました、ＡＩの正しい理解というものを皆さんに広めていただきたいということです。私は保険会社にも勤めておりますけれども、保険の役割というのは、リスクを理解して、例えば車を運転するときに事故に遭ったらこのぐらい被害があるということを理解して保険で備えておくことで運転というものを怖くなくできるということなんですけれども、ＡＩの安全性も同じでございまして、どういうことにリスクがあるのか、例えばＡＩの言うことは全部が正しくないであるとか、間違うこともあるので自分できちんとチェックしなきゃいけないとか、そういったことをしっかり理解するとＡＩを使うことに対する障壁はどんどん減ってくるというふうに思っています。 　こういった啓蒙活動を、教育という観点では学生のうちから、あるいはその市民生活、あるいは中高年の方々にもしっかりと広めていくということが大事かなと思っております。 　以上でございます。

○竹谷とし子君　ありがとうございます。 　終わります。

○柴田巧君　日本維新の会の柴田巧です。 　今日は参考人の方々にはお忙しい中御出席いただき、また、それぞれのお立場から貴重な御意見を頂戴しましたこと、感謝を申し上げたいと思います。これからの法案審査にまた生かしていきたいと思っております。 　四人目になると、お聞きしたいこと、かなりもう言われているところがあるので、重なる部分もあるかもしれませんし、重ねて詳しくお聞きをしたいというところがあるかも、出るかもしれませんが、よろしくお願いをします。 　まず最初に、村上参考人にお聞きをいたします。 　今日、お配りいただいたこの資料の中にもございますが、最後の方に、国としてのＡＩ戦略の重要性と人材育成のことをおっしゃいました。やはり、このＡＩを進めていく、推進していく上でも人材が極めて重要だと思っております。そのためには大学におけるこの教育体制の強化であったり、あるいは産業界との連携の促進、さらにはこの国際的な研究交流の推進などが必要だと思っていますが、特にどういうところがこれから求められるかというのが一つ。それと、今もお話ありましたが、もっと理系を専攻する女性を増やすべきだということでございますが、具体的にどういう手だてでこれを増やしていくべきだというふうにお考えか、まずはここからお聞きをしたいと思います。

○参考人（村上明子君）　ありがとうございます。お答えいたします。 　まず、その人材、一般的に男女関係なくＡＩ人材をどう増やしていくのかというところでございます。一見矛盾しているように思われるんですけれども、理系、文系という考え方があるのは世界的に見ても日本だけなんですね。理系的、サイエンスといったときに、いろいろな学問を勉強した上で自分の強みというものに、その工学であるとか理学というものを専攻するといったものが大学の勉強のところでは一般的になっています。 　ＡＩというのは、技術的なことももちろんそうなんですけれども、本当に深い、深層学習の数学のレイヤーよりも少し上の部分というのは学際的な知識というのが必要になってまいります。そういったところを理解しながらできるような人材というのが日本に欠如しているのではないかというところを思っておりまして、もちろんＡＩの研究者を増やすのと同時に、そういったその学際的なところも増やしていくのがよろしいのではないかと思います。そのうちの一つが国際的なところで活躍できるところの一つではないかと思います。 　また、二つ目の御質問にございました、どうやって理系の女性を増やしていくかというところでございます。私の個人的な経験でございますけれども、大学で五％未満しかいない大学の理系の学生、私の時代は大体お父様が理系の職業、しかも大学の先生である方がほとんどだったんですね。今もう一〇％程度になってきましたけれども、やはり親御さんを見て親近感を持つ、あるいは子供の頃から理系に対して障壁を持たないというところが非常に理系に進むきっかけになるというふうに思っております。 　女性は男性よりも比較的現実的な学問を好みがちというふうに言われておりますので、理系って少し、サイン、コサインって生活で使わないですよねとよく言われるんですけれども、理系からするとめっちゃ使われているのにと思うんですが、そういったことが起きないように、小学校、中学校の頃から理系というものが現実的な社会に役に立っているんだということを広く知らしめるということ、これＡＩが今近くにあるので、非常にチャンスじゃないかなというふうに私は思っています。 　以上でございます。

○柴田巧君　ありがとうございました。私は典型的な私学文系だったので、大変今刺激を受けたというか、ちょっと人生後悔をしたりしましたが、ありがとうございました。 　次に、続いて村上参考人にお聞きをしますけれども、今回のこのＡＩ法案の中には、国としてのＡＩの戦略を明確化するために人工知能戦略本部というのをつくるということになって、これへの期待を示していらっしゃったかと思いますが、私は、本当に大丈夫なのかなとちょっと心配をしているというか、懸念をしていまして、この前の委員会でも大臣にもお尋ねをした経緯があるんですけれども、今もたくさん科学技術関係では何とか戦略本部というのはあるんですね。あるんだけれども、ほとんど年に一回か二回か、しかも中には持ち回りで開かれるということで、余り、こんなことを言ったら何だけど、全く関係ない大臣も含めて全閣僚が出なきゃいけないというのは、本当にこのＡＩの戦略本部としてふさわしいのかと。 　やはり非常に進歩が激しいわけですし、やっぱり機動的に政策決定をしていく上で、今までのような戦略本部ではやっぱり期待に応えられないのではないかと思っていますが、その点はどういうふうにお考えになっているか、お聞きをしたいと思います。

○参考人（村上明子君）　ありがとうございます。 　私は、ＡＩセーフティ・インスティテュートの所長としてこの戦略本部に対して非常に期待もしておりますし、一方で、おっしゃられたような不安というものも感じているところでございます。 　ＡＩは、全てを理解しようと思うと、私のような技術者出身でも全ての技術というものを今理解しているかというと、私は残念ながら、それはお答えとしては違うというふうにお答えせざるを得ません。これ、世界広しといえど、全てのＡＩの技術を網羅して理解している方というのはいらっしゃいません。 　一方で、技術を理解しないとＡＩの施策がつくれないかというと、私はそれは違うとは思っています。ただ、やはり先端的にどういうことが懸念として起こっているのか、あるいはどういう技術ができて、今何ができようとしているのかということは、技術者を通して皆さんに理解をしていただいて戦略を作っていただくというのが大事だと思っています。 　ここで私が大事だと思っているのは、やはりこの戦略と付いているからには、何か北極星のような、日本としてはこうあるべきというような大きな目標にあって、それに対する戦術というものを官僚の方が作れるような、そういう大きな指針というのはしっかり決めていただきたい。 　一方で、体制としてとおっしゃっていたのは、やはりこれが開催、次の開催まで待ってくださいというような形ではなくて、何か非常に大事な潮目というか、局面が来たときには柔軟な対応というもので開催していただくというのがもう一つだと思います。あとは、やはり官僚の方々、それを実行していく官僚の方々に、非常に専門性のある方を配置していただき、それに長く従事していただくというのがもう一つ重要なことではないかなというふうに思っております。 　私からは以上でございます。

○柴田巧君　ありがとうございました。 　続いて、永沼参考人にお聞きをしたいと思います。 　永沼参考人も先ほどのお話の中で、高度なＡＩ人材育成を推進をというお話をされました。まさにそのとおりだと思っていますが、改めて言うまでもありませんが、この前も日経新聞に、一月二十八日ですかね、出ておりましたけど、ＡＩのトップ研究者が集まる国際学会で採択された論文が、アメリカ、中国に続いて、アジアからシンガポールと韓国が上位に行くと。日本はどんどん下がっていくという中でありまして、それぞれシンガポールも韓国もいろんな設備を設けたり力を入れているわけで、やはり高度な人材を育成するために、もっともっと日本は力を入れていかなきゃいけないというふうに思っています。 　そのためにも、研究拠点となる施設の整備とともに、外国出身の研究者であったり、あるいは海外で経験を積んだ日本人研究者の採用を積極的に進めるといったことなど、そういった施策をもっと力を入れる必要があるのではないかと思いますが、どのようにお考えか、まずお聞きをします。

○参考人（永沼美保君）　ありがとうございます。 　こちらについては、日本の現状を申し上げますと、やはり優秀な方は、まあ条件その他もあると思いますけれども、やはり進んだことをやりたい方は進んだことをやらせてくれるところに行きますし、やはりその雇用の条件というところが出てきますので、それが我々民間だけで解決できるかというところの現状もございます。 　ですから、今おっしゃっていただいたような形で何らかの施策を打っていただくと同時に、我々、やはり少し、日本の中でこういう人材をどういうふうに育成できるかという、そういうところを官民で考える必要はあると思っております。条件良くすれば来てくれますかというところにあったときに、その日本という国がアトラクティブなところなのかというところがやはりあると思うんですね。その条件だけではやっぱりこういう開発者の方、研究者の方というのは根付かないというところもありますし、また、若い方を、日本にいらっしゃる若い方をちゃんと育てていくという、そういう少し時間の掛かるプロセスも必要になってまいります。 　いろんな方向で考えるべきところがあり、これは学校と、私ども民間は、当然、大学であったりとかもっと若い教育機関であったりとか、そういったようなところとのプログラムもありますし、当然国との連動もあります。また、海外の方の研究機関といったようなところも当然いろんな人材を見ていくというところがございますので、こちらについては、やはり日本全体の魅力ある市場というところの観点での議論を是非お願いをしたいというふうに考えております。 　以上です。

○柴田巧君　ありがとうございました。 　続いて、永沼参考人にまたお聞きをしますが、先ほどのお話の中でも、過度な規制の回避ということを指摘をされました。過度な規制はやはり回避されてしかるべきだと思っていますけれども、今回のこの法案ではその規制というものに特に今のところあれですけれども、これはある意味、これは片山、隣の議員も本会議で触れていましたけど、ＥＵなどに比べて緩くすることで日本に多くのＡＩの研究開発を呼び込みたいという考えがあるのではないかなと思ったりもするわけですけど、ただ、これ緩めた場合に、厳しいＥＵに準拠したＡＩは引き続き海外で研究開発が行われていくと、で、日本はそうでないとすると、ある意味危険なＡＩの研究開発が集まるようなおそれがあるのではないかと思っていまして、この規制を緩めると誘致につながるという考えは、やっぱりちょっと考え方を変えた方がいいのかなと思っていまして、逆に、日本発のＡＩの信頼性、安全性が損なわれると、そういうリスクが高まるんじゃないかと思いますが、逆に言うと、規制を通じてリスクを減らして不安を和らげて、その結果普及するという考え方があってしかるべきではないかと思いますが、この点はどういうふうにお考えになりますか。

○参考人（永沼美保君）　ありがとうございます。 　私ども、先ほどこちらについての見解は述べさせていただいておりますが、緩めたという見解では実はございませんで、経団連として、こちらの方の参考資料の方に入っているんですけれども、多くの方からの意見として、メンバーのところで、やはり規制が今ないわけではないと。つまり、我々は、現行の規制があって、そこはＡＩであろうが人であろうが何であろうがというところでの一定の閾値があると。その中で、今回このＡＩのリスクというところに対して、国として司令塔ができて、そこのところに民間のところが報告をしていく、あるいは官民連携をするというような一つの体裁が整ったというふうなところを考えております。 　ですから、ここのところ、緩くなっているというよりも、やらなければいけないこと、やってはいけないことという閾値はあり、また、かつ今後のそのリスクというものに応じて、リスクベースというものに応じて何を我々はしていかなきゃいけないのかというようなところをある程度明確にしていくと。当然ですけれども、当然、同時に、私どものところでＡＩのガバナンスと言っておりますが、この自主的に規制を、規制じゃないですね、自主的に自分たちを律するというところのこの考え方がございまして、こちらの考え方がどんどん今強くなっております。 　そういったようなところが、じゃ、具体的にガイドライン何なのかといったようなところも、これ既にできているものもありますし、これからも出てくるものもあります。 　そうなってくると、欧州とも整合が取れていきますし、やはりアメリカとも整合していくという形になっていきますので、私どもの考え方としては、そういう中でアジャイルにと、柔軟にという考えもありまして、アジャイルにという考え方もありまして、そこでその時々に応じてアクションを取るというところがベースの考え方でございます。

○柴田巧君　ありがとうございました。 　もう一点、ちょっとお聞きを、経済界代表ということもおありかと思いますので。 　このＡＩの研究成果の社会実装をやっぱり効果的に促進していくというのは非常に重要なことだと思っていまして、そのためには、社会へ橋渡しする仕組みが大事なんだろうと思います。 　そのためには、この産学連携の共同研究であったり技術移転の促進であったり、あるいはスタートアップ企業の創業支援などがこれから重要になるものと思いますが、特にこういうものがあればその社会実装が進んでいくんじゃないか、効果的に進むんじゃないかというものがあれば、教えていただければと思います。

○参考人（永沼美保君）　ありがとうございます。 　ここがまさにずっと何度も繰り返しておりますイノベーションとリスク対応のバランスというところなので、逆に日本のアプローチは、やらないでというベースがあって、そこのやってはいけない、やれるところの中でどうするというアプローチに今なっているわけではなくて、逆に、やってはいけないことというのがあって、それから、これから先にやるべきではないであろうということも出てくるとは思いますけど、そこの余地の中でイノベーションを促進をしていくというのが一つ大きな考え方でありますので、考え方のベースのところはやはりそこだと思っています。 　その上での官民の連携というところですので、当然、スタートアップのためにはどうしていくかと、中小の方をどうしていくのか。一方で、我々、比較的私も大きな企業の方におりますけれども、大きな企業として、やはりガバナンスも含めてやるべきことは何なのか、やっていかなければいけないことは何か、市場をリードするためにすることは何かというところを、やはりこの官民連携の取組の中を通じて具現化をしていくというところが、この法律をきっかけにしてでき上がっていく姿かなというふうに考えております。

○柴田巧君　ありがとうございました。 　次に、大屋参考人にお聞きをします。 　今日いただいた資料、というか前に、事前に事務局からもらった資料の中に、この法案は次世代を育てる視点がないと、達していないということをおっしゃっていまして、具体的にこの研究者、組織を国主導で支援しなければならないということを指摘をされていますが、ちょっと時間が余りないので大変申し訳ありませんが、特にこれをやるべきだと、足りないというところがあれば、教えていただきたいと思います。

○参考人（大屋雄裕君）　ありがとうございます。 　法案に書かなくてもいいといえばそのとおりなのですが、要するに、人工知能関連技術の開発あるいはその研究に積極的に予算を付けるであるとか、そのような教育部門の増設に対する支援を行うであるとか、あるいは、それこそ例えば永沼参考人もおっしゃいましたけれども、研究者の待遇には現状額面では少なくともアメリカと日本の間に大きな格差があるわけで、それを事業者の自助努力でカバーできるかと言われると、限界があると。そこを例えば国が支援するといったこともあり得べきスキームだとは思うところですね。そこには法案としては踏み込んでいない。もちろん、これらは基本的に予算措置の話なので、今後政府の施策の方で実現していただきたいということだとは思いますが、そのようなことになろうかと思います。

○柴田巧君　ありがとうございました。 　最後に、市川参考人にお聞きをしたいと思います。 　先ほど戦略本部のこと、村上参考人にもお聞きをしましたが、やはり今の、これまでどおりだったら目的は達せられないと思っていまして、このＡＩの戦略本部はどうあるべきか。併せて大事なのは、事務局体制が極めて、ここにも書かれていますが、極めて大事で、この事務局体制をどう充実させていくか、これが一つ肝になるのではないかと思いますが、先ほどお触れになった部分もありますが、教えていただければと思います。

○参考人（市川類君）　私も、役人経験者として言うと、やはりこういった戦略本部においては、ちゃんとその専門的能力を持った、かつ、その役人としてやるべき業務のやり方を知っている人材が常時いるということが非常に重要かなというふうに思っております。 　その際には、やはりまず、今、ＡＩ関係、ちょっとこういうことを言うとあれかもしれないですけど、政府全体でＡＩ関係が分かる人材というのが、やはり総務省、経産省プラスアルファのちょっとの人材の中しかいないよなというふうなところをまずは抜本的に変えていく。今後、政府でＡＩを取り組むという話でいうと、全ての省庁がもう今後ＡＩを使うわけですから、そこも含めて体制を見直すということと、やはり今でも例えばデジタル庁みたいなところはそれを進めておりますけれど、民間の知恵を含めて適切にちゃんと、利益相反とかが起こらない範囲内でちゃんとそこを取り組んで進めていくということが非常に重要かなと、こういうふうに思っております。 　以上です。

○柴田巧君　時間が来ましたので、終わります。 　四人の参考人の皆さん、ありがとうございました。

○竹詰仁君　国民民主党・新緑風会の竹詰仁と申します。 　今日は、参考人の四人の皆様、ありがとうございます。 　初めに、村上参考人と永沼参考人に同じ質問をさせていただきます。 　事前にいただいた資料にもあって、今日の御発言にも、村上参考人の御発言にもあったんですけれども、今の一番のリスクは、様々なリスクを恐れる余りＡＩを使わないことだ、ＡＩを使わないということがリスクであるという御発言の中で、今日、お二人は民間出身というか、今もお勤めの方なので、このＡＩを使う使わないでどれほど実際に差が、企業としてあるいは業界として差が生じているのか、あるいは生じるのかということで、使わないというのがリスクだとすれば、どういうところに、例えばもう思いっ切り企業業績に現れていますとか、そういった如実に出ている差、あるいはこれからそういう差が生じるだろうということについて、お二人の御示唆をいただきたいと思います。

○参考人（村上明子君）　ありがとうございます。 　私の民間としての立場としてこちらお答えさせていただきたいと思います。 　私は保険会社でＡＩの促進をしておりますけれども、ＡＩに限らず、技術を使った効率化というものは本当に、一〇％、二〇％ではなくて、五〇％、八〇％といった大きな効率化につながることがございます。その一つのビジネスプロセスを何かＡＩに置き換えるのではなくて、もうＡＩの時代に合わせたビジネスプロセスにする。それで、これは私の会社の例ではございませんけれども、五〇％以上の、財務会計に資するような、そういう効果を出すということがその技術力によってできる時代になってきています。 　これを使わないということになりますと、例えば私が所属している保険会社の例で申し上げますと、保険料をお支払いするときにそれだけ人件費が掛かっていると、いただく保険料の方が上がってしまうというような、市民の方に対する不利益を講じてしまい、あるいは市場競争力が下がってしまって市場のシェアを下げてしまうといったような影響があると思っています。 　今は効率化の観点なんですけれども、これが本当にＡＩが活用が進んできたときには、そのＡＩを使った新しい業務であるとか新しい仕事の創出といったものも期待できていますので、そういったことが、そのＡＩを使った経験がないと新しいことも同時にできないということがあるかと思います。 　そういったリスクが、私が申し上げたそのＡＩを恐れて使わないことというのが一番のリスクというふうに申し上げた次第でございます。 　以上でございます。

○参考人（永沼美保君）　ありがとうございます。 　同じ質問ですので、私も民間の人間でございまして、経団連としての、ユーザーも含み、開発、提供、ユーザーも含むというところでもあり、私自身がその全てに相当する企業というところから来ておるところからで、デジタルトランスフォーメーション、それからＡＩの利活用という今の時代にあって、これからのモデルと、ビジネスのモデルというところは大きく変換をします。ここのところで、効率化に限らないわけです、雇用の形態も変わり、いろんなところがある中で、やはりここの中で、今、そこのところをやはり乗らないというところになってきたときの影響というのが出るというのは、これは村上参考人からあったとおりでございます。 　そういう視点もあると同時に、やはり先ほどお話のあった人材でございます。人材が今、ＡＩというところ、人材とＡＩというところの掛け合わせのところがないままに走ったときに、日本がこれから十年後、二十年後、そんなに掛からないと思います、三年後、五年後というところで、人材というところで大きく差が付いてしまいます。 　そうしますと、その方々の未来であったりとか、特に若い若年層の場合の次の仕事もそうでしょうし、キャリアであったりとか、そういったようなところにもやはり大きく影響してくるものであると思っていますので、こちらについては、できれば年代を問わず、やはり今こういう時期であるというところで、残さないと、最近、インクルーシブＡＩといって、残さない、皆さんが入るという言葉はありますけれども、やはりそういった観点も含めて進めていくということかなと思っております。

○竹詰仁君　ありがとうございます。 　続いて、永沼参考人と大屋参考人に質問させていただきます。 　永沼参考人に事前にいただいた資料の中で、あとは今日の御発言の中にもあったんですけれども、日本独自の強みを生かせる国際指針というのが必要だということなんですが、ちょっとここをもう少し御説明していただきたいのは、その日本の強みを生かせる国際指針という一方で、逆に日本の強みが生かせられないような国際ルールが作られるということはどういったことなのかということを、お二人の御見解をいただきたいと思います。

○参考人（永沼美保君）　ありがとうございます。 　今日、私の方から何度もお話をさせていただきました国際のルール形成の場への日本の参画というところだと思います。 　皆様お手持ちの資料では二十七ページの二の国際的な相互運用性や国際的な指針の準拠のところの部分だと思いますが、日本の強みって何かというと、今日ずっとお話があるように、極端に走っていなくて、もうハードでもなく、でもソフトソフトもないですし、中間のところというところで現行法があり、このＡＩに対しての体制がありと、そこの中でイノベーションとリスクを両立をさせると。かつ、民間側が柔軟にアジャイルに再生をし、自らを律するという体制をつくっていくというところでございます。 　この考え方の部分というところがやはり国際のところにこれから持っていくところで、ＡＩに関しては、ハード過ぎるものについては今少し運用をどうするかと、法律そのものは変わらなくても運用をどうするかのところで議論はいろいろと起こっております、欧州の方でも。 　ですから、そういう、やはり緩めるわけではないですけど、そこのところでやはり難しさが生じないというような観点のところをやはり世界の方に持っていくというところが一つ大きいのかなというふうに考えております。

○参考人（大屋雄裕君）　お答えいたします。 　国際的な比較調査をいたしましても、日本人というのは、ヨーロッパであるとかアメリカと比べてＡＩに対する警戒感が低いということが示されております。したがって、適切な使い方をちゃんと提案していく限りにおいて、社会がそれを受け入れ、利活用が進むということが期待できます。もちろん、先ほど来問題になっている中高年の教育機会をどう提供していくかという課題はあるわけですけれども、きちんと働きかければ応えてくださるだろうという状況がある。したがって、それを生かして柔軟な効率化が進められるようなガバナンスルールができれば、それは我々にとって有利だろうと考えます。 　逆に、欧米には、ＡＩに対するある種の本能的な警戒感が非常に強いということが示されておりまして、これに基づいて非常に強いガバナンスが強制されるような国際ルールが形成されてしまうと、我々の社会では要らない手続をやらなければいけなくなってしまう。それは、特に高齢化社会を迎えまして、人手というものに限界のある我が国の社会運営にとっては非常に大きなマイナスになって機能してくるという可能性がございます。 　人間中心というのは、私も責任のある方針の一つではあるわけですが、ヒューマン・イン・ザ・ループということで、人間が必ず確認しなさいというようなガバナンス手続が要請されるケースがＥＵ・ＡＩ法などではございます。しかしこれは、要するにそれだけ人手を減らしてしまう、消耗してしまうということにつながりますので、もちろんそれが必要な場所でやることは当然なのですが、要らないところまで強制されると困るわけですね。 　そのようなことに対応していかなければいけないというふうに考えております。

○竹詰仁君　ありがとうございました。 　続いて、市川参考人にお尋ねいたします。 　先ほど、ＡＩの戦略本部のこともあったんですけれども、市川参考人の事前にいただいた資料の中に、この後のことだと思うんですけど、国と民間企業、市民団体などを組み込んだアジャイルガバナンス体制の整備、民間での取組を推進するには産業界、学界、市民団体などを含め重層的な意見交換、意思決定を行う体制が必要ですというふうに御示唆いただいているんですけれども、書いてある言葉は理解できるんですけれども、じゃ、具体的にどうするのかなと。例えば、産業界、学界、市民団体を含めというと、それを一堂に会する会議なんて多分できないでしょうし、実際に、そうやって連携していくという御示唆は分かるんですけれども、どうやったら連携というのが実際上起き得るのかという、ちょっとその点の御見解を教えていただきたいと思います。

○参考人（市川類君）　御質問ありがとうございます。 　やはり、ＡＩの分野に関しましては非常に、先ほどから村上参考人からもありましたように、いろんな多様な人が集まってやはり意思決定をしていかないと、その価値を決定する部分がございますので、必要だという話になっております。 　その中の、もちろん狭い意味でいうと日本でやっているような審議会プロセスもある意味でのマルチステークホルダープロセスなわけですが、その以外にも、やはり、例えばヨーロッパの動きを見ていると、例えば専門家を単にいわゆる学識経験者として検討会の委員に入るだけではなくて、専門家、たしかＡＩだと千人くらいの規模のＡＩの専門家が入って自由にディスカッションできるプラットフォームをつくり、その中での議論をまとめて専門家としての意見を出すとか、それもＡＩの専門家だけではなく、市民も含めて、あるいは労働団体、そういったところも含めて意見が出せるような、それこそオンラインでのプラットフォームをつくってやっているという事例があります。 　そこまでやるかはいろいろ議論あるんですけど、やはりこのデジタルの時代であると、単にみんな集まって議論しましょうねだけではなくて、いろんな意見を交換するやり方が出てきているし、日本もかなりやはりＡＩガバナンスに係る専門家が非常に少ない中で、いかにそのいろんな意見を聞きつつ、かつその他の人も、つくるというのは、今はこういうことをデジタルを使えばできる時代になってきていると思いますので、そういうのを活用を是非検討していただければと、こういうふうに考えております。

○竹詰仁君　ありがとうございました。 　大屋参考人にお尋ねいたします。 　先ほど国際指針のガバナンスのことも教えていただいたんですけれども、この生成ＡＩのときに出る一つの意見として、学習されたくない権利、自分はそのデータを出したくない、あるいは何でそんなデータが無断で使われちゃったのかということで、その学習されたくない権利、あるいは自分は嫌だと言ったのに使われてしまった後の補償とか救済とか、そのことはこの法案にはどんぴしゃの言葉は書いていないんですけれども、大屋参考人が考える学習されたくない権利、あるいはされてしまった場合の補償とか救済についてどのようにお考えなのか、教えてください。

○参考人（大屋雄裕君）　お答えいたします。 　まず一つに、学習されない権利を一般的に認めるべきではないと考えます。それは、例えば我々が物を書きます。それは世間の方々からはいろんな御意見があり、御批判を頂戴する、あるいは長大な反論論文を書かれるというようなことはありますが、それを受けて立つことが言論をする者の責任であるというふうに考えております。表現をするということは、それを見られるということは当然含意されているはずだと思うわけですね。したがって、一般的に、それが他者に利用されない権利みたいなものを考えることは困難であると思うわけです。 　ただし、一つは、先ほど意見を申し上げた際にも言及いたしましたが、競合製品を作るために使われると。例えば、仮に手塚治虫先生にしておきますが、手塚治虫の作品を学習して偽手塚治虫をつくって、しかもその作品を金で売りさばくというような利用法がなされるのは不適切であるわけで、このような利用目的に応じて不適切なものは禁止していくであるとか、アメリカの例であれば、それはやはりフェアユースと言えないという判断を示していくみたいなことは必要であろうと思います。 　もう一つは、禁止ではなくても、やはり自己の作った情報を基に他者が利益を上げた場合において、それが還元されるということはそれなりにあってしかるべきではないのかと思うわけですね。 　申し上げた意見の中ではニュース税に言及いたしましたけれども、マスメディア各社が汗をかいて費用を支払って得たニュースというものを言わばただ使いして巨大ＩＴプラットフォームはもうけておるということを放置すると、水源がかれてしまうわけですよね。その利益がメディアに戻らなければ、彼らは弱っていく一方になって、結局は社会全体が損をするということになる。だとすれば、その上がった利益のうち一部を、その井戸を掘った人ですよね、最初に苦労をして情報を作った方々の下に還元していく、議員、補償という言葉を使われました、そういう仕組みを考えていくことが必要だと思っております。 　ただ、これは恐らく直接的には著作権法関連の話題になろうかと思いますので、まさに今回設けられたような枠組みの中でＡＩ戦略本部等がそういう方針についても検討をしていくべきであるというふうに考えているところでございます。

○竹詰仁君　ありがとうございました。 　今、大屋参考人からいただいた中でのちょっと関連することを今度は村上参考人と永沼参考人にお聞きしたいんですけれども、官民の連携というのは、私、お互いの補完的な役割で、そんなにけんかする仲じゃないのかなと思うんですけれども、民民という連携というのが本当にあるのかな、この世界にあるのかなと。 　逆に、でも、ないと、生成ＡＩというのは、恐らくたくさんのデータが、基になるデータとか情報がたくさんあった方がきっといいだろうなというのは思うんですけれども、そうすると、ちょっと私も、永沼参考人の会社じゃないんですが、別のＩＴ会社の話、ちょっとこの間聞いてきて、やっぱり自分が持っているデータって出せないよと、そんな簡単なものじゃないというふうにその方もおっしゃっていて、じゃ、民民の連携って本当にあるのかな、でも、それがないとアメリカのＧＡＦＡみたいなところには多分勝てない。 　だから、日本もそこを越えて民民の連携も必要なんじゃないかなと思うんだけれども、一方で、個社のことを考えると、そういう連携というのって本当にできるのかなという意味で、その民民の連携、どうやったらそれって乗り越えられるんじゃないのというのをお二人の参考人からいただきたいと思います。

○参考人（村上明子君）　ありがとうございます。 　私からは、政府の組織の立場とそれから民間の立場と、両方の立場からお答えさせていただければと思います。 　まず、民間での、その民間同士といったときに、今ＧＡＦＡの例出されましたけれども、まず一般的に、ＡＩが加速して自分たちの提供しているものが使われるために協力をし合うということが今のＡＩの会社同士でも起こっていることです。 　例えば何があるかというと、ラージ・ランゲージ・モデルという言語モデル、ＡＩのモデルを安全にするために協力して、何がそのＡＩのリスクなのかということを会社の垣根を越えて模索するということはしています。これは、個社で、自分たちでそのリスクというものを全部網羅することができないので、協力し合うと。 　ただ、それをビジネスにする場合、例えば、私、金融におりますけれども、金融のＡＩリスクというものをコンサルテーションするような、そういうリソースをつくった場合には、それは他社には見せたくないというところはございます。なので、まず、その民民のところも、ＡＩをサービスする側というのも、どこからがビジネス点になるのかというのは非常に考えて行動していると思います。 　もう一つは、ＡＩを利用する側の民民のところでございますけれども、やはり、私、保険会社なので保険会社の例で申し上げますと、競争領域におけるところでのＡＩで何をやっているかを公表するというのは非常にやりにくいことで、自分たちの手のうちを明かしてしまうことはできないこと。 　しかし一方で、例えば、不正請求に対するようなモデルを業界団体でつくりましょうであるとかデータを共有しましょうといったこと、あるいは交通事故を減らすためにデータをお互いに共有しましょうということは、実はもうやっているんですね。事故の多い交差点を探して、その交差点の改善をしていただくように自治体の方に促したりといったことは、私たちのデータを共有することでしています。 　そういった非競争領域で社会的に利益が上がるようなことに対するデータの公開というものはしていけるのではないかなというふうに感じております。 　以上です。

○参考人（永沼美保君）　ありがとうございます。 　今、村上参考人からもお話がありましたのでちょっと手短にはなりますが、情報共有というのは非常にやはり線引きというものが必要であるということは事実でありますが、やはり個社では、個社で一生懸命やっても業界全体の底上げにならないですとか、やはりその全体を底上げするためにはどうするか。その中で、例えばフレームワークみたいなものがあるといいとか、それからあと、ばらばらな定義みたいなものをみんなで少し考えましょうと、そういったような業界横断の取組というのは、これは通常どおりありますし、そこの部分のところはあってよろしいかと思います。 　また、日本でそういうことができた場合、それを当然、政府の方に提言をしていくということもありますし、実はそれを国際に持っていくという活動も我々はしております。そうすると、それが国際的に標準になればもっといろんな方の扱いやすいものにもなりますし、国際標準になればそれはそれで私どもとしてはもう共通のものとして使えますので、そういったようなところが民民の共同領域かというふうに考えております。 　以上です。

○竹詰仁君　参考人の皆様、今日はありがとうございました。 　以上で終わります。

○井上哲士君　日本共産党の井上哲士です。 　今日は、四人の参考人の皆さん、本当にありがとうございます。 　まず、全体に関わって、ＡＩへの国民意識の問題で四人の参考人にそれぞれお聞きしたいんですが、先ほど大屋参考人からはヨーロッパの方が警戒心が強いというお話がありました。市川参考人の事前の資料を見ますと、例えば日本の映画やアニメでは、ＡＩ、ロボット、鉄腕アトムのように友情の対象として描かれているということも言われておるんですけど、一方で、先ほど来出ていますように、世論調査、政府が公表したこの意識調査でいいますと、日本の国民は、現在の規制や、規則や法律でＡＩを安全に利用できると考えているのは僅か一三％、規制強化が、規制が必要だというのが七七％という数も出ているわけですよね。 　ここのギャップをどう考えるのかなというのがありまして、なぜ日本の国民の中でこういう安全に利用できるというのが少ないのか、またこれが今回の法律、法改正で改善されていくのか、それぞれお考えをお聞かせいただきたいと思います。

○参考人（村上明子君）　お答えいたします。 　海外と日本と比べるとＡＩに対する障壁が少ないというのは、私も肌感覚ではございますけれども、感じております。やはり、ＡＩの暴走であるとか人権侵害ということを考えるのは、日本の方よりも海外の方の方が多いという印象でございます。 　一方で、その安全に使えるのが、安全だというふうに考えているのが一〇％台、規制が必要だと考えているのが七割を超えているというこの現状でございますけれども、こちらは、やはりまずその安心と安全という言葉の定義をこちらで再定義させていただければと思うんですね。安全であるということと安心できるということには少しギャップがあります。安全であることというのは、例えば規制を行ったり、あるいはそのレギュレーションを作ったりということで、リスクが起きないように事前に用意をしておくということが安全につながるんですけれども、それが十分になされているということが周知して、自分が何かをするときに安全にできるんだということを確信すると安心につながるんですね。 　で、この世論調査というのは、恐らく安心かどうかと、安全に使えますかというのを聞いているんですけれども、主観的に安心していますかということを聞いているので、そこに少しギャップがあるのかなというふうに思っています。 　一方で、安全に対する課題というのは、やはり、これは国民の方が感じるより前に、毎日毎日ＡＩの技術が進歩しているので、毎日、安全であるかという状態が変わっていきます。ここをしっかりと対応しているということを国民の皆様に知らし続ける啓蒙活動というか、その広報活動というのが、十分にこのギャップを解消していく鍵になるのではないかなというふうに感じております。 　以上です。

○参考人（永沼美保君）　ありがとうございます。 　企業というか、経済界の立場からちょっとお伝えいたします。 　政府の役割、それから日本としての安全、安心の考え方というのがあると同時に、今、世界的な一つの流れとしまして、先ほど来から申し上げているガバナンスというものがございます。特に企業、我々のようにサービスを提供するなりの企業ですね、開発者もそうですけれども、その企業は、やはり我々が何を考えていて、皆様に安全な製品、あるいは安心して使っていただけるためにどのような努力をしているか、またどのような仕組みでそれを運用しているのかといったことをきちんと説明をしなさいというのが非常に一つの流れとなっております。 　そういった流れがある中で、この法律のあるなしにかかわらず、やはり私どもはそういった流れに合わせた形で皆様に説明をしていくということがどんどん求められている中で、やはり先ほどもありましたけれども、国民の皆様に啓発をしていくというその政府の役目もありますし、私どもも、経済界、企業としてもきちんと説明をして、皆様に使っていただくそのサービスというものを提供すると同時に、我々がそれをいかに担保しながら、担保しながらというか、それを安全に運用するために何をしているのかというところを説明をすると。そういったようなところがやはりこれから求められてくると同時に、それによって皆様の理解というところも深めていかなければならないというふうに考えております。 　以上です。

○参考人（大屋雄裕君）　お答えいたします。 　村上参考人がおっしゃった安全と安心の違いということを前提として、二点ほど考えられようかと思います。 　一つは、ある種のバイアスがやはり報道から生じるであろうと。つまり、システムというのは異常動作が起きたときだけ報道されますので、かつての体感治安の問題と同じでございます。 　事件が起きると報道される、そのために、犯罪は周りで増えているというふうに思う方はそれなりに市民の中で多いわけですが、実は犯罪は統計としては減り続けているわけですよね。このような形で、やはり、詳しくない方ほど、技術的な実情というのを余り理解しないままに不安感が高じているというところは一つあるのだと思っております。 　もう一つは、ＡＩという言葉で何を想像しているのかというところにずれがあるだろうと思っております。 　そもそも、ＡＩという言葉を正確に定義するのは各種の行政文書が全て失敗しているのですが、例えば、古典的な例ですけれども、映画の「二〇〇一年宇宙の旅」ですか、あれに出てきたＨＡＬ９０００みたいなものを考えると、あれがやはり人類に反逆するのではないかという不安感を持たれるわけですよね。その一方で、かなり多くの国民の方は日常的にスマートフォンを利用しておられ、そのときは指紋認証とか顔認証という、まさにＡＩ技術で認証を掛けているわけですよね。 　その日々日常に浸透して、日々我々が使っているものがＡＩであるということを我々はすっかり忘れる傾向がありまして、したがって、そういうものではない、自分が使ったことのない未知のものをＡＩと置いた上で、それは不安だと思っておられるのではないかということも我々は考えていかなければいけないと思っております。 　以上です。

○参考人（市川類君）　御質問ありがとうございます。 　先ほども説明した話とこれまでの参考人と重なる部分ございますけれども、やはりまず、海外、特に欧米の方々と、これはＡＩガバナンスとか政策の議論とかに関わっている方たちと話をしてみると、欧米の方で、特に市民団体の方も含めて、やはりＡＩが今後人類を破滅させるのではないか的な発想を持っているのが、日本ではほとんど議論されないんですけど、海外、もちろんニュースとか見ていただいたら分かりますが、海外ではその議論が真面目にされています。そのために、非常に怖いよな、したがってＡＩを規制しなければいけないという話があると思います。 　一方、日本でも、内閣府の資料ではやはりＡＩに対する不安感があるというふうな話がありますが、これちょっと原典を私も見てみましたけれども、確かに日本は非常に低い。でも、先進国は結構押しなべて低いんですね。 　不安感が低いところ、すごく安心して使っているというのは、これはやはりブラジル、インド、中国という、要は、私の理解だと若者が非常に多い国なんですよね。日本も、一九七〇年くらいは、世界から言われると、非常に新技術に対して受容性が高い、若い世代がどんどんどんどん冷蔵庫とかそういうのを使っていって世界を変えていったという世界的な評価だったと思うんです。 　そういった意味でいうと、先ほども申しましたように、やはり世代によって、新しい技術が出てきたときに、まずはちょっと拒否感を持ってしまう。何かリスクが起きるんじゃないか、今まで使ったことがない技術なのでよく分からないよねというところが非常に大きな要因になっているんではないかと私は見ております。 　したがって、やはりここについて、ＡＩって使ったらやっぱり、さっきもお話ありましたように、指紋認証も含めて便利ですよねというところも含めて、そこをちゃんと日本としてその改革を進めていくと安心な使い方ができるような社会になっていくんではないかなと、こういうふうに認識しております。 　以上です。

○井上哲士君　指紋認証なんかも含めて今ある問題と、一方で、先ほど来ありますように、非常にデジタル、このＡＩ技術の発展が非常に急速だと。アジャイルで対応するというお話も出たわけですけども、一方で、被害が起きてからでは遅いという議論もあるわけですよね。 　例えば、日本の今の個人情報保護法は個人の権利利益の保護を目的とするということで、日弁連などは、非常にこれが余りにも漠としている、もう少しきちっと規定をして、そして、このいわゆる予防的な観点も含めて権利保護の強化やリスクに応じた規制を行って、まあ適切な規制を行うということが必要だという議論があるんですが、これは大屋参考人と市川参考人、いかがでしょうか。

○参考人（大屋雄裕君）　ありがとうございます。 　個人情報保護の世界で申し上げますと、やはり明確な悪用を意図している事業者とか個人がおるということを前提に我々は法規制を考えていかなければいけない、いわゆる名簿屋問題などがそれに当たると思っております。 　他方で、ＡＩ技術についていいますと、例えば人類を滅ぼす結果を生み出すようなＡＩを開発しようとする事業者というのがどこにいるかと考えると、余りいなさそうなんですね。先ほど申し上げましたが、やはり基本的には、事業者は、我々が喜んでその事業者の提供するサービスを使ってお金を落としてくれることが大好きなのであって、そのようなウィン・ウィンのインセンティブを持っていると考えることができます。 　ただ、それにしても、こういう問題についてはきちんと注意しなさいよというその安全性検証の枠組みを提供していくことは重要なわけですけれども、第一義的には、彼ら自身が自らの商売に真面目に取り組んでくださることを期待して、それが可能になるような枠組みを用意しておけば一応は足るであろう。一応はと申し上げたのは、ＡＩの世界にもそういうことを考えるやからがいないとは限らない。というのは、安全保障の問題になってくるからでして、これについてはやはりこの法案のスコープをちょっと外れたところで別に議論していただかなければいけない課題だというふうに認識をしておりますということです。

○参考人（市川類君）　御質問ありがとうございます。 　私は個人情報保護法そのものの専門家ではございませんが、やはり技術とこういった権利関係に係る制度という意味でいうと、やはり技術が変わってくるとその制度の在り方も変わってくるのかなと、こういうふうに思っています。 　プライバシーに係る議論というのは元々、昔はなくて、一八〇〇年代後半になって新聞とか書籍とかいう技術が出てきたときに、それに対してプライバシーというのが守らなきゃいけないんじゃないかということで、まずは新聞関係の規制として始まり、その後、一九六〇年代ぐらいに、日本でいうと、いわゆるプライバシーのあの有名な判決、ちょっと失念しましたけど出て、それが憲法上の概念として位置付けられ、その後デジタル技術が出てきて、それに対してまずは何かデータベースというものを保護しなきゃいけないよねということで、欧州でデータ指令が出てき、その後、今度はデータベースというよりはもう今やデータの時代という話になり、個人情報保護法が改正されＧＤＰＲができてという、こういう流れになる。この中でＡＩというのが出てきて、恐らくこれは、利用の側面も含めて、今までなかったようなやはりプライバシーに係る、社会規範に係るようなものが出てくるわけです。そういった意味でいうと、利用すべき点については、ここは余り被害を受けない、じゃなくていいんじゃないか、一方、ここのところは新たに対象にしなきゃいけないんじゃないかという問題が出てきているものではないかなというふうに認識しています。 　じゃ、一方で、予防原則を全てやるというのはこれはちょっと、まあ考え方はいろいろありますが、やはりバランス論というのがありつつ、一方で、被害を受けた人に対してどう補償するかという事後的な仕組みもどうつくっていくかという、そこら辺の議論が今後議論になっていくんではないかなと、こういうふうに認識しております。 　以上です。

○井上哲士君　ありがとうございます。 　国民のいろんな不安の一つに、ＡＩによる人事採用や評価でいわゆるこのブラックボックスやバイアスの問題ということがいろいろ出ております。 　先日、私、この問題質問しますと、政府の答弁では、新たな指針で、生成ＡＩが格差、差別を助長するような出力をしないような措置をＡＩ開発者が講じることについて盛り込むことを検討していると、こういうお話で、一般的なお話だったんですけど、そういうものを出力しないようなことをＡＩ開発者が講じるというのは、具体的にどういうことになるのか。これ、村上参考人と永沼参考人、それぞれお願いします。

○参考人（村上明子君）　お答えいたします。 　まず、ブラックボックス化というところですけれども、これブラックボックスには実は二つありまして、一つはその中身を、ロジックを公開したくないというブラックボックス、それから、生成ＡＩを利用したものによくあるんですけれども、そのシステムを作った者ですらなぜその出力が出てくるのか分からないという、そういうブラックボックスが両方ございます。 　それをちょっと一緒に議論をしてしまうとややこしくなるので、今その人事採用のところでいうと、例えば効率化で、この送られてきたレジュメに対して、何万とある中から面接が可能あるいは人が読むのに可能な人数のところにあるルールを持って絞り込むというようなことに利用する場合と、採用に近いところに、割と比較的採用したら活躍してくれる人をＡＩのモデルを作って選別するというような、そういう形で作るような、そういうモデルがありますけれども、今、前者の方に関して言うと、実はその各社がどういう人をフィルタリングするのか、どういう人を選ぶのかというルールはその会社の戦略そのものなんですね。なので、それを公開しろというと、そこは会社としては難しいということになります。 　一方で、後者のようなものというものは、例えば先ほど申し上げたような差別の再生産であったり、これ今採用の話をしていますけれども、例えば、自治体で例えば何か補助金を出すときの判断にＡＩを使うなんていったときには、どういう基準でそのシステムを作って動かしているのかというのを透明性にするべきというのはしっかりとやっていかなきゃいけないことになります。 　なので、オープンにできるかどうかというのに、そのまず技術的な二つの区別があるということ、それから、戦略的なのか、それとも戦略的でないところでそのロジックを使っているのかというところというのを分類して考えて、公開するべきところ、公開しなくてもよいところというのを見るべきではないかなというふうに思います。 　以上です。

○参考人（永沼美保君）　ありがとうございます。 　ここは、今お話にありましたように、各社のちょっと戦略というか、その中の内部の話になるところがありますが、一般的な話として考えたときに、各社の中ではやはりそのデータの扱いのところについては、以前の御質問のときにも申し上げましたが、ルールというものをやはり設けております、私どもの中でも。 　そのときに、各社の中でその入力データに関して、出力データに関して、その扱いに関してというところのやはりルールにのっとった形でどうしていくかというところが戦略になってくると思いますけれども、そういったところで実はどのくらいのことがやはり決められていかなければならないのかと、その扱いのところというのはやっぱりどうあるべきなのかといったような議論は、これは業界の中でもやはり横断的にあってしかるべきことで、そうすることでまた業界の中で少しずつ、やっていいこと悪いことというところがクリアになっていくと、そういうような段階を踏んでいくというところになってまいります。 　以上です。

○井上哲士君　今の問題も含めて、大体政府はこの間、基本的には既存法とガイドラインを組み合わせて対応と、こういうことなんですが、結局その事業者任せになってしまうんじゃないかという、こういうおそれもあるわけなんですが、ヨーロッパなどでやっているような、いわゆる第三者のチェック体制というのも必要ではないかと思うんですが、これ、村上参考人と大屋参考人、それぞれお願いします。

○参考人（村上明子君）　ありがとうございます。 　今、既存法とガイドラインでしっかりと見ていくといったところは、まさにこの法案での指針なんですけれども、例えば人事採用であるとか、そういった人の選別にあるようなものというものに関して一定のガイドラインを設けたときに、そのガイドラインに従っているかどうか、あるいはガイドラインに従っていることを透明性高くしているかどうかということは、何らかの外に分かる形で示すということで対応ができるのではないかなというふうに思っております。 　以上です。

○参考人（大屋雄裕君）　ありがとうございます。 　各事業者には、基本的には適切な人材を採用したいというインセンティブがあると思います。なので、不合理な差別については競争環境の中で淘汰されていくということが期待できようかと思います。 　他方で、ダイバーシティー・アンド・インクルージョンが最も適切な例だと思いますけれども、過去の経緯で例えば男女間に効率の差が生じてしまっているけれども、それは本来不当なのであるというケースがあり得ようかと思います。そのような場合には、逆にＡＩを利用することによって効率的な採用が行われた結果、既存の差別が拡大再生産されるということになりかねないというのは事実であります。 　これについては、結果に対する監査をやるという方向しか恐らくは対策はないわけでして、それを第三者機関でやるのか、あるいは、ある種の監査ＡＩみたいなものでやることを義務付けるとか、あるいは、そういう点に注意して採用活動をやらないと結局は損をするのはあなた方ですよということを事業者の自覚においてやってもらうのかというのはいろいろな選択肢があり得ようかと思いますが、典型的に生じ得る問題なので、一定の対策は必要であるというふうに認識をしております。 　以上です。

○井上哲士君　どうもありがとうございました。 　時間ですので、終わります。

○大島九州男君　れいわ新選組、大島九州男でございます。四人の参考人の皆さん、ありがとうございます。 　早速ですが、二点、四人の皆さんにお聞きをしますが、基本理念の中の五に、国際的協調の下に推進することを旨として、我が国が人工知能関連技術の研究開発及び活用に関する国際協力において主導的な役割を果たすと。いや、できるのかこれはという素朴な疑問に対してどうお答えになるかということ。 　それともう一つは、国の責務を決めるのは、それは当然だろうと。で、ここでまた、国民の責務で、ちゃんと何か国がやることと地方公共団体がやることに協力しなさいと、まあ、従えというふうには書いてないけれども、努めなさいと。それは必要なのかなと。この二点を、どうぞ。

○参考人（村上明子君）　まず、一点目の国際協力に対してできるのかというのは、恐らく本日参加している四人の参考人が皆心配しているところというふうに思っております。 　私がＡＩの安全性に関しての日本を代表して国際の場に出ると、大体、日本から出る方、同じ方なんですね。同じ人が結構代わる代わる闘っているというところで、ほかの国を見ますとかなり層が厚くなっています。なので、これはもう急務として、その国際的な議論ができる人材というのを育成しなきゃいけない。これは官民両方ですね。民間から、私のように民間から出て協力をする人だけではなくて、官の中にもそういった人材をきちんと育成することは急務だというふうに考えます。 　二つ目の国民の責務でございます。 　これ、責務という言葉の重みでございますけれども、努力目標と責務というのが、日本人にとっては、努力してくださいというのと責務というのがほぼ同じぐらい重く捉えられているというふうに思っておりまして、その表層的な言葉での責務というふうに感じるのと、努力するようにというところには余り差分がないように思っております。 　やはり、このＡＩの急速な進化に従って、私も中高年でございますけれども、中高年というのは今までのスピードと違う経験というのをしているので、今までの判断をしてしまうと間違った判断をする可能性があるので、ここは危機感を持ってもらうというためには、少しそういう表現を使われてもよろしいのかなというふうに私は個人的には感じております。 　以上です。

○参考人（永沼美保君）　ありがとうございます。 　国際協力のところにつきまして、ルールメークというところで本日何度も私の方から申し上げておりますので繰り返しはあれなんですけど、この国際人材ですね。 　ＡＩも顕著でございますが、実はここに関しては課題がありまして、やはり民間、私も実はそういった場所に実際に出ておる人間でございます。民間のところ、それから官の方で一緒に連携をしてやっていかなければいけないところ、それから研究分野のところ、いろんな分野のところでとにかく、人数というところもありますし、リソースの人数もありますし、リーダーみたいな方、この主導していく方というものをやっぱり人材としては送り込んでいく必要がございまして、日本からそのリーダー格になるような方をどう送り込んでいくかというところがあります。ここは、今多様性のいろんな条件等々もあったりはしますが、いずれにしても、その部分が一つ大きな課題であるということは、これ共通認識でございます。 　責務の記述の部分でございますが、私どもは一応事業者と、事業を提供する者ということで七条のところに書かれておりますので、まず、ここは努力義務ではございますが、まずは一旦これ私どもとしてやっていく話であろうというふうな認識でございます。 　以上です。

○参考人（大屋雄裕君）　二点お答えいたします。 　一つ目は国際協力の点でございますが、意見の中で言及いたしましたＡＩ開発ガイドライン、総務省のものですね、これには実は国際的議論のためのという言葉がくっついておりまして、ちゃんと英語に訳して世界に向けて発信をしたと。その後の働きかけもあって、実はＯＥＣＤガイドラインの制定に大きく貢献したという実績がございます。 　このような形で、実はこれまで、この分野において日本は、先駆けて日米欧の協力のフレームワークをつくり、ある時期までは中国もその協力のフレームワークに応じてくれるというところまでは持っていった実績がございますので、引き続きその貢献をすべきだということがここに示されておるのだと思いますが、一方で、村上参考人御指摘のとおり、ずっと同じ人間がやっておるではないかというのも事実でございまして、私もそろそろ疲れてまいりましたので、やはり先ほど申し上げたように、次世代の人材育成ということに向けての手厚い配慮をいただきたいというふうには考えております。 　第二は、責務の点でございます。 　二〇一六年に、マイクロソフトがＴａｙという会話ロボット、チャットボットですね、をインターネット上に公開したところ、様々なユーザーがいろんなことをした結果、二十四時間以内に差別的発言を繰り返すようになり、一旦サービス中止に追い込まれ、修復したということで再公開したんだけど、やっぱり同じ結果になって公開が停止されたという事案がございました。 　オンプレミスという言い方を我々は用いますが、通常の例えばワープロソフトのように、自分のコンピューター上で動いていて、結果も自分のコンピューターで閉じているというケースであれば、これは何をしていただいてもよいのだと思います。改造を試みて、その結果動かなくなりましたというようなことがあっても、それはそれで差し支えなかろうと思うわけですが、現在のＡＩシステムは、例えば物理的にはインターネット上のサーバーで動作している。したがって、あるユーザーの動作が直接にほかのユーザーたちに影響を及ぼすということもあれば、物理的にはオンプレミスで手元の端末上で動いていても、学習結果を共有するなどの形でその結果が他の一般的なユーザーに影響を及ぼすという環境の下で動いております。 　ということは、その存在が全てのユーザーに一どきに影響を与えるようなインフラストラクチャー的なものとして機能しているということでございまして、であるならば、その利用者には一定の行為ののりというものがあってしかるべきなのではないかと。やはり、水道の水源となっている池に毒物を投げ込むということはこれは許されないのであって、他者に被害を及ぼさないように自らの行動を抑制すべき道義的責務はあると私は考えております。 　もちろん、これを法的義務にしてよろしいかということについては非常に大きな議論のあるところであろうと思いますし、それはうかつにやればプライバシーを無視して私的生活の監視をもたらすことになりますので、ここは大いに注意しなければいけないところだと思いますが、今回の法案は一定の責務があることを確認したにとどまるものでありますので、このような書きぶりは先ほど申し上げたような問題認識からも適切なのではないかと考えておるところでございます。 　以上です。

○参考人（市川類君）　御質問ありがとうございます。今までの参考人とほぼ同じ答えになるかと思いますが。 　まず、国際協力において主導的なという意味でいうと、やはり日本の戦略は、アメリカのようにデファクト取れるわけでなく、ＥＵみたいにＥＵ・ＡＩ法でブリュッセル効果で世界を支配する、ルールを作るというのもできないので、積極的に国際協力を通じて標準化を進めようとしてきたというのが事実だと思います。その成果がＯＥＣＤのＡＩ原則であり、広島ＡＩプロセス、これは非常に評価が高いですし、今、ＡＩＳＩの国際ネットワーク、村上さんが出ているやつも含めて、積極的に進めているという意味では非常に主導的な取組です。 　ただ、その実態を言うと、もう先ほどから今までありますように、総務省でやっている方も、ほぼ一人の個人的な能力で、もう皆さん思い付く、顔が思い付く方のみがやっているわけでありまして、それがやはり政府としての体制になっていない。それから、民間企業あるいは学界からも行くわけですけど、大体同じ顔の人がもう疲れながらやっているという実態がありますので、ここはやはり政策的にもこういった対応をできる人材を広げていくというのが非常に重要な課題ではないかなと思っています。 　後者の責務、及びのところですが、もちろんこういった法文というのは非常に重要なのかなというふうに思いつつも、ちょっと個人的に言うとどっちでもいいのかなとも思いつつ、ただ一方で、今までありましたように、ＡＩというのは、よく言われるのは民主化が進んでいると。民主化が何かというと、もう個人が使えるようになっている。で、個人が使うときに、やはりさっきの話なんですけど、ディープフェイクも含めて、個人の権利侵害も含めて、悪いことするやつがいるというのもこれは確かで、これは、こういったところをなくしていこうということをしていかなきゃいけないのも事実だとは理解しております。 　以上です。

○大島九州男君　私の認識としては、今、それぞれ参考人、一つ一つの知能ですよね。その知能というのは、今までの経験とか今まで自分がインプットした知識とかそういうところから出てくるわけですよね。 　当然、コンピューターもＡＩも、そういうふうに与えられたものでインプットされたやつからアウトプットしていくという。だから、もっとちょっと分かりやすく言うと、働く側の人の声だけをずっと入れていたらこれは労働者の考え方、経営者の声だけずっと入れたらその経営者の考え方、で、これが議論し合うと労使交渉になるみたいなね。でも、要は、その一つのコンピューターの中にそれこそ労働者の声とそして個々の経営者の声を入れたら、出てくる答えはそこの仲裁をする例えば調停の声だったり裁判員の声だったりすると。 　大屋参考人にちょっと聞きたかったのは、裁判の判例で、今までずっと判例の出ているやつについて出せばそれなりのものが出てくる。でも、最高裁で今まで判例が出てきていないことを最終的に判断をするというのを仮にＡＩでやろうとした場合、そのことまでいろいろ学習をさせて、違う判例が出ていく場合もあるという経験が当然あるわけですよね。そこに裁判員が何人かいて、何対何でというような、先ほど複数で判断すると。ああ、なるほど、そういうこともあるよねと。 　じゃ、これ技術的なことでちょっと私も分からないから質問するんですけど、そういうものを入れたときに、答えというのはＡＩは出し得るように進化するんですか。

○参考人（大屋雄裕君）　ＡＩは機械ですので、例えば一定のデータを学習させて、そうですね、解答例を十個出してみよとか、違うパターンでバラエティーを持たせて百個作ってみろと言われたら作ると思います。 　問題は、その中でどれが最も良いとか、相対的に良いという評価をＡＩはなし得ないということで、なので、まさに生成ＡＩとはそういうものなわけですが、作るだけ作らせるというところまではＡＩでいいものが出せる、あるいは少なくともやれることはやれる、それを評価するところがまだ人間にしかできていないというのがお答えになろうかと思います。

○大島九州男君　よくＳＦの世界じゃないけども、我々、今回サイバー法案もやりましたと。 　じゃ、当然このＡＩ、コンピューターですから、いろんな外から攻撃を受けて、意図せぬそういう脳に変換されていると。我々人間でも、例えば、我々は政党人ですから政党で決まっていることを当然言うと思っていたら、突然何か女系天皇がどうだとかいうようなことを言ったみたいなね、いうような、えっ、何これというような、おかしいんじゃないの、壊れたのみたいなね、いう部分を、これを修復をしていって直していきながらみたいなこともあるんでしょうけど、実際、そういう意図せぬことをやられるというようなことも当然あるんですよね、これは。

○参考人（大屋雄裕君）　コンピューター自体は、あるいはＡＩというプログラム自体は、その書かれたとおりにしか動きません。 　問題は、我々人間がこう動いてほしいなという思いをプログラムという形で記述するわけですが、そこがパーフェクトではないということですね。つまり、いわゆるバグという問題が起きて、それはコンピューターの誤動作だというふうに我々はつい表現してしまうのですが、プログラムは正常に動作しているんです。人間の表現が間違えたのですね。そのような問題はＡＩについても常に起こり得ます。

○大島九州男君　済みません、何かちょっと我々も素人であれなんですけど、ブラックボックス化っておっしゃったですよね、先ほど。何でそれが出たか分からないというような、だから、自分たちはこういうふうな意図でインプットしたんだけど、こういう答えが出てくるというのはちょっと理解に苦しむなというのは、勝手にその人工知能がそこで何か違う思考というか違うものを取り入れてやっていると、そういう認識でいいんですかね、そのブラックボックスというのは。大屋さん。

○参考人（大屋雄裕君）　基本的にはそのようなことでいいと思います。 　囲碁の場合のＡＩがまさにそうだったのですが、ルールを与えているわけですね。こういうルールで勝ち負けを判定しますよと。それはＡＩにトライアル・アンド・エラーを自動的に何度も何度もやらせたわけであります。そうすると、これまでの人間のいわゆる定石では発見されていない手法というのが発見されたというようなことがございました。この場合は、基準を与えていて、基準に対して最適化しなさいよという人間の意図は伝わっているわけですね。ただ、それはきっとこういう動作になるであろうなという我々の予想とは違う結果が出ていたわけであります。 　このような形でのずれというのが起きていて、なぜこうなったかが分からない。良いのは良いんです。良いことは分かるんだけど、何でなのか分からないというのが今ＡＩについて言われているブラックボックス化と呼ばれることの実態であります。

○大島九州男君　引き続きあれなんですが、ＡＩを使って今軍事目的でドローンで飛ばして攻撃していると、当然そのプログラムはこの目標に向かって行きなさいといって出すわけですけど、それを何らかの形で違う方向へ持っていくということもできるわけですよね。じゃ、それがブラックボックス化されて、今言うように勝手に、インプットは、我が国のために、平和を守るために君たちは頑張るんだぞというインプットであったと、ところが、それが何か違う意図せぬ国のところに例えば飛んでいったと。でも、それはＡＩからすると、いやいや、自分たちの国を守るためにそこを攻撃したんだみたいなことも起こり得るという、そういう理解でもいいですか。

○参考人（大屋雄裕君）　二つの事案があろうかと思います。 　一つは、おっしゃった例の一つは、サイバー攻撃があったようなケースで、本来学習させたもの、あるいは利活用者が意図していたのとは違う目的が勝手に注入されたと、こういう形でのアタックを受けることによってシステムが乗っ取られる危険というのは当然ございます。これについては、したがって、結果をちゃんと検証して、ドローンの場合であれば、多分違った方向に行ったのが目に見えますので、その時点でシステムをシャットダウンして、安全回復、安全確保措置を講じるみたいなことが要請されることになります。 　それとは別に、先ほどのバグと同じなのですが、一定の評価基準は伝えましたと。ところが、その評価基準が言葉足らずであった、我々からするとですね、というようなことがよく起きるわけであります。先ほど申し上げたＨＡＬ９０００の例というのは実はそのケースだったはずで、要するに、安全を確保しようとすると、中に乗っている人間を殺すのが一番早いのではないかというふうに人工知能が考えちゃったみたいな事案だったわけですね。 　なので、これについては、まず第一に、ＡＩシステムに入力する目的をちゃんと正しく検証するということが必要になってまいりますし、やはり、事後にその効果を検証し、監査の問題ですけれども、間違ってないということをきちんと確認していかないといけない。 　あるいは、特に重大で回復不能な損害が生じ得るシステムについては、これは直接に出力をさせるのではなくて、あるいは出力から自動的に何か起こすのではなくて、人間が介在して、本当にこれでいいのかというのを確認した上でないとゴーサインが出ませんよみたいな安全確保措置を講じなければいけないということになろうかと存じます。

○大島九州男君　ということは、まとめますと、生命を危険に冒すような機械というかそういうものにＡＩを今使ってやっていくというのは時期尚早であるし、安全性がまだ確保されていないので、それは慎重というよりはやめた方がいいですよという、そういう認識でいいですか。

○参考人（大屋雄裕君）　安全確保措置が十分に講じられていれば大丈夫だし、そうでなければいけないというのがお答えになろうかと思います。 　一例として申し上げますと、医療に用いられるＡＩ診断ですね、診断機器にＡＩを組み込んだ場合に、それがちゃんと動作しているし期待どおりだよなということは常に医師が点検して、その上でないと実際の医療行為につながらないようになっております。 　このような形で、能力のある人がちゃんと監査した上でということであれば生命のようなものについても利用可能だと思いますし、何かインターネット上でいきなりＡＩ病気診断システムが動き始めるというような事態は避けた方がよろしかろうと思うところでございます。

○大島九州男君　どうもありがとうございました。

○委員長（和田政宗君）　以上をもちまして参考人に対する質疑は終了いたしました。 　参考人の皆様に一言御礼を申し上げます。 　参考人の皆様には、長時間にわたり貴重な御意見をお述べいただきまして、誠にありがとうございました。委員会を代表いたしまして厚く御礼を申し上げます。（拍手） 　本日はこれにて散会いたします。 　　　午後四時二十一分散会