内閣委員会 第14号

○大岡委員長　これより会議を開きます。 　内閣提出、人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。 　本日は、本案審査のため、参考人として、東京大学大学院工学系研究科　技術経営戦略学専攻／人工物工学研究センター　教授松尾豊君、一橋大学大学院法学研究科教授生貝直人君、一般社団法人ソフトウェア協会会長、さくらインターネット株式会社代表取締役社長田中邦裕君、一般財団法人ＧｏｖＴｅｃｈ東京アドバイザー安野貴博君、以上四名の方々から御意見を承ることにいたしております。 　この際、参考人各位に一言御挨拶を申し上げます。 　本日は、お忙しいところ内閣委員会にお運びくださいまして、本当にありがとうございました。本日、様々な質疑があるかと思いますが、忌憚のない御意見をいただきたいと思います。この法案の審議の参考とさせていただきたいと思いますので、どうかよろしくお願いいたします。 　次に、議事の順序について申し上げます。 　まず、松尾参考人、生貝参考人、田中参考人、安野参考人の順に、お一人十分程度御意見をお述べいただき、その後、委員の質疑に対してお答えをいただきたいと存じます。 　なお、参考人各位に申し上げますが、御発言の際にはその都度委員長の許可を得て御発言くださるようお願い申し上げます。また、参考人は委員に対して質疑をすることができないことになっておりますので、あらかじめ御承知おき願いたいと存じます。 　それでは、松尾参考人にお願いいたします。

○松尾参考人　東京大学の松尾と申します。 　ＡＩ戦略会議において座長を務めさせていただいております。 　本日は、本法案に関しまして、１、ＡＩの利活用及び開発力の強化、２、人材育成の重要性、３、イノベーションの促進とリスク対応の両立の三点について、意見を述べさせていただきます。 　それに先立ちまして、今現在の日本を取り巻くＡＩの状況についてお話ししたいと思います。 　二〇二二年十一月に出たチャットＧＰＴ以降、世界は生成ＡＩをめぐって大きく変化しています。オープンＡＩは次々と新しいサービスを出し、ＧＡＦＡＭと呼ばれるグーグルなどの米国企業は生成ＡＩに多額の投資をしています。中国でも、最近ディープシークと呼ばれるサービスが注目を集めましたが、アリババ、テンセントなどの企業も非常に高い技術力を持っています。生成ＡＩの開発にはＧＰＵという半導体が不可欠ですが、これを提供するエヌビディアは世界一の時価総額となりました。 　一方で、日本は、デジタル分野でここ二十年、後塵を拝してきました。皆様がお使いのスマホ、検索サービス、Ｅコマース、会議アプリなど、多くのものが海外製です。そうした海外の企業がＡＩに巨額の投資をしていますから、日本はＡＩの分野においても非常に苦しい状況にあります。まず普通にやって勝てない状況にあると思っていただいてよいと思います。日本のデジタル赤字が大きく膨らんでいることは皆様もよく御存じのところかと思います。 　そういった状況の中で、これまでのＡＩに関しての国の動きはどうか。チャットＧＰＴが出て以降の日本の国としての動きは、私はほぼ満点と言ってもいいと思います。 　といいますのも、インターネットが伸びてきたとき、ソーシャルメディアが伸びてきたとき、あるいはスマホが出てきたとき、いずれも日本は数年遅れでした。イノベーションが起きていることにすら気づかず、気づいたときには既に世界で勝負は終わっていた、その市場に参入するチャンスすらなかったというような状況でした。ところが、今回、生成ＡＩに関しては、世界と同時に驚き、そして、各国政府よりむしろ早く着実に対応しているとさえ言えます。 　とはいえ、大前提として、デジタルの分野は圧倒的な実力差、投資規模の差があります。これを将棋に例えますと、将棋の形勢としては劣勢、敗勢ながら、最もよい手、最善手を指し続けている、それによって形勢は悪いながらもチャンスは残っていると言えると思っています。 　具体的に言いますと、まず、二〇二三年から経済産業省が主体となって、必要な半導体、ＧＰＵを大幅に確保、増強しました。これは生成ＡＩの開発において欠かせないもので、これがないと戦いに参戦すらできません。私の研究室でもこのＧＰＵが増強されたおかげで研究を進めることができていますし、また、スタートアップでも思い切った開発を進めることができるようになっています。 　次に、開発者の育成をしてきました。経済産業省のＧＥＮＩＡＣというプロジェクトでは、日本全国から優秀な開発者を募り、支援をしています。日本語に特化したもの、あるいは特定の分野に特化したものに関しては、海外の生成ＡＩの性能を超えるような例も出始めています。 　また、こういった最先端の分野では本当に珍しいと思いますが、日本が存在感を持って国際的な議論をリードしています。総務省を中心に、広島ＡＩプロセスの立ち上げ、そこから五十五か国・地域に広げた広島ＡＩプロセスフレンズグループの展開を行っています。また、世界で三番目という速さで、ＡＩセーフティ・インスティテュートという安全性に関する組織が昨年二月に立ち上がりました。 　このように、日本の国としての動きは素早く、また最善の手を続けており、ここまでは満点と言ってもよい内容だと思います。 　肝腎なのは、ここからどうするかです。 　一つはＡＩの利活用を進めていくことです。日本は経済規模がそこそこ大きいにもかかわらず、デジタルやＡＩがこれまで一向に進んできませんでしたから、伸び代という面ではかなりあります。 　例えば、高齢化に伴う医療費の増加は国全体の喫緊の課題ですが、これまで医療分野ではデジタルの活用は残念ながらほとんど進んできませんでした。ところが、生成ＡＩを活用することで、データを統合する、医師のサポートをする、あるいは医療事務を効率化することなどができるかもしれません。そうすると、医療分野全体が大きく効率化し、生産性が上がるはずです。また、事務作業に関して言えば、行政も大きく効率化することができるでしょう。結果的に市民サービスの向上につながります。 　最近では、生成ＡＩはロボットの分野にも使われるようになってきています。汎用型のロボットが洗濯物を畳んだり、机を片づけたりすることができるようになってきました。ロボットの頭脳、ＡＩの部分が大きく進展しているからです。こうしたロボットの技術を日本でも開発していけば、介護、物流、建築、農業、防災などの各分野に役立てることができます。 　そして、もう一つ重要なことは、こうした活用のための技術自体を日本でつくるということです。海外のサービスを活用するだけではデジタル赤字がますます拡大します。ＡＩを日本の中で開発するための開発力の強化についても、政策として取り組んでいくことが重要です。 　今、私の研究室ではＡＩ人材の育成をしています。年々、多くの方がＡＩの講義を受講してくださっており、昨年度は二万七千人が受講しました。広く学生全般に開放しているのですが、東京大学以外の大学生も多く、また、高校、中学からの受講生も増えています。日本中の学生がＡＩを勉強し始めています。 　若者がＡＩを勉強すること、あるいは社会人がリスキリングとしてＡＩを勉強することで、日本全体がＡＩを活用する、開発をする土壌がつくられていきます。これを加速するためには、全国の大学や高専などが中心となってＡＩの教育を更に強化すべきです。 　また、地域で学んだ人材が、地域の企業のＡＩ活用、ＡＩ開発を助ける、そして、スタートアップをつくって大きくなり上場する、こういったことが増えてくれば、地域経済、日本経済全体が活性化してくると思います。 　同時に、こうしたＡＩ人材の育成は日本にとどまりません。東南アジアやアフリカなどの国でも同じようなことが必要とされています。これまで築いてきた広島ＡＩプロセスの基盤を生かしながら、日本がグローバルサウスでのＡＩ人材の育成にしっかり協力することで、世界でもリーダーシップを強めていくことができると考えます。 　さて、そうした中で、今回のＡＩ法案になります。本法案は、二〇二四年七月以降、ＡＩ制度研究会を七回開催し、研究者や事業者等のヒアリングを含む議論に加え、パブリックコメントを経て作成された中間取りまとめの内容を受けて、ＡＩに特化した日本初の法案として、二〇二五年二月二十八日に石破内閣で閣議決定されました。 　総理あるいは担当の城内大臣から、イノベーション促進とリスク対応の両立を図り、世界で最もＡＩを開発、活用しやすい国を目指すと説明されていますが、この意味について少し解説したいと思います。 　日本において、ＡＩの進展が様々な社会課題を解決し、経済を成長させる大きな機会であるというのはこれまでにお話ししてきたとおりです。 　しかしながら、生成ＡＩの急激な進展に不安を感じている方もおられます。自分の仕事がなくなるのではないか、自分の作った作品が学習に使われているのではないか、ＡＩが様々な犯罪に使われる可能性があるのではないかといったことです。こうした不安、リスクにきちんと対応する必要があります。 　これまで、大ざっぱに言って、ヨーロッパはリスク対応を重視し、ＡＩに関して強い規制を取る、米国はイノベーションを重視した方針、こういうふうにされてきました。つまり、リスク対応とイノベーションの促進はトレードオフだということです。どちらかを上げれば、どちらかが犠牲になるということです。 　しかし、研究会の議論の中で明らかになってきたことは、これはトレードオフではない、つまり、きちんとしたリスク対応を取ることでイノベーションが進むのではないか、リスク対応とイノベーションの促進を両立させることができるのではないかということです。 　御存じのとおり、日本では新しい技術を使って新しいことをやろうとしても、前例がないのでやめておきなさいと言われます。しかし、リスクに対してしっかり対応されていれば、かえって新しいことに取り組む人も増えます。 　リスク対応とイノベーション促進はトレードオフではない、両立するのだということが、我々の中間取りまとめの重要なメッセージであり、それが法案にも生かされていると思います。 　もう一つ重要なことは、これだけ早い進展をするＡＩにおいて、今見えているリスクだけがリスクではないということです。 　生成ＡＩの画像の生成能力が飛躍的に上がったからこそ、ディープフェイクというリスクが新たに出現しました。この先も技術の進化によって新たなリスクが現れてくるでしょう。 　そうしたときに、特定のリスクにだけ対応した法律を作っても不十分です。したがって、どのようなリスクがあるのかの情報収集をし、必要に応じて調査をする、関係の法律で対応すべきときはそれを素早く的確に行うということが必要になります。 　今回の法案は、ハードローでありながら、ソフトロー的な柔軟性を持つ、ＡＩの性質を踏まえた規制の在り方として世界の中でも大変に先進的な法案であると考えます。 　本日の御説明は以上となりますが、今回の法案によって、リスクにきちんと対応しながら、ＡＩの開発、活用が進むことで、様々な社会課題が解決され、日本の経済が発展する、また生産性が上がり、人々が生き生きと働くことのできる社会になることを期待しております。 　以上です。（拍手）

○大岡委員長　ありがとうございました。 　次に、生貝参考人にお願いいたします。

○生貝参考人　本日、このような機会をいただき、ありがとうございます。一橋大学の生貝直人と申します。 　私は、研究者としては、こうしたＡＩを始めとするデジタル技術に関する法制度の在り方というものを、ＥＵですとか米国との比較を中心とした研究を行っているものでございまして、今回、松尾参考人が座長を務められるＡＩ制度研究会の委員も務めさせていただいたところでございます。 　今回、本法案に関しまして、一つの大きなテーマである研究開発ですとか活用の促進に関しては、ほかの参考人からも御意見があるところかというふうに思いますので、私の方は、こちらの一枚紙を参考にいたしまして、特にリスク対応の観点から、この法案に関する私の意見というものと、そして幾つかの期待ということを、大きく三点に分けて申し上げさせていただきたいというふうに思います。 　まず、本法案、第三章に規定されるＡＩ基本計画、そして第四章によって創設されるＡＩ戦略本部といった、まさに国の体制整備に関する規定を始めといたしまして、これは、ＡＩ関連技術の研究開発、活用の推進というものはもとよりであるのですけれども、やはり、複数領域に係るリスクへの府省横断的対応を我が国として可能とする基盤法制としての意義を有するものと考えております。 　ＡＩの法制上、課題になるリスクといいますと、生成ＡＩの登場前は、国際的にも主として比較的そのリスクというものは特定して議論されてきたところだったというふうに思います。一つは、ＡＩを組み込んだ製品が間違った判断をする、暴走する、爆発する、そのような製品安全のリスクということ。それからもう一つは、ＡＩが個人に関する情報を分析して、プロファイリングして、時には人を差別的な取扱いをする自動的決定を行う。大きくはその二つが焦点を当てられており、それはこれからも重要でございます。 　なのでございますけれども、二〇二二年のチャットＧＰＴ、そして生成ＡＩの本格的な普及というのは、法的側面からのＡＩの位置づけというものをかなり変容させたというふうに思っております。それはまさしく、人の代わりに情報を生成してくれるＡＩなわけでございます。そうした情報というのがこれから社会全体で流通する情報のおよそ大半を占めるようになるという予測は、決して大げさではないというふうに思います。 　そうしましたときに、情報関連法制全体がこれまで考えてきたリスクというものをどのように新しく再構築していくのかということ。例えばディープフェイクへの対応というのはその典型であるというふうに思います。民事救済、刑事規制、そして知的財産権、消費者法制。そして、それらの生み出されたディープフェイクが流通する多くの場というのはソーシャルメディアを始めとするプラットフォームでございます、それとの規制との関係をどう考えるか。そして、選挙のときにどのような特別な対応が必要かというふうにいったようなことは、これらそれぞれ所管省庁もそして使う法律も違うわけでございますけれども、やはり調和した対応ということが何より重要になるわけでございます。 　そして、もう一つ加えますと、やはり法制という観点から見てＡＩ分野というのは、技術そして運用の実態、アルゴリズムがどのように機能しているのか、あるいは生成ＡＩに関する安全性は実際にどのように技術的に試みられているのか、そのようなことを正確に継続的に把握し続けることに高いコストがかかります。 　そのことに関して、今回のような総合的な体制整備というのが行われることによって、ＡＩセーフティ・インスティテュート等国内外機関の連携を含めまして、各法領域の運用と、そして今後の改正等の大前提となるインテリジェンス基盤の構築が行われていくということを非常に強く期待するところでございます。 　御参考まで申し上げますと、ＥＵのＡＩ法制、ＡＩ政策を担当するＡＩオフィスというのは、それだけで百四十人のスタッフを抱えており、また、それに加えまして、少なくとも数十人の科学者が科学的見地からのそうした政策の立案と運用の助言を行っているというふうにいったチームを抱えている。このような体制整備を一つは大きく可能としてくれるだろう。 　二つ目といたしまして、適正性確保のための指針の整備というのが今回の規範的な側面として大変重要かと思います。ことに加えて、恐らくはそれと少なからず連動する形で進められるであろう国による情報収集、調査、研究と指導、助言、情報提供等の規定。このことというのは、ＡＩ技術の進化がかつてない速度で進む中で、私がずっと専門にしてまいります官民の共同規制の考え方とも親和性の高い、柔軟性、機敏性の高いリスク対応のＰＤＣＡサイクルを構築する枠組みとしての機能、意義を有すると考えるところでございます。 　この指針の中におきましては、広島ＡＩプロセス等、国際的な規範との整合性はもとよりでございますけれども、リスクベースの考え方を考慮しながら、複数法分野に係る共通の事項、例えば、やはり国際的にも透明性確保、ＡＩ生成コンテンツの判別性確保、学習データの概要の開示といったようなことは共通の事項として理解が進んできているところでございます。そして、既存法令で対応が十分にできないリスク、及び開発、運用を行う事業者自身がリスクの軽減とそして自らの評価ということをしっかり行っていただく、こうしたことをしっかり念頭に置いた指針というものが作成されることを私としては期待するところでございます。 　そして、もう一つ、指針の作成、見直しプロセスと、及びその運用がしっかり事業者によっても遵守されているのかということをモニタリングするプロセス、この両面におきまして、消費者、市民社会、学界等の多様なステークホルダーの実効性ある参加というものを是非確保していただきたいというふうに思います。 　これは、制度の実効性でありますとか、それに必要な知識集約というところもあるのでございますけれども、やはり、こういった実質的な我が国の制度というものを立法によってある種行政及び関係するステークホルダーに委ねる。その中で、しっかりとその制度に対する民主的正統性を確保していくというふうにいったような観点からも、こうした手法というものを是非重視していただきたいと思います。 　最後に、三点目でございます。 　今後数年間の中で様々リスクが生じてくる、それはイノベーションが期待どおりに進んでくれればこそ生じ得ることでございますけれども。その中で、恐らくは多数の個別法の改正でございますとか、ＡＩに対応するための。そして、本法案の附則二条に定められている本法案自体の検討、いわば見直しというふうにいったようなことが必要になる可能性というのは、これは恐らく高いというふうに思います。 　そうしたときに、やはり、今回法律を作る、そしてそれを国民の安全、安心と技術革新を高い水準で両立させ続けていくためには、リスクが起こったときに初めて検討を開始して、そして三か月なり半年なりで結論を出すというプロセスだけではなく、やはり常日頃から、本当に望ましい、このＡＩに関わるより望ましい制度というものは果たして何であるのか。そして、それは個別の問題での対応ということはもとより、まさに今回のような、恐らくはこれまでの法制の中でも全く新しいガバナンスメカニズムの在り方、そういった全体の枠組みというものを継続的に検討を続ける必要があるというふうに思います。 　是非、新設されるＡＩ戦略本部の中でも、制度の継続検討というふうにいったようなことを一つ念頭に置いていただきたいと期待するところでございます。 　私からは以上でございます。御清聴ありがとうございました。（拍手）

○大岡委員長　ありがとうございました。 　次に、田中参考人にお願いいたします。

○田中参考人　ソフトウェア協会の代表をしております田中邦裕と申します。 　本日は、このような機会をいただきましたことを改めて御礼申し上げます。 　既に提出しております資料を基に説明をさせていただければと思っておりますので、どうぞよろしくお願いいたします。 　私でございますが、二十九年前に京都の舞鶴高専に在学中、学生起業をしたさくらインターネットの代表者でございまして、二十年前に上場いたしました、いわゆるスタートアップの起業家でもございます。三年前からソフトウェア協会の会長を拝命しておるほか、本日御参加いただいている松尾参考人が座長をしておりますＡＩ戦略会議の構成員をさせていただいておりまして、この二年間、ＡＩの戦略であるだとか、またＡＩ法の議論等に参加させていただいていた者でございます。 　次のページでございますけれども、ソフトウェア協会の説明を少しだけさせていただきます。 　ソフトウェア協会は、一九八二年に任意団体として、現在ソフトバンク社の代表をしております孫正義氏によって設立をされた団体でございまして、一九八六年に社団法人になっております。来年で四十周年を迎える団体でございます。 　過去でいいますと、ソフトウェアの権利であるだとかソフトウェアのリスク回避、コピーをしたときの問題の解消であるだとか、また、著作権法を当時改正をして、ソフトウェアに著作権を認めていくということについての活動をしてきた団体でございます。最近ですと、健康保険組合の運営、ＩＴ健保の運営の母体であったりだとか、またＡＩの促進等で活動している団体でございます。約八百社の方々が入会されております。 　次からが本題でございます。 　四ページ目でございますけれども、本日申し上げたいことは三つでございます。 　ＡＩの利活用をしっかりと促進し、また教育を行い、みんなが使えるようになる国になるということが一つ。 　もう一つが、ＡＩの利活用だけではなく、ＡＩを産業として、ＡＩ自体を開発し、ＡＩ自体を産業化し、この国の成長の礎にしていくということです。 　もう一つはリスク対応。最近ですと、ジブリ風画像の生成なんというものもありますし、先ほどから参考人からありましたように、ＡＩによる差別的な取扱い等、大きな問題が顕在化しております。そのようなものを今回の法案のその先にしっかりと規制をし、しっかりとガイドラインを示していく、これが重要であるということを申し上げたいというふうに思っております。 　まず、ＡＩの利活用。多くの方々が利活用していると思いますけれども、それでもＡＩを本当に利活用している国に比べると、全然日本は遅れているという状況にあります。 　実際に私の身の回りでも、チャットＧＰＴを使っているかと若い人に聞いても、ほとんどの人が使っていないと言います。私の周りは本当に使っている方が多いかと思ったんですけれども、例えば、ジムのトレーナーさんとか、髪を切りに行ったときの美容師さん、このような一般的な現場の方々というのはほとんど使っておられません。 　一つのエピソードとして、私が通っておるジムが、全然お客さんが来ないと言っておったんですけれども、それをチャットＧＰＴに聞いてみたらどうかとその場でインストールをさせて、いろいろ手法を試していただいたわけなんですけれども、何とそのジムがお客さんが増えてしまいまして、ＡＩの利活用によって本当にすぐに対応ができる。ただ、それが使えるということ自体を知らないということは非常に嘆かわしいことだなというふうに思っております。 　ただ、もう一つの論点としまして、それはチャットＧＰＴを使ったわけですけれども、一つの検索をするたびに、人間の一千倍以上の電力、エネルギーを使いながら動いている、電力の問題も発生させてしまいます。また、それが海外のサービスであった場合に、どんどんどんどん貿易赤字が増えてしまうという問題がございます。 　この辺りについてはまた後ほどお話をさせていただきますけれども、国力を強くするＡＩなのか、若しくは国富を流出させてしまうのがＡＩなのか、また、国民が不利になってしまわないようにするということも重要でありますし、ＡＩについては、プラスの側面、マイナスの側面、両方があるということは言うまでもございません。 　次のページでございますけれども、日本は、デジタル敗戦という非常に屈辱的な言葉で最近叫ばれるようになっています。 　ただ、私は、一九八二年にできたソフトウェア協会の代表として思うのは、ソフトウェア産業を一九八〇年代は振興しようとしていた、また、半導体についても、世界トップテンの企業のうち七社が日本企業であった、非常に我が世の春を謳歌していたのが日本のデジタル分野であったわけですけれども、なぜこのようになってしまったのかということをやはり団体の代表として深く考えることがあります。 　その中で、少しまとめさせていただいたのが五ページでございます。 　一つ分岐点になるのは、やはり日本がハードウェアに偏重し過ぎたということ。今回のＡＩに関しても、いわゆるソフトなわけですけれども、我々もＧＰＵの整備というのをしておりますが、その先にいかにソフトウェア産業を発展させるかということが非常に重要でありました。 　しかしながら、一九八〇年代、アメリカからの圧力もありまして、ソフトウェアに著作権を認めるということ、これは国会で審議をされ、一九八五年に著作権法が改正され、ソフトウェアに著作権が認められました。 　そうなりますと、ハードウェアのつけ足しとして考えていた日本の企業さんはソフトウェアでもうけられなくなり、ソフトウェアだけを売っている企業が一九九〇年代、二〇〇〇年代に大きな利益を上げたことは皆様も御存じのとおりだと思います。ですので、ハードウェアでもうけられなくなり、ソフトウェアで外貨を外国に流出してしまうということに関しては、構造的に一九八〇年代につくられたものであります。 　もう一つが、一九八五年の日米半導体協定でございます。その際に、半導体の価格に関してはアメリカが決定していく、決定権がアメリカに委ねられたわけですけれども、当時の日本というのは、どんどんどんどん半導体が安くなる中で、競争力をどのように担保するのかということよりも、値段をいかに維持するのかということに躍起になっていました。ですので、アメリカの利益も日本の企業の利益も合致したということを聞いております。 　ですので、半導体の値段を日本で決めるのではなく、決めてもらうことによって、高い値段が維持できるようになって、日本の半導体事業者は我が世の春を謳歌したわけですけれども、その五年後、一九九〇年には、既にトップテンのうち七社あった半導体企業が、日本では二社に減っておりました。 　それは何かというと、高止まりした値段で一瞬はもうかったんだけれども、そのうちに、韓国や台湾の非常に質がよくて安い半導体に流れてしまった、おまけに技術者もそちらに流れてしまった。ですので、それらの技術を確立したのは日本人であります。 　そういった中で、構造的に一九八〇年代から九〇年代にソフトウェア産業が縮小していったということがこの背景にございます。そんな中で、ネット企業が台頭する中でも、日本は十分に世界で活躍できなかったというのがこの背景にございます。 　その次のページでございます。 　その結果、どうなるかといいますと、六ページにございますように、六・五兆円という莫大な貿易赤字をつくることになったというのが現状であります。これは現在進行形でございまして、ＤＸと言われますけれども、ＤＸで生産性を改善するということをどんどん進めれば進めるほど、日本はどんどんどんどんデジタルで赤字を重ねていくということになっています。 　なので、デジタルで生産性を上げることによって、デジタルによって国民が貧乏になっていくということが言えますので、これだったら、ＤＸが進まない方がいいんじゃないかというふうなことも言えるわけですが、ただ、国際競争がございます。日本の会社だけがＤＸをしない、そしてＡＩを活用しないということになると、当然のことながら、産業競争力がそがれていくことになります。 　じゃ、どうすればいいのか。しっかりと国内でデジタル産業、ＡＩ産業を確立し、ＤＸやＡＩ利活用が国富を増すことにつながることが重要だというふうに考えております。 　余談でございますけれども、私の田中邦裕という名前は、親が国を裕福にするということで名づけたというふうに言われておりまして、これまではそんなことは考えたこともなかったですけれども、業界をしょって立つ立場になり、また、ＡＩ戦略会議で、日本がＡＩでどのようにしていくのか、国家のレベルで戦略的に考えた際に、やはり国民が豊かになり、そして国が豊かになり、国際競争力を増して、将来にわたって繁栄する国をつくること、これをデジタル、ＡＩとともに成し遂げることが非常に重要だというふうに感じたわけでございます。 　次のページでございます。最後のページでございます。 　最近、ニセコという町がどんどんどんどん外国資本に置き換わっていって、建物も運営も、そしてお客様も外資になっていっている、働いている人だけが日本人だという構造になっています。六・五兆円の貿易赤字をデジタルでつくっているわけですけれども、幸い、インバウンドによってそれを取り返しているとも言われています。 　ただ、そのインバウンドの主役である観光客が来たとしても、働いているのが日本人なだけで、資本も、そして運営も全て海外に握られている中で、生産性の高いデジタル産業で国富が流出し、労働によってそれを取り返すというこの構造が本当にいいんだろうか。このようになると、やはり日本が成長しないということを意味しております。 　このような中で、日本はＡＩの利活用によって国を豊かにしていくということが非常に重要であります。 　もう一つがリスク回避でございます。先ほどのジブリ風画像のように、日本は多くのコンテンツを持っているわけですけれども、それを勝手に学習されて、それが著作権料も払われないまま世界中の人たちにフリーライドされてしまう、日本人にはお金が入ってこないという状況がある中で、やはり日本で産業をつくるとともに、海外の事業者とのイコールフッティング、海外の事業者に対しても一定の規制をしていく中で、海外の事業者も、逆に日本で安心して仕事ができるような環境を日本企業とともにつくっていくということが重要かと思っております。 　以上でございます。ありがとうございました。（拍手）

○大岡委員長　ありがとうございました。 　次に、安野参考人にお願いいたします。

○安野参考人　本日は、このような機会をいただき、誠にありがとうございます。一般財団法人ＧｏｖＴｅｃｈ東京でアドバイザーを務めております安野貴博と申します。 　今回のＡＩ法案に対する意見を述べさせていただきます。 　初めに、私の経歴、バックグラウンドを簡単に紹介いたします。 　今回の法案に関し、私は三つの意味で当事者でございます。第一に、ソフトウェアエンジニアとしてＡＩを活用したアプリケーションの開発に携わっております。第二に、起業家としてＡＩスタートアップを複数立ち上げてきた経験から、事業者視点でのＡＩ活用やビジネス観点での課題を実感しております。第三に、商業作家としてＳＦ小説を執筆しており、著作権者という立場で、生成ＡＩなどの技術がクリエーターの創作活動に与える影響についても関心を持っております。 　これらの観点を踏まえ、本法案を日本におけるＡＩ技術の研究開発と活用の推進を図るための重要な一歩と考え、その目的に賛同しつつ、よりよい運用のための提言をさせていただければと思います。 　まず、今回のＡＩ法案について、私の受け止めを三つ共有させていただきます。 　まず第一に、現在、私たちは社会変革を促すＡＩ技術の推進とリスク対応の両立を求められており、本法案もその両立を前提に考えられたものだと認識しております。 　昨今のＡＩ技術の進化は著しく、ＡＩ技術は社会構造の大きな変化をもたらす可能性があります。適切に活用することで、行政サービスの高度化、産業競争力の強化、医療、介護、教育分野などにおける革新など、国民生活に対して幅広い恩恵が見込まれます。その一方で、著作権の侵害、ディープフェイクによる名誉毀損や偽情報の流布など、様々なリスクも指摘されているとおり、リスク対応も課題であると考えます。この両者は、決してどちらかだけを解決するというものではなく、イノベーションとリスク対応を両立させる姿勢が必要だと考えております。 　二つ目に、海外事例を適切に踏まえることの必要性です。 　ＥＵは、ＡＩアクトの策定を進めるなど、規制面、罰則面を強化しておりますが、これに関しては、研究開発やコンプライアンスにおける負担増が、特にスタートアップや中小企業に対して過剰なコスト要因になっており、イノベーションを阻害しているという声も聞かれます。 　一方で、米国は、官民が連携しつつ、基本的には産業界の自主性を重視するような動きがありますが、これに関しては、社会的リスクへの対応は後手に回っており、利用者の懸念に十分応えられていないという声もございます。 　こうした海外の例を踏まえつつ、日本としては中間的なアプローチを取って、事業者にとっても利用者にとってもＡＩ技術を活用しやすいような制度設計を目指しているということは注目すべき点だと考えております。 　三つ目に、機動力の向上、変化に対応可能な体制づくりが重要だと考えております。 　ＡＩは、七か月ごとに仕事の能力が倍になっていくというようなトレンドが観測されております。ある意味、指数関数的に変化していく。そんな中で、本法案は、ＡＩ戦略本部を総理直下に設けることで、変化の激しいＡＩ分野に対して素早く施策を講じられる体制を整えておると認識しております。また、研究開発の促進とリスク軽減を両立させる仕組みとして、機動的な行政調査やガイドラインを活用しようとする柔軟な考え方を持っており、日本におけるＡＩ推進を適切に進められるものと考えております。 　次に、今回のＡＩ法案で適切に規定されていると考えられる四つのポイントに触れたいと思います。 　一点目が、重要性の認識が明文化されていることでございます。 　ＡＩ技術は、産業、経済のみならず、安全保障上も非常に重要な要素です。本法案においては、ＡＩの利活用が国民生活や国家安全保障に大きな影響を与える可能性を見据えて、各当事者の積極的な取組を促進しようとしております。 　二点目に、研究開発を目的とした、関係者を萎縮させない推進方針でございます。 　罰則を伴うような規制強化ではなく、基本理念や国の責務、指針に焦点を当てる推進法の側面が強いことは、ＡＩ関連のプロジェクトを各事業者が萎縮なく進める上で、イノベーションを促進するような土台になり得ると思っております。特に、ＡＩを扱うスタートアップなどは、新しい技術領域やその応用に挑戦する際に、過度に厳しい規制やコスト負担の懸念があると、参入自体を断念しかねません。本法案は、そうしたリスクを回避するような柔軟性があると考えております。 　三点目に、リスク低減に向けた著作権保護と透明性確保への配慮です。 　ＡＩが生成したコンテンツについては、著作権法上の取扱いが複雑化しつつあります。本法案でも、著作権侵害への対処やコンテンツの透明性確保が重要視されており、作家やクリエーターにとっても一歩前進と捉えられます。ＡＩをめぐる著作権、知財関連の課題に正面から向き合い、検討を深める土台が本法案によって整えられることは、創作者としては非常に心強く感じております。 　四つ目に、検討の機動力を上げる体制についてです。 　本法案で設置されるＡＩ戦略本部は、全閣僚で構成され、総理が本部長を務める司令塔組織になっています。ＡＩ戦略においては、高いレベルのリーダーシップと省庁間の連携が不可欠であり、機動力の高い体制で、迅速かつ総合的な判断を下せるようにしていることは、本法案の大きな特徴だと考えております。 　次に、本法案の運用段階で懸念される点について、四点述べさせていただきます。いずれも、今後の施行、運用の中で注意深く対応する必要があると考えております。 　一つ目に、ＡＩ法案以外の既存の法令、制度での対応スピードへの懸念です。 　今回のＡＩ法案は基本法の性格が強いものと承知しており、個別案件や新しい技術リスクに対処する際には、関連する業法や規制の迅速な改正が必要となると認識しております。また、フェイクニュースやデータの不正利用など、現行法でも違法性が認められるような問題であっても、ＡＩ技術特有のスピード感に対応し切れない可能性があると考えております。 　二つ目に、ＡＩ技術全般に対する安易な規制論が出てくることへの懸念です。 　十九世紀のイギリスでは、自動車の利点というものを著しく損なうような規制であった赤旗法というものがございました。これに象徴されるように、新しい技術がもたらす変化への過度な不安が先行すると、過剰な規制によって産業や社会の成長が阻害される事態に陥るおそれがあります。特に、ＡＩ分野は国際競争が激しく、強い規制をしくと、国内事業者のコストが増大し、海外事業者との競争において不利な環境をつくってしまう懸念がございます。 　三つ目に、遵法意識の高い事業者ほどコスト負担が大きくなってしまうという懸念です。 　ルールを守らない、あるいは抜け道を探す事業者が海外拠点などから参入してくると、公正な競争というのがゆがめられるリスクがあります。そうした不公平感をなくすためにも、行政上の調査権限や公表措置などのソフトな制裁を適切に活用しながら実効性を高めていくという運用が重要だと考えております。 　四つ目に、変化の激しいＡＩ領域において、専門家や現場の声がタイムリーに反映されないという懸念です。 　今日のＡＩ分野は、数日置きに画期的なモデルであるとか応用事例が登場してきております。それが社会に大きな影響を与えていく中で、現場でのＡＩ活用に取り組む企業や研究者、クリエーターなど著作権者、一般の利用者など、多様なステークホルダーの声を法律やガイドラインの運用に素早く取り込む、それができるということが重要だと思っています。 　最後に、私から、今後の取組として、具体的に三点提案させていただきます。 　まず一点目が、専門家の活用とステークホルダーの声を継続的に集約する仕組みでございます。 　ＡＩ技術の進展に対応して必要な政策決定や緊急時の迅速な対応を行うには、ＡＩ分野に精通したような専門家というものが必要です。ＡＩ戦略本部長である総理の直下には、是非とも専門知識を持って、国民とも関係省庁とも丁寧にコミュニケーションが取れるようなＡＩ担当大臣を任命されることを提言いたします。本法案成立後も、多様なステークホルダーの声を継続的に集約し、必要に応じて対処を行うことが重要です。 　二点目に、特区制度やサンドボックス制度を活用した人材育成、教育の場の充実ということでございます。 　ＡＩの実証実験や先進的な取組を推進するための特区制度やサンドボックス制度を利用して、人材育成や教育プログラムを更に拡充することを提案いたします。ＡＩリテラシーの底上げというのは国民全体の課題であり、ＡＩ法案で示された基本理念を実装する上でも、人材の確保というのは最も重要な鍵と言えると思います。 　三点目に、コンプライアンス支援と国際連携というところでございます。 　ＡＩ事業者やクリエーターが遵守すべきルールやガイドラインを明快に提示すると同時に、それを実践するための支援策も不可欠だと考えております。また、日本独自のルールだけではなく、海外の最新事例、規制動向と連携しながら、国際的な競争力や整合性を維持し続ける取組も欠かせないと考えております。 　総じて、ＡＩ法案は、我が国が将来にわたってＡＩの恩恵を享受し、国際社会での競争力を高めるための重要な出発点であると考えます。 　以上で私の意見陳述を終わります。御清聴ありがとうございました。（拍手）

○大岡委員長　ありがとうございました。 　以上で各参考人からの御意見の開陳は終わりました。 　　　　―――――――――――――

○大岡委員長　これより参考人に対する質疑に入ります。 　質疑の申出がありますので、順次これを許します。黄川田仁志君。

○黄川田委員　自由民主党の衆議院議員の黄川田仁志でございます。 　本日、参考人の皆様には、お忙しいところ御参集いただきまして、誠にありがとうございます。 　たくさん聞きたいことがあるので、早速質問に入りたいというふうに思います。 　まず、松尾先生にお聞きしたいと思います。 　松尾先生におきましては、これまでの政府の取組、またＡＩ推進法に対して非常に前向きなメッセージを発していただいて、感謝を申し上げたいと思います。また心強く思っております。 　しかし、先ほどお話があったように、日本のＡＩを取り巻く現状というのは大変厳しい、投資額、また生成ＡＩを利用している個人もアメリカ、中国に比べたらもう圧倒的に低いということでございます。 　しかしながら、先生の性格なのか、常にポジティブで、昨年の生成ＡＩサミットに当たっては、キャッチアップは容易だということを語ったということが新聞にも載っておりましたし、また、そういう中で、私は、本当なのか、大丈夫なのかというふうな心配も同時にしております。 　今日はまた、そういう中でも、普通にやっては勝てないというお話もされておりました。先生のお話を聞くと、生成ＡＩ、チャットＧＰＴとかディープシークとか、そういうものばかり追い求めるのではなくて、ＡＩを活用する農業分野とか、様々ないろいろな分野を開拓して、そこに販路と活路を見出していくというのが先生のお考えのように私は思いましたので、またそこで確認なんですが、日本のＡＩ政策、何を目指し、何で海外と差別化をしていけば、キャッチアップ、そして追いつき追い越せるのか、どこをどうしていけばいいかということをもう少し深く、ちょっと突っ込んでお話ししていただければと思います。よろしくお願いします。

○松尾参考人　御質問ありがとうございます。 　キャッチアップは容易ではないと思います。やはり私は、現状を正しく認識するということはすごく大事だと思っておりますし、先ほど田中参考人からありましたように、ほとんど勝っていた状態から相当負けている状態まで下がってきたわけですから、その下がっているトレンドをまずはフラットにして、そして上向きにしていくということを順番にやっていかないと、よく復活、Ｖ字復活とか言いますけれども、そういうことではなくて、しっかりやっていくということだと思います。 　そのためにどうすればいいかですけれども、一つのポイントは、日本の中でこれまでデジタル、ＡＩの活用が進んでこなかったために、その活用の余地が非常に大きいんだということです。先ほど田中参考人の方から、美容師さんの売上げが上がってしまった、活用するだけで上がって非常にすごいというようなお話がありましたけれども、日本の至る所で、生成ＡＩを活用すれば生産性が上がる、売上げが上がるというようなことがあり得ると思っていまして、そこをしっかりやっていくということだと思います。 　それから、もう一つ重要なのは、ＧＡＦＡＭ、非常に強いです。ただ、考えてみれば、広告のビジネスあるいはインターネット上の販売のビジネスなんですよね。そうすると、広告というのは、要するに、いろいろな会社がいろいろな活動をする中での広告費なわけです。ところが、それに比べて日本は、例えば自動車産業であるとか、それから素材ですとか、機械ですとか、いろいろな実需があるわけですね。実ビジネスが非常に大きい。ここにきちんと生成ＡＩを活用していくことで、そうしたものの生産性、付加価値自体が上がっていく。これは実は広告産業よりも非常に大きな可能性を秘めている。その辺りが可能性としては非常に重要なんじゃないかというふうに思っています。 　以上です。

○黄川田委員　ありがとうございます。 　使われていないからこそ、使われるようになれば、まずそこを埋めていって、そこから上がっていくというようなお話でした。 　ちょっと私からまた悲観的なお話をさせていただきますが、しかし、なぜ使われていないかという中で、大きな理由として、やはり多くの国民がＡＩを不安視しているということがあります。 　そういう中で、今回の法案については、ＡＩを推進する法案ですから、どちらかというと、やれ、やれという、使う側面が大きく出ている法案であるということが言えると思います。 　しかしながら、この不安を除外する面も同時に、さっき、ハードローとソフトローの、規制と推進というのは相殺するものではなくて一緒にいけるんだという話がありましたが、それでも国民が果たしてついてくるのであろうかと。我々は、やれ、やれということで、こういう法律を作って、本部をつくって、計画を作っていくんですが、やはりこのリスクについてしっかりと向き合って、安心と安全が確保されなければ、笛吹けど国民は踊らず、結局使われないということになりかねないというふうに思います。 　そこで、また済みません、松尾先生と、今度は生貝先生、お二人にお聞きします。この国民の漠とした不安にどう取り組むかということ、これはまたちょっと先生たちから強調してお話ししていただけるとありがたいと思います。よろしくお願いします。

○松尾参考人　ありがとうございます。 　不安にどういうふうに対応していくかですけれども、これは、しっかり啓蒙活動をしていくということが一つ重要だと思います。今でも一生懸命やっておりますけれども、生成ＡＩの使い方をしっかりと伝えて、それから、リスクに対しての対応の仕方、そういったこともしっかり伝える。 　特に学校の教育の現場では、今多くの学生生徒が生成ＡＩを使っているような状況にあると思いますし、先生方もそうしたものにどういうふうに対応していくかというのが困っている状況にあります。文科省からいろいろなガイドラインを出していますけれども、そういったものを更に強化していくというのも一つかというふうに思います。 　以上です。

○生貝参考人　ありがとうございます。 　おっしゃっていただきましたとおり、漠とした不安にどのように対応するかというのが、この不確実な環境の中で極めて重要な課題かというふうに思います。 　幾つか考えはございますけれども、まず一つは、この法案というものが、略称からも、ＡＩ推進法というところがやはり報道の中でも特に強調されているところかというふうに思います。しかし、私、先ほどの説明で、リスク対応におけるこの法案の意義ということを御説明させていただいたとおり、この法律は規制法ではないが、リスク対応において国が役割を果たすための極めて重要な法律である。何の法的な保障もない状態でＡＩの活用というものを国は進めているわけではない、しっかりと体制整備とそして機敏な対応の枠組みというものを進めるための法案というものを今回作るのである、そのような側面をしっかりと強調をしていただく。そして、それに沿った形での運用をしていただく。このことというのがまず極めて重要かというふうに思います。 　それから、もう一つは、リスク管理のための様々な努力を行っているのは国だけではなく、もちろん、開発そして活用事業者様それぞれにおいても、やはり日々大変な努力をされているわけでございます。そして、どのような努力をされているのかということ、これがなかなか一人一人の国民、消費者に対しては伝わりにくいし、そして、その適切性というものを一人一人の国民、消費者は正しく評価をするすべというものを持っていないわけでございます。 　この法律によってしっかりと、その対応をどのようにしているのかということを各事業者様に透明性を図っていただく。そして、国の側がある種、国民、消費者に代わって、その対応がどの程度十分であり、この部分はまだ足りていないんだということを正しく理解していただくための情報提供をしていただく。そのような努力によって、まさに漠然とした不安というものへの対応は可能になるというふうに考えております。 　以上です。

○黄川田委員　ありがとうございました。 　私も、ＡＩのリスク対応、ちょっと漠とした不安を持っている一人でありますが、特に私は、ＡＩについて、安全保障の観点から不安を持っております。 　中国のディープシークですね、これが中国の世論戦、歴史戦に利用されないのだろうかというところがあります。例えば、あるラジオ番組で、尖閣諸島はどこの領土かという質問をディープシークにしたら、はっきりと中国の領土だということが出てくるということがあったというふうな話がございました。そういうことで、意図的にバイアス、これをやはりつくることができるのじゃないか。ＡＩの学習に、中国の都合のよいデータを利用して学習されたのであれば、それがバイアスの影響を受けて、意図的に中国に有利な情報を流す、歴史戦、そして世論戦に訴えるというものが作れるのではないかというふうに思っております。 　その辺りの対応といいますか、どういうふうにこういうものを防いでいったらいいのか。済みません、松尾先生ばかり聞いていますが、松尾先生と、今度は、いろいろ政治でも利用している安野先生にお聞きしたいと思います。

○松尾参考人　ありがとうございます。 　おっしゃるとおり、ディープシーク、国の様々な考え方ですとか文化、思想が入り込んできます。そういった意味で、日本でもしっかりと国産の大規模言語モデル、ＬＬＭを作っていくということは一つ重要だと思います。 　それから、そういったリスクをしっかり把握するために情報収集等が必要で、その意味でも、今回の法案によってＡＩ戦略本部ができて、そこでそういったリスクに対してある程度情報収集していくということは非常に重要かというふうに思います。 　以上です。

○安野参考人　御質問いただき、ありがとうございます。 　おっしゃるとおり、今のＬＬＭというのは、認知戦との相性というのは非常によい、悪い意味でよいと思っておりまして、そういった懸念というのは十分にあり得ると思います。 　今、松尾先生おっしゃったとおり、一つの解決策としては、国産のＬＬＭをしっかり我が国でも作っていくということ。二つ目は、ＡＩによる認知戦というのは、対抗としても、技術で対抗していくということがあり得ると思います。どういった攻撃がどう仕掛けられているのか、それに対してどう対応するのかというところは、人力でやるというのはなかなか難しい領域でございまして、そういった意味で、認知戦の防御に対しても技術が必要である。 　そういった意味で、本法案は、ＡＩの利活用をしっかり進めていく、研究開発を進めていくという意味では意義があると考えております。

○黄川田委員　時間も来ましたので、最後に田中先生にお聞きしたいと思います。 　今までの質問、特に、ソフトというか、そういう利用の方の観点でお話ししましたが、田中先生はどちらかというとハードを整備していく方向で御尽力していただいているというふうに思います。そういう中で、日本のＡＩ戦略で必要なデータセンターとかケーブル、また、先ほどお話があったように、電力というのもたくさん使うということで、いろいろハード面で整備していかなければならないということもあると思います。 　そこで、先生の、日本のＡＩを取り巻くハード面の整備についていろいろ御示唆をいただければと思います。

○田中参考人　黄川田先生、ありがとうございます。 　私、データセンター協会の理事長もしておりますので、いわゆるハード整備についても尽力させていただいておるんですが、まさしく、おっしゃいましたように、ＡＩの発展のためにはハードが必須であるという状況にあります。 　産業の米といいますと、昔は鉄であったり原油であったりしたわけですけれども、現在では、半導体と計算資源、これがいわゆる産業の米と言われております。 　実際、オープンＡＩ社も言っておりますように、計算の規模が大きくなればなるほど、モデルの規模が大きくなってくる。ですので、データとアルゴリズムと計算資源、この三つが非常に重要になるわけですけれども、幸い、先ほど松尾参考人からありましたように、例えば、製造業をＡＩ化していくということになると、インターネット、ウェブにない情報を入手することができますから、そういった意味で、中国の企業、米国の企業よりも有意なデータは集めることができます。 　しかしながら、計算資源がなければ、それをＡＩに仕立てることができない、学習ができないということを意味しております。そのような中で、しっかりと計算基盤を整備していくということが重要です。 　ただ、一つ気をつけないといけないのは、電力問題でございます。世界中で電気が足らない状況にありますし、人間の一千倍から一万倍ぐらいのエネルギーを使うと言われているＡＩが普及する中で、電気をどのように確保するのかということが重要になっているわけですけれども、非常に懸念されているのは、外資系のデータセンターがどんどんどんどん日本で電気を枠として確保してしまっている。 　例えば、印西市にはたくさんのデータセンターが造られておりますけれども、印西のデータセンター、データセンター協会とエネ庁さんと協力して、東電さんとともに新たな変電所を造りましたが、その大半が外資系企業に押さえられている。ただ、実際に利用もされていないのに押さえられている状況になっていて、いわばその権利がデータセンターの土地とともに転売されている。先日も高値で外資から外資に売却された。 　ですので、計算資源であるとか国の財産というのは投機の対象にしてはならないというふうにいうのは、米も同じなわけですけれども、実際に、計算資源と電力資源が投機的な対象になり、お金が流れ込まないようにしていくために、一定の規制をしつつも、しっかりとデータセンターと計算資源を整備していく、これが裏の側面での安全保障につながるのかなというふうに思っております。 　以上でございます。ありがとうございます。

○黄川田委員　時間が来ましたので、以上です。 　どうもありがとうございました。

○大岡委員長　次に、おおたけりえ君。

○おおたけ委員　立憲民主党、おおたけりえでございます。 　本日は、四名の参考人の皆様に貴重な御意見をいただきまして、誠にありがとうございました。 　それでは、まず伺ってまいりたいと思います。 　先ほどの質疑の中でもメインで出てまいりましたけれども、今回の日本の法案は、先日の質疑の中の城内大臣の答弁で、本法案が目指す日本の制度は、諸外国とはまた異なるものであり、政府による監視や検閲を行ったり、あるいは制裁金を科す等の規制法ではなくて、また反対に、完全に自由で放任主義だということでもない、ＡＩの研究開発及び活用の推進が極めて重要であるという認識にまず立って、イノベーションの促進、そしてリスク対応もしっかりやる、この両立を図るために、過剰な規制は避けつつ必要なリスク対策はしっかりと講じる、こういう考えの下で今般の法案を提出したと御説明がありました。 　やはり、このリスク対応、個人の権利保護のための規制とＡＩ産業の産業力強化とのバランス、これは非常に重要だと思っております。先ほどの黄川田議員への御答弁で、松尾参考人と生貝参考人と安野参考人はリスク対応についてもう言及いただきましたので、田中参考人、申し訳ないんですけれども、その辺りについて、どのようにバランスを取っていくべきか、御意見いただけませんでしょうか。お願いいたします。

○田中参考人　ありがとうございます。 　御質問いただいたリスクとのバランスということですが、まず一つは、やはりＡＩをしっかりと理解するということが重要だというふうに思っております。 　ＡＩの利活用だけを理解するのではなくて、ＡＩの開発であったりだとか、最近ですと、ガードレールと言われるように、一定の範囲内でＡＩが機能するようにというふうな学習の仕方だとか、そういったものがございます。ですので、ＡＩを作れる技術をどんどんどんどん加速させることで、ＡＩのリスクを低減させていく。先ほど安野参考人からもありましたけれども、やはり作れることによって防御もできるということを意味しています。 　ですので、ＡＩの開発能力をいかに高めていくかということがリスク対応に対しては重要ですし、加えて、イコールフッティングの話を私は先ほどさせていただいていましたが、日本の企業だけが規制を守って、結局、安野参考人からありましたように、不正な外国のＡＩだけがのさばるようなことになっては、結局実効性がなくなってしまうということを意味しています。 　ですので、効果のある海外の、いわゆる日本の法律にしっかりと則すような、そういった取組をしっかりとＡＩ戦略本部の中で取り組んでいくということの重要性を感じております。 　以上でございます。

○おおたけ委員　ありがとうございます。 　今お答えいただきましたさくらインターネット株式会社代表取締役社長田中邦裕さんは、皆さん御存じのとおり、二〇二四年に、日本企業として唯一、政府のガバメントクラウドに条件付で認定をされましたし、北海道石狩にエネルギー効率の高いデータセンターを開設し、クラウドサービスを展開されており、国産ＩＴインフラにおける第一人者として御活躍されておると存じております。 　今後、ＡＩが進化する中で、経済安全保障も考えますと、国内企業からＡＩ関連調達を行える体制を築くことが理想ではありますが、なかなか厳しい現状があることも理解をしております。その理想に向けた課題、そして必要な対策についてどのようにお考えか、伺います。

○田中参考人　おおたけ先生、ありがとうございます。 　今御指摘いただきましたように、昨年、二〇二四年に、ガバメントクラウドの認定を条件付ながらいただくことができました。 　日本は、やはりインフラで出遅れているという状況にあります。先ほど申し上げましたように、計算資源がやはり産業の米になっている中で、それが全くないという状況にあります。 　私、この国の一つの課題だなと思っているのが、日本にはすごくたくさんのお金が余っているのに、それが投資をされていない。何なら、海外にはオルカンだとか投資をするわけですけれども、結局、日本に投資しているのは外国の企業ばかりという状況にあります。そういったことで、やはり日本の企業が日本に投資をし、日本の産業を育成していくということが非常に重要だというふうに考えております。 　そのような中で、私、さくらインターネットの代表もしておりますけれども、昨年から積極的にＧＰＵ基盤への投資をしているだけではなくて、今年の一月に、ラピダスさんで製造したプリファードネットワークスさんのＭＮ―Ｃｏｒｅ、要はＡＩチップですね、これを我々が世界に向けて売ろうということで発表もさせていただきました。 　ですので、日本には、テクノロジーもあるしお金もある、そして技術者もいるし、まだ国力は高いわけですけれども、それがなぜかかみ合っていなくて、ＡＩで後塵を拝している。松尾参考人からありましたけれども、ここから復活するのは非常に大変だということはありますけれども、何も持っていなくて復活するといったら机上の空論であるわけですけれども、リソースを十分に持った上でこれから復活をするということであれば、十分にそれは可能だというふうに思っております。 　以上でございます。ありがとうございます。

○おおたけ委員　ありがとうございます。 　今回の法案には、第十五条に教育の振興という条文がございます。日本のデジタル関連教育は、参考人の皆さんがおっしゃったとおり、大変遅れているという認識がございます。ＩＴ人材の不足も深刻で、経産省の予測によれば、二〇三〇年には最大で約七十九万人のＩＴ人材が不足するとされております。今後、関連産業発展にはやはり人材育成が大変重要であると思っております。 　今後のＡＩ産業発展のため、日本における教育の振興について、子供たち、一般の方々、そして職業訓練を含めたリスキリング等において必要な教育は何だとお考えでしょうか。 　十五分までなので、申し訳ないんですけれども、四名の参考人の方に、少しずつで結構なので、端的に、教育の振興についてどういったことが必要か、一番思いのあるところを教えていただけたらと思います。松尾参考人からよろしくお願いします。

○松尾参考人　ありがとうございます。 　今、高校の情報の教育も大分充実してきておりまして、レベルが上がっていると思います。それから、先ほど私がお話ししましたように、ＡＩを学ぶ人も増えています。いい傾向だと思います。これをますます加速させていくことが必要ですけれども、ポイントを一つだけ。 　若い人が若い人を教える、あるいは最近学んだ方が次に学ぶ方を教えるということが最も重要じゃないか、今までの教育はややもすれば、経験の長い方が教えてきた、そこの考え方を変える必要があるんじゃないかというふうに思っています。 　以上です。

○生貝参考人　ありがとうございます。 　私から一つ挙げるとしたら、やはりリスクを正しく知って、そしてそれに対する回避の仕方というものを身につける。これは、これまでのインターネットに関わる青少年保護等においてもそうであったんですけれども、やはり今の状況というのは、それが常に変わり続ける、変化し続ける、そのことについてしっかりと継続的な学習をしていくための態度、姿勢、そしてその学び方ということをしっかり身につけていただく、このことが大変重要かというふうに考えております。

○田中参考人　ありがとうございます。 　端的に、誰も言わなそうな意見でいいますと、口コミだというふうに思っております。私、会う人会う人に絶対、生成ＡＩがいかに便利かというのを説いて回っております。その人が自分で学ぶという気になれば、本当に、一週間もすればすごく使いこなしている。その人たちがまた、すごいよすごいよと言うことで口コミが伝播していければ、国民全体に広がるでしょうし、正直なところ、外から言われても変わらないですけれども、例えば、おじいちゃん、おばあちゃんでも、友達のおじいちゃん、おばあちゃんにＡＩってすごいよと言われたら、やはり使うでしょうし、若い人もそうだと思います。そういった草の根のつながりというのが非常に重要かと思います。 　以上でございます。

○安野参考人　端的に申し上げると、私が重要だと考えているのは、ＡＩへのアクセス、広いアクセスを担保することだと思います。 　今、私、未踏ジュニアという中高生向けの教育のプログラムに参加しておりまして、中高生を見ておるんですが、非常に今の中高生、プログラミングを学ぶスピードが速いんですよね。我々の時代よりも圧倒的に速い。聞いてみると、それはチャットＧＰＴであるとかＬＬＭにいろいろ聞きながらどんどんどんどん自分で学び続けているんだと。 　一方、横を見てみると、同じ中高生であっても、親からチャットＧＰＴであるとかＬＬＭを、アクセスを渡されていない学生と渡されている学生の間で大きな差がついてしまっているというのもまた事実でして、この広く平等なアクセスというのを担保するというのが一つ重要なのではないかなと考えております。

○おおたけ委員　以上で終わります。ありがとうございました。

○大岡委員長　次に、三木圭恵君。

○三木委員　日本維新の会の三木圭恵でございます。 　本日は、参考人の四名の皆様、お忙しい中おいでくださいまして、本当にありがとうございます。 　いろいろな御意見を伺っていて、今法案は推進法であって、私は、人間中心のＡＩ社会ということで、広島ＡＩプロセスや様々な経済産業省の出しているソフトローなども目を通してきましたけれども、今回はやはり推進法であり、基本法ではないというところで、ＡＩの基本計画の中に様々なことが盛り込まれて書かれていくのだろうというふうに聞いてはおります。 　その中で、やはり一番大切な理念といいますか、どのような理念をこのＡＩ基本計画の中に盛り込んでいくべきかというふうにお考えかというところを、四名の参考人の皆様方にお伺いしたいと思います。

○松尾参考人　ありがとうございます。 　どのような理念かですけれども、やはり人々の生活を豊かにする、社会をより豊かなものにしていくということだと思います。 　ＡＩ、テクノロジーの話ですけれども、テクノロジーそのものではなくて、やはりそれが社会にどういうふうな影響を与えるのか、どういった社会をつくっていきたいのかということをしっかり考えていく、そういったこともしっかり理念に入れるべきじゃないかというふうに思います。 　以上です。

○生貝参考人　ありがとうございます。 　私は、一つ挙げさせていただくとすれば、やはりそれは人間中心という理念であろうというふうに思います。 　そのことというのは、様々なリスク対応の施策等を通じて目下にある問題というのを解決していくというのが含まれるわけでございますけれども、それと同じか、それ以上に、やはり人間にとって優しい、人間にとって安全な、そして、まさに豊かな生活を長い目で見てもつくり出すための技術開発、そしてその運用というものに国としてもしっかりコストをかけて取り組んでいくのだという、まさに技術開発、イノベーションの方向づけということも含まれるコンセプトかというふうに思っております。

○田中参考人　三木先生、ありがとうございます。 　私、この法案に関して思うのは、やはり法治国家として、法律の下にＡＩをしっかりと管理をしていくということの重要性であります。 　といいますのも、ソフトローでということで、ＡＩ戦略会議の中で二年前から議論しておりましたけれども、ヨーロッパでＡＩアクトが発動し、そして、やはり法律的なバックグラウンドがない中で、しっかりと日本の権利が主張できない状態というのは絶対に避けないといけないというふうに思っております。 　また、日本においては、法律に定まっていることに関して事業をするということに対して、海外だと、法律に定まっていないからやっていいんだというふうな動きがよく聞かれる話でございます。 　これが放置されてしまうと、日本には法律がないから何でも自由にやっていいんだというふうに海外がやってきて、逆に、日本の事業者は、法律に定められていないので、既存の法律にのっとりながら慎重にやろうということになると、それこそ海外の事業者ばかりを利する状態になって、結果として国富が流出するということにつながりかねないというふうに思っております。そういった法治国家としての日本の覚悟というのを世界に知らしめるために、非常に重要な法案だと私は思っております。 　以上でございます。ありがとうございます。

○安野参考人　ありがとうございます。 　端的に理念というところで申し上げると、やはり人間の一人一人の可能性を広げるというところかなと思っています。同じテクノロジーであっても、人間の可能性を狭めるような使い方もできますし、広げるような使い方もできるわけで、このＡＩという技術は、我々の、人間の可能性を広げていくという方向に使っていこうということが重要なのではないかと思います。

○三木委員　ありがとうございます。 　やはり生成ＡＩが発展していく、私たちもそれを促進していく、日本の国富のために促進していくという法案だというふうに思うんですけれども、生成ＡＩの分野は非常に進歩が速くて、先日の内閣委員会で私も質問をさせていただいた中で、ＡＩが人をだますような知能をもう持ってきているというようなことがございます。 　その中で、やはり人間の知能を超えるＡＩというものが開発されてくるのが近未来的に見えているというような中で、どのようなことに今後政府は気をつけていかなければならないのかというところをちょっと教えていただけたらなと思います。是非、四人の参考人の方にお願いをいたします。

○松尾参考人　ありがとうございます。 　おっしゃるとおり、人間の知能を超えるようなＡＩ、ＡＧＩというふうな言い方もされますけれども、そういった開発に向けて世界がしのぎを削っているということかと思います。 　そういった中で、いろいろなリスクがあるわけですけれども、先生がおっしゃられたような人をだます知能、これは少し注意が必要でして、人をだますＡＩというのはあるわけですけれども、ただ、ＡＩが自ら人をだまそうと思ってだましているわけではなくて、その裏には人がいて、それがＡＩを使って人をだまそうとしている、そういうふうに技術を使っているということです。ですから、技術そのものが悪いということではなくて、やはりそこの裏側にいる人が悪いということだと思います。 　したがって、こういったリスクを減らしていくためにも、今回の法案でつくられますＡＩ戦略本部が中心になって、どういった使われ方をしているのか、そこにそういったリスクがないのかというのを素早く察知して対応していくということが重要かと思います。

○生貝参考人　ありがとうございます。 　一つ申し上げるとすれば、私の最初のお話の最後にございました、絶え間ない継続的な制度の検討体制だというふうに考えております。やはり問題が顕在化してから、立法事実が我が国で明確になってから対応する、検討を始めるのではなく、常日頃から、その端緒が生じたときにいかなる制度的対応の選択肢があるのかということを継続的に検討していく。 　人間をだますという意味ですと、例えば、我が国でも昨今問題になりました有名人の投資詐欺、ＳＮＳ広告問題でございますね。あのことというのは、我が国で去年問題になる三年、四年前、英語圏では、既に非常に深刻な問題として、我が国よりも早く、制度的対応を含めた検討をされていた。 　さらに、昨今ですと、例えばＡＩを使った、ディープフェイクを使った振り込め詐欺のようなこと、そして目下のディープフェイクの問題。このことというよりも、やはりまず英語圏で一年、二年早く大きな社会問題に既になっているといったようなところがある。例えばそういった国際的状況というものの端緒、そして、これが日本で起こる可能性というものは十分に考えられる、そういった検討を常に続けておくこと、これが重要かというふうに存じます。

○田中参考人　ありがとうございます。 　一つ気をつけないといけないところとしては、ＡＩを使わないことだというふうに思っております。ただ、ＡＩを全く使わないということにはならないですし、犯罪者も使ってくることになります。 　ですので、例えば法案審議において、ＬＬＭに聞いちゃって、それを基に法案を作るとなると、そのＬＬＭが、本当に国会議員の皆さんが、衆議院、参議院とともに自分たちで作った国会専用のＬＬＭで、それで生産性を上げるために作るということは十分に考えられると思いますけれども、ＡＧＩのような本当に発展したＡＩを基に、例えば国の方向性を決めるようなことに使ってしまうと、そこに意図が入った場合に、国がだまされてしまう。一回法律が作られてしまうと取り返しがつかないことになりますから、そういった意味で、どこでＡＩを使うのかということに対して、十分に考える。ただ、ＡＩを使わないのではなくて、それぞれに向けたＡＩをしっかりと作って、管理された中でのＡＩを使うことにする。 　もう一つは、とはいえ、犯罪者は、振り込め詐欺だとか、ＡＩを使って攻撃をしてくるわけですけれども、やはり生成ＡＩに対抗できるのは生成ＡＩしかない。例えば、振り込め詐欺の電話に対して、振り込め詐欺だということを、息子さん、娘さんの声だったとしても違うと判定するようなＡＩを開発している人たちがいます。 　ですので、ＡＩ対ＡＩの戦いになっているわけですけれども、しっかりと生成ＡＩを含めたＡＩ開発力を高めていくことで、防御力をしっかりとつくっていくということが一番の対応法じゃないかなというふうに思っております。 　以上でございます。

○安野参考人　ありがとうございます。 　先ほど松尾先生と田中さんがおっしゃっていたとおりだと思っていまして、ＡＩ自身が、自ら人をだましていくというよりも、例えば、ほかの勢力がＡＩをフルに活用しながら攻撃してくる方が、より現実的には脅威だと思っております。 　それに対抗するためには、やはり我が国でしっかりとした科学技術を発展させ、ＡＩを発展させ、対抗できるようなＡＩを作っておくということかなと思っております。

○三木委員　ありがとうございます。 　興味津々でお答えを聞かせていただいているんですけれども、いろいろ聞きたいことはたくさんあるんですが、私が一番懸念をするというか、今後どうなっていくのかなというふうにちょっと不安を覚える部分というのは、ＥＵは規制の方に行っている、アメリカの方は促進の方に行っている。では、一体、中国とかそういう民主主義国家ではない国では、こういうＡＩに対して、ある意味倫理観を飛び越えたような促進を、開発とかをしていっているんじゃないかなということが、何か一般的な不安として残ってくるわけでございますけれども、そういった国々に対抗するというか、主に軍事面になるとは思いますけれども、そういったことで、やはりきっちりと対応していかなければならない。 　生貝先生なんかはＥＵの規制法で非常に知識を持っていらっしゃると思いますけれども、この間の委員会でも申し上げたんですが、最後にＥＵでもめたのは、生体認証を使うかどうかということでもめたというふうに聞いております。 　もちろん、中国なんかはそんなものはもうばんばん使っているという中において、今後、そういった国々に対抗していくためにどのような法を作っていけばいいのかということをちょっとお伺いしたいなと思います。これは松尾参考人と生貝参考人にお願いをいたします。

○松尾参考人　ありがとうございます。 　おっしゃるとおり、中国は技術レベルも高いですし、国全体でデータ、ＡＩの活用に踏み込んできますから、非常に進歩も速いということだと思います。 　こういった技術の進歩に対応していくには、やはり日本でもしっかりＡＩの開発力をつけていかないといけないということですし、日本だけじゃなくていろいろな各国がうまく連携しながら研究開発、活用を進めていって、全体としてのレベルを上げていく、どこかだけが独占的に強くならないようにしていくということが必要かなというふうに思います。 　以上です。

○生貝参考人　ありがとうございます。 　御指摘のような非常に重要な問題に関しては、一つは、やはり我が国だけで対応することがどうしてもできない問題、このことについて、本法案の中でも、特に国際連携、そして規範形成に対する貢献の我が国の在り方ということを非常に重視されておりますけれども、そのことをしっかり進めていく。 　そして、当然、もう一つは、やはり目下、様々、もしかすると行われ得る、あるいは既に行われているかもしれない干渉から我が国の国民というものをどのように守っていくかということ。 　例えば、このことに関しましては、これまでも既に話題として出ておりますディスインフォメーション、あるいはフェイクニュースの問題。これは国際的には、二〇一八年、一九年のケンブリッジ・アナリティカ問題、政治的なその国の決断というものに対して、外国からの干渉があったのかなかったのか。このことについては、アメリカでもヨーロッパでも、そしてＥＵでもイギリスでも、検証に基づいて、実際にそれが行われて、どのような手法が取られていて、どのような影響があったのかということを徹底的に、数百ページ、数千ページに及ぶような分析をして、報告書というものを作っているわけでございますね。 　そして、私も、我が国のフェイクニュース対策等に関わる様々な政策議論にも関わらせていただいてきたのですけれども、その中で、やはり比較的最近になるまで、例えばそういったインフルエンスオペレーションが行われているのかどうかということを徹底的に検証している組織や機能というものが我が国に存在するのかどうかというのが、実はよく分からなかったというのがあります。なかったとしたら大変な問題なわけでございます。 　今はしっかり、恐らく様々な形でされているというふうに思うのですけれども、先ほどディープシークの言及もございましたけれども、やはりそのことをしっかり徹底的に検証していく、そして、国民に対して分かりやすく、その避け方を検討する。そういったことが、この法案に基づく体制整備とリスク管理というところで進められていくことを非常に期待するところでございます。

○三木委員　質疑時間が終了いたしました。 　まだまだ質問をいろいろとしたかったんですけれども、本当にありがとうございました。

○大岡委員長　次に、田中健君。

○田中（健）委員　国民民主党、田中健です。 　本日は、四人の参考人の皆さん、ありがとうございます。 　早速質問させていただきます。まず、安野参考人と田中参考人に伺いたいと思います。 　先ほど来から、ＡＩの今回の法案は推進法だということで、今後、基本計画や指針や様々な政策を含めて、ＡＩ法に基づくＡＩの政策が次々とつくられていきます。その中で、私は、リスクの最小化はもちろん大事なんですけれども、それのみならず、ビジネスをやっているお二人としては、やはりＡＩの便益や機会を実現する、ないしはＡＩの導入促進ということを今後具体的に進めていくのが大事だと思っています。 　そういった意味では、安野さんは、大変厳しいいろいろな意見がある中、ＡＩには日本の勝機があるということを述べています。是非、それについてお聞きをしたいと思います。さらに、法規制が課題でもあるということもおっしゃっています。 　そして、田中参考人には、「創る国」ということを言っていただきまして、デジタル赤字の話が出ました。私もこれを国会で取り上げておりまして、ＧＡＦＡだけでなく、イスラエルやインドなどは貿易黒字、デジタル黒字にもできています。産業と組み合わせることで私はデジタル赤字を解消できるんじゃないかと思っておるんですが、ビジネスの観点から、お二人にまずお聞かせください。

○安野参考人　御質問いただき、ありがとうございます。 　まず、ＡＩに対して勝機があるのかという話ですが、私はあるんじゃないかと思っております。もちろん簡単な話ではございませんが、しっかりと今の段階から取り組んでいくことで、勝機はあるのではないか。 　その背景には二つ理由がございまして、一つは、こういった新しい技術がどんどん広がっていくときには、その業界で既に勝っていた勝者と敗者が入れ替わりやすいタイミングがある。つまり、例えばインターネットというものが出てきた、ＳＮＳというものが出てきたことによって、グーグル、フェイスブックなどの企業はビッグテックとしてどんどん大きくなっていったタイミングがありますし、あるいはスマートフォンみたいなものが出てきたときにも、アップルであるとか、ほかのサムスン、オッポみたいなスマートフォンの企業というのがどんどん大きくなっていった。 　今回は、次はＡＩという全く新しいパラダイムの技術が出てきた。このタイミングは、今まで負けていた会社が上に上がっていく、今までになかった会社が上に上がっていく非常に希有なチャンスだと思います。 　ここは、ファウンデーションモデル、基盤モデルのような大きなモデルに関しては、一定、なかなか今から参入というのは難しいかもしれないんですが、そういった基盤モデルを活用しながら事業をする、ＡＩを使いこなすレースというのはまだまだ始まったばかりなのかなと思っておりまして、ここはまだ無数にチャンスがあると思っています。 　二つ目の理由としては、日本の人口構成がもたらすインセンティブというところだと思っています。 　何を言っているかというと、労働人口というのがどんどん日本はこの先減っていくわけですよね。そうなると、雇用の問題よりも、この減っていく人不足の状況をどう解消するのかということで、各社、ＡＩを積極的に導入するインセンティブというのが生まれていると思います。これは、このモメンタム、勢いをうまく活用していくことで、始まったばかりのレースでしっかり勝っていくのが重要なのかなというのが私の意見です。

○田中参考人　田中先生、ありがとうございます。 　ほとんど安野参考人からありましたけれども、やはりＡＩ自体でいかに売上げを上げていくかということが、この国が求められていることだというふうに思っています。 　利益というのは、売上げを上げるか、コストを下げるか、このどちらかにおいて生まれるわけですけれども、日本はこの三十年、コストを下げることで利益を増やしてきました。そうなるとどうなるかというと、給与も減っちゃいますし、サプライチェーンに払うお金も減っていく。どちらかというと、全てを上げていけば結果的にＧＤＰは上がるはずだというふうに思っております。ですので、人口が半分になろうとも、一人当たりのＧＤＰが倍になれば、日本のＧＤＰは維持できるわけであります。 　そういった意味で、ＡＩを殊更コストダウンに使うのではなくて、もちろん生産性の向上であるだとか省力化に使うということも非常に重要なわけですけれども、もう一つは、いかにＡＩで産業をつくっていくかということが重要だと思っています。 　例としては、やはり日本は、労働者の中で第二次産業に属している方が非常に多いというのが特徴的です。アメリカはとうとう一〇％程度というふうに言われていて、それだともう製造業が復活できるわけがありません。しかしながら、日本は多くの人が製造業で働いていて、それにＡＩを結びつけることで、生産性が上がる。 　単にコストが下がるのではなくて、今までよりも高く物を売れるようになったとするならば、日本は製造業大国ですから、日本の製造業というのはこれまで安くいいものを作るというものでしたけれども、高いけれどもすごく機能がよくてよいものがＡＩとともに作られていく。 　要は、ＡＩ産業というと、どうしても我々のようなＡＩ基盤だったりだとかＡＩ自体を作っている人たちがもうけるように思われますけれども、既存の産業の方々がＡＩとともにもうけを増やしていく、そういったＡＩによってもうけた話というのを増やさなければなりません。 　足下だとどうしても、生成ＡＩはすごくみんな使っているんだけれども、コストダウンしただけの話が多くて、是非、皆様の周りでも、ＡＩで売上げを伸ばしたんだという話が増えていくならば、日本の国は、ＡＩ産業自体じゃなくて、ＡＩ産業を元にして、全産業がＡＩとともに膨れていくということにつながるのではないかなというふうに考えております。 　以上でございます。ありがとうございます。

○田中（健）委員　国としてもアプリ新法の法整備をしまして、今年中に実行ということでありますので、様々な形でＡＩを、今大変前向きな話をしていただきましたので、進めていければと思っています。 　そして、ＡＩの活用の鍵となりますのが、お話を聞いていますと、プロンプトという言葉が出てきます。プロンプトエンジニアリングということでも言われます。これについては、松尾先生、生貝先生、安野さんに伺いたいんです。 　松尾先生は、人間とＡＩの境界がなくなる、大変ショッキングなことでプロンプトというものを説明されていますが、是非、その心と内容をちょっとお聞かせいただきたいと思います。 　生貝先生には、これを著作権と絡めて書いていらっしゃる論文がありました。著作権とプロンプトというのはどういう関係になるのかということをお聞かせいただきたいと思います。 　安野さんには、プロンプトの指示出しが大事だ、これによって大きくＡＩを活用できるということを書いてございました。 　それについて、それぞれ三人の参考人からお聞かせください。

○松尾参考人　ありがとうございます。 　プロンプトというのは非常に重要です。私の研究室でもプロンプトエンジニアリングの研究をやっていまして、一つ有名になった研究が、レッツ・シンク・ステップ・バイ・ステップという一文をつけるだけで生成ＡＩの能力がなぜか上がるというものです。つまり、一歩ずつゆっくり考えようねと言ってあげると、なぜか数学等の性能が上がるということがあります。それなんかを見ますと、ちょっとこれは、何か子供にゆっくり考えようねと言うと、落ち着いて成績が上がるというのと似ているようなところがあって、不思議だなと。 　ただ、中を見ると、技術的には次の単語を予測するということをやっているだけなはずなんですけれども、そういうことが起こるのは非常に不思議だということです。 　そういったプロンプトエンジニアリングのテクニックはいろいろありまして、例えば、目的をはっきりする、文脈をはっきりする、それから自分の意図をはっきり伝える、そうするとよい答えが返ってくるわけですね。実は、これは部下に対しての言い方も一緒なんじゃないかということで、そうしますと、ＡＩにしゃべっているしゃべり方をよくするということは、人に対してしゃべるしゃべり方をよくするということでもあります。そういった意味で、人とＡＩの境がなくなってきているんじゃないか、そういうふうに申し上げました。 　以上です。

○生貝参考人　ありがとうございます。 　御指摘いただきましたとおり、利用者がどのようなプロンプトをＡＩの中に打ち込み、どのようなコンテンツを生成するかということに関しましては、これは著作権侵害の成否を決する依拠性ですとか類似性といったようなところの判断に様々な形で関わってくるというところであるかというふうに思います。 　そして、ここしばらく、いわゆるジブリ風と呼ばれるような画像の生成等が非常にインターネット上でも話題を集めることになったわけでございますけれども、やはりそういったことが権利侵害に当たり得るリスクというのは、開発事業者の側も様々な形でもちろん認識はしておりますので、例えば特定の作家でありますとかあるいは会社さんのようなところで、あと、名前を含むようなプロンプト自体を機械的にはじくということを御案内のとおりしているわけでございますし、それは恐らく権利者の方々の権利利益の保護というところにも大変重要である。 　しかし、そういったこれまでの著作権法の厳密な解釈とは異なる、あるいはデジタル・ライツ・マネジメントのような方法とも異なる、例えばプロンプトレイヤーにおける適切な権利保護の在り方に関するコード・オブ・コンダクトというのは、少なくともまだ業界共通のものというものはないし、あるいはユーザーに共有されるべき規範というものも存在していない。 　そういったレベルでの、まさにソフトローのレイヤーとなりましたところに関して、いかに規範を見出し、国民と共有していくのかということも、この法案の一つの意義、役割としても期待されるところかというふうに存じます。 　ありがとうございます。

○安野参考人　ありがとうございます。 　プロンプトエンジニアリングについては、松尾先生がおっしゃったとおり、現状、様々なテクニックが存在します。 　最近、私が見て一番驚いたのは、深呼吸をしろというのをＡＩに言うと、ＡＩはもちろん肺はないわけですけれども、なぜか精度が上がる。 　細かいテクニックというのは今たくさんあるんですが、ただ、私が申し上げたいのは、こういう細かいテクニックを一般の利用者が全部知らないといけないわけではないんじゃないかと思っていまして、というのも、ＡＩのモデルを作る側の会社は、そういう細かいテクニックがなくても同じように精度が出せるように各社頑張っておられるので、そこは、一般消費者としては、あるいは普通に使うユーザーとしては、そこまで意識しなくてもよくなる未来というのが来そうだなと思っています。 　そうなっていくと、やはり必要な情報を的確に与えるという意味で、まさに人間と接しているような形で、本当に部下のマネジメントと同じような技能というのが求められていくのかなと思っております。 　以上でございます。

○田中（健）委員　ありがとうございます。 　さらに、ＬＬＭが今日述べられておりました。日本での開発はもちろんのこと、海外との連携も大変重要だということで、松尾先生の方から、東南アジアのＬＬＭを今進めているというお話がありましたし、生貝先生は、日本とＥＵのデジタルパートナーシップの中で欧州の言語データスペースの必要性を述べておりまして、インターネットのアーカイブもこれから重要になるということも述べられておりました。 　これについて、二人の参考人からお聞かせいただければと思います。

○松尾参考人　ありがとうございます。 　ＬＬＭの開発、日本語でやることも大事なんですけれども、例えば東南アジアの諸国語、これをつなぐようなＬＬＭができれば、日本語が例えば自然にインドネシア語に変換されたりマレーシア語に変換されたりということで、両国間の交流も活発になりますし、いろいろなビジネスも増えてくるということで、こういった辺りを日本がイニシアチブを取っていくべきじゃないかというのを私は考えとして持っております。 　以上です。

○生貝参考人　ありがとうございます。 　御指摘いただきましたとおり、やはり我が国のＬＬＭ及び生成ＡＩ、大規模基盤モデルを開発していく中で、図書館であるとか、あるいは博物館や美術館が保有している様々な知的蓄積のアーカイブというものをいかに活用していくかということは大変重要だというふうに思います。 　この点に関して、まさにヨーロッパの中ですと、欧州の多様な言語をしっかりと偏りなく、しかも正しい方法でＡＩの学習データに利用してもらうためのデータスペースと呼ばれる取組というのを大規模に進めているところでございます。 　また、フランスにおきましては、国立図書館であるところのＢＮＦ、それから国立視聴覚研究所のＩＮＡが中心となって、フランス国内のスタートアップに対して、彼らが持っているアーカイブのデータというものを厳しい契約の条件に基づいて提供し、スタートアップ支援と、そしてフランスの文化のＡＩにおける普及、活用というところに力を入れたプロジェクトを進めているところ、我が国においても、国立国会図書館が保有するような膨大な書籍を始めとして、あの資産をどのように生かしていくかということは極めて重要でございます。 　スタートアップ支援、そして、それが我が国の広い意味での主権というものを確保していくためにどのような枠組みが考えられるのか、是非積極的な検討をしていただきたいというふうに考えております。

○田中（健）委員　今回、大変様々な御示唆をいただきました。まだこれは始まったばかりでございますので、しっかりと国会でも議論をして、皆さんと一緒に力を合わせて、ＡＩ立国を目指して頑張っていきたいと思います。 　ありがとうございました。

○大岡委員長　次に、河西宏一君。

○河西委員　おはようございます。公明党の河西宏一でございます。 　本日は、四人の参考人の皆様より大変貴重な御意見の陳述をいただきまして、大変にありがとうございました。どうぞよろしくお願いをいたします。 　最初に、松尾参考人の方にお伺いをいたします。 　先ほど、ＡＩと人間の境界がだんだん曖昧になってくるんじゃないかということを、私も全く同じ感想を持っておりまして、私も今、日々仕事で、毎日ＡＩと会話するというふうに言ってしまうんですけれども、それぐらい見事に返してくるものですから。以前、私は憲法審査会にも属しておるんですが、憲法審査会でも、ディープフェイクの関係で、国民投票においてどういった対策をしていくのかということで今議論になっているわけでありますけれども。 　これは教育者の立場から松尾参考人から伺いたいんですが、私の大好きな本に、手塚治虫先生の遺作であります「ガラスの地球を救え」という、結構短い冊子なんですが。その中に、今の高度情報化社会を予見をして、要は、膨大な情報量に人間一人一人が包まれるので、何が必要で何が正しいのか、そもそもの正しい情報という定義自体が誠に曖昧になっていく、いろいろ突き詰めていくと、手塚先生らしいなと思うんですが、大人が子供に生命の尊厳は何たるかということを教えることが非常に重要だというような言葉をおっしゃっていまして、非常に大事な視点だなというふうに思っております。 　これから人間中心のＡＩ社会を進めていく、その中で今回の法制度もイノベーションの促進とリスク対応のバランスということでありますが、これから教育の中で、あるいはＡＩとの共生の中で、我々大人が子供に接するときに何を大事にしていくべきか、また何を伝えていくのか、そういった視点を是非、御所見があれば、冒頭御示唆をいただきたいと思っております。 　よろしくお願いいたします。

○松尾参考人　ありがとうございます。 　教育に関してですけれども、一つは、まず、私は割と楽観的でして、余り心配しない方がいいと。 　なぜなら、例えば、電卓ができたときに、電卓によって暗算の能力が失われてしまうんじゃないかということが言われていたり、ＰＣ、スマホができてきて、みんな漢字が書けなくなるんじゃないかと言われてきたり、まあ、実際そうなったのかもしれませんけれども、またそれを使った新しい能力が次々と生まれてきている。 　ですから、今の子供たちは、生成ＡＩを前提とした社会の中で生きていって、それを当たり前のように使って、また違う能力を発現させていくと思いますので、余り心配しなくてもいいんじゃないかと思います。 　ただ、時代を超えて、大人が子供に伝えるべきことというのはいつも変わらないと思っていまして、それは例えば、人と人との関係性であったり信頼であったり、それから、歴史とか文化とか教養とか、そういったものが重要だということ自体は時代を超えても変わらない、そういったことをしっかり伝えていく必要があるんじゃないかというふうに思います。 　以上です。

○河西委員　松尾参考人、ありがとうございました。 　私も、ＡＩはどんどん活用して、いい意味で社会が発展をしていくことが大事だというふうに思っておりますので、ちょうど私も今二児の父でありますので、これからの社会をどういうふうに生きていくのか、ちょっとそんな視点でお伺いをさせていただきました。 　続きまして、生貝参考人の方にお伺いをさせていただきたいと思います。 　ＡＩ制度研究会の一員であるということでありますので今更申し上げるまでもないんですが、今回の法案の考え方は、いわば既存法で対応できるところはきちっとそこでハードローで対応して、それ以外については、指導、助言とか情報提供もやるんですけれども、どちらかというとソフトロー寄りのハードローの枠組みがあり、また、ガイドラインでありますとか指針とか基本方針の中で、ソフトローできちっとそれ以外の部分については対応すべきなんだろうというような考え方を示されております。 　参考人は論文の中で、ＥＵは共同規制である、日本もこういった枠組みを、こういった形で対応していく。その中で、やはり、事業者からの情報提供あるいはモニタリングが非常に大事であるということで、非常に各論ではありますけれども、今後の、このＡＩ推進法が成立をした暁における既存法も含めた運用において非常に大事なオペレーションなのかなと思いますが、ここをしっかり実効的にやっていくためには何が重要となるのか、御所見をいただきたいと思っております。

○生貝参考人　ありがとうございます。 　特に、情報収集、政府としてしっかり把握をしていくということですと、やはり一つは、今回、特に、指導、助言そして情報提供、この中には社名の公表等が含まれるというふうにいったような、比較的ソフトな方法というものが中心には置かれている。 　そして、このことの中で、やはり、特に主要な、国際的にも活動されている実質的に影響力の大きい事業者様というのは、これは実際の罰則でありますとか罰則金というふうにいったようなところ以上に、ある種のレピュテーションでありますとか、そういったことに対する国や国民からの評価ということを非常に重視するところかというふうに思います。 　しっかり情報提供に応じて、情報の共有に応じていただくというところを含めて、例えば情報提供といったようなところにも、やはり様々な段階でありますとか、あるいは周知や共有の方法というものがあるというふうに思います。このソフトローのエンフォースメント、今回の法的措置をどのようにしっかり運用していくのかということについて、まさに様々な手法というふうにいったようなことを是非検討していただくことが重要である。 　それと加えまして、やはり、この問題というのは常に未来に開かれているわけでございます。しっかりとまずは自主的な対応を今回念頭に置いている、そして、これまでの議論の中でも既に出てきておりますとおり、やはり、そのことで十分に問題が解決されないというようであれば、しっかりとした法的規制というものをこれは事後的にでも検討していくという、このことを私たちは規制の影というふうに呼んでおりますけれども。 　やはり、現在作られる法律、そして将来に向けた更なる対応の在り方、こういった時系列全体の中で事業者様との対話というものを続けていくことが一つは重要なのかというふうに考えております。 　まずは以上でございます。

○河西委員　ありがとうございます。 　今回の法案には事業者の責務ということもしっかり規定をされておりますので、こういった制度の趣旨の周知も含めてしっかり取り組んでいきたいというふうに思っております。 　続きまして、田中参考人また安野参考人の方にお伺いをさせていただきます。 　ＡＩの世界は、スタートアップのエコシステムの構築でありますとか、インキュベーションですね。海外は、今回のオープンＡＩのチャットＧＰＴもそうでしたし、また、ディープシークのＲ１もそうだったと思うんですけれども、私が非常に注目をしているのは、要は、二十代、三十代の本当に若い人たちが、本当にこの世界を変え、あるいは震撼をさせた部分もあったわけであります。 　他方で、先日、私は城内大臣との質疑でもちょっと取り上げさせていただいたんですが、これは御案内のとおりで、ＯＥＣＤには様々な、各国の能力の調査というものをやっておりますけれども、決して低いわけではない、我が国は。人材の不足は叫ばれているんですけれども、理数系の基礎的能力というのはむしろ世界トップレベル、しかも上がってきている。だけれども、人材は不足だと言われていたりとか、イノベーションがなかなか起きていない。 　私は、やはり、どっちかというと、この国というのはちょっと管理志向が強いのかなというふうに思っているんですね。欧州なんかは若者に対してはお金は出すけれども口は出さないというような文化があったりとかして、非常にそういった文化というのはいいなというふうに思うのでありますけれども。 　そういった人材の育成とか、人材が飛躍をしていく社会環境、あるいは労働環境においてもスキルが適正に処遇に反映をされるという仕組みも非常に大事なのかなと。そうなりませんと、頑張ってスキルアップ、リスキリングしても、特に賃金が上がらなければということも起きかねませんので。 　こういったことに対する現状認識、課題あるいは今後の方策、あるべき姿があれば、御所見をいただきたいというふうに思っております。 　よろしくお願いいたします。

○田中参考人　河西先生、ありがとうございます。 　私自身が起業家でございまして、高専在学中に十八歳で起業いたしました。 　そういう意味でいいますと、当時のインターネットの起業環境は非常によくて、というのも法律が何もなかったという状況であります。ですので、通信事業者としての登録だけは、登録といいますか届出だけは必要でしたけれども、それ以外の規制はほとんどなくて、起業環境としては非常によかったというふうに思っています。 　そういった意味でいうと、やはり、変化が大きいときこそ規制がなくて、そしてチャンスをつかみやすい。大手さんも動きが遅いので、そこに先んじて入ることができるということが言えます。 　そういった意味でいうと、既にＩＴに関しては復活不可能なぐらいに後れを取っているわけでもありますし、今更ＩＴ起業家が出てきても成功する確率というのは非常に低いわけですけれども、事ＡＩでいいますと始まったばかりの状況にあります。大手さんもそれほど強いわけではございません。 　また、松尾参考人からありましたように、ＧＥＮＩＡＣという経産省さんのＧＰＵ資源、これは非常に有効に動いておりまして、スタートアップさんがしっかりとＧＰＵを確保して、成長できる余地を持っているということがあります。 　私は実はエンジェル投資家でもありまして、七十社ほどエンジェル投資をしているんですけれども、やはり最近の若い二十代の方というのはＡＩスタートアップをかなりつくってきていて、結構伸びているというのがあります。正直ＩＴの起業というのは上場もできないというぐらいにひどい状況にありますけれども、ＡＩのスタートアップであるとか、あと、ディープテックと呼ばれるような大学発のしっかりと技術を持ったようなスタートアップというのは、上場を目指して、実際に高いバリュエーションで上場している事実もございます。 　そういった企業が出てくることで、加えて、そういった企業は比較的高い給与で社員を雇っています。ですので、高い成長をする企業が日本で大きく伸びていき、それらを支援することで結果として従業員にも給与を上げていく。 　実は、当社も、手前みそながら、昨年度は一五％の賃上げをしたわけなんですけれども、実際に、よい人が入ってきますし、大企業さんはどんどんどんどん若い人が転職していくというふうに言われますけれども、逆に当社は若い人たちがたくさん転職してきてくださっていて。 　やはり、人の流動化が激しくなる中で、結果的に、労働力がどんどん不足するわけですから、どんどんどんどん待遇をよくしないと、そして生産性をよくして新しい産業を取り組まないと、人を確保できなくなって、この五年でいろいろなことが変わるんじゃないかと思っています。 　ですので、このＡＩの変化の激しいときに、スタートアップも、またチャレンジする企業も伸びていくような社会になるのではないかなというふうに考えております。 　以上でございます。ありがとうございます。

○安野参考人　御質問ありがとうございます。 　まさにおっしゃるとおりだと思っておりまして、二十代のような若い人材をいかに活用できるかというのが物すごく重要だと思っています。 　私も、オープンＡＩの中の話とか、アルファベット、グーグルの中の話、あるいはｘＡＩの中の話を聞くんですけれども、今の基盤モデルが強い会社の中の話を聞くと、やはり、主力の戦力って別に二十代の前半の方とかもたくさんいらっしゃるんですよね。なので、そういった若い方の力というのをフルに活用するというのを各社やられているなと。 　おっしゃるとおり、十八歳時点では恐らく日本の理数系の学生の能力というのは非常に高いわけですけれども、このポテンシャルというのをうまく産業界、スタートアップ業界で生かし切れていないというのが一つの課題なのかなと思っていますので、まさに二十代の人材をうまく活用する、そのために必要なことをやっていくということだなと思っています。

○河西委員　ありがとうございました。しっかりと政策に生かしてまいりたいというふうに思っております。 　時間もあと一分半ということで、松尾参考人に、最後、一問だけ、改めて問わせていただきたいと思います。 　先ほど田中委員の御質問でもありましたけれども、東南アジアＬＬＭ、これは非常に大事かと思っております。 　今、米国が世界経済のリーダーから自由貿易体制への挑戦者になってしまいましたので、今、ＡＳＥＡＮを始め東南アジアの各国は、ある意味、脱アメリカという形で動いております。そうかといって中国べったりもちょっとどうなのかなというような状況の中で、東南アジアの中で、あるいはＡＳＥＡＮの中で、日本と各国が共通のいろいろなチャンネルを持っていくということは、私は、国益に対しても、また、今後の日本の、輸出大国でありますので、経済のパイを広げていくという意味でも非常に大事な勝ち筋だと思っておりまして、是非、東南アジアでＬＬＭ計画、前に進めていきたいというふうに思っているんですけれども、必要な施策とか、我々政治に対する御注文などあれば是非おっしゃっていただきたいと思います。よろしくお願いいたします。

○松尾参考人　ありがとうございます。 　おっしゃるとおり、東南アジアは非常に重要だと思います。 　実は、私の研究室でＡＩの講義を提供しておりますけれども、昨年末からマレーシアとインドネシアにも提供し始めました。彼らも非常にＡＩを勉強したがっていますし、おっしゃるとおり、自分たち独自でしっかりやっていきたいという思いもありますから、日本との協力関係というのを非常に求めています。 　そういった人材育成も基盤にしながら、ＡＩの活用、それからスタートアップをそれぞれの国で生み出していくこと、それから共通のＬＬＭを一緒に作っていくこと、こういったものをセットにして、外交の一つの重要な方向性として定めていくということをやるべきではないかというふうに私は思います。 　以上です。

○河西委員　時間が参りましたので、終わらせていただきます。 　大変にありがとうございました。

○大岡委員長　次に、上村英明君。

○上村委員　皆さん、御苦労さまでございます。れいわ新選組の上村英明と申します。本日はよろしくお願いします。 　まずは松尾参考人にお尋ねしたいんですけれども、いろいろと御論考とか読むと、検索エンジンの日本での失敗を取り上げられて、デジタル敗戦という言葉も使っておられますし、先ほどもずっと出ていますけれども、やはり、なかなか厳しい状況とか、負けているんだという表現もあるんですけれども、ＡＩの開発の歴史がある意味で戦争と類推できるような状況であるとすればということを前提にお伺いしたいんですけれども。 　日本が敗戦したときに、実は、何で敗戦したのかという、これは御存じの方もいらっしゃると思いますが、失敗の本質という部分が検討されなかったんですね。今も、一般的に言うと、グッドプラクティス、つまり、何で成功したかという分析はよく行われるんですけれども、本来であれば、やはりバッドプラクティス、何で失敗したかという原因を本当は分析されないと、新しい状況で新しく頑張っているから大丈夫と思われながら、本質の部分で間違っていると、また同じことを違う形でやってしまうということもあり得るというふうに思うんですけれども。 　先生へのまず一つは、検索エンジン以来の日本が失敗した原因というのは、どこにその原因があるのかというのをお尋ねしたいと思います。 　もう一点、済みません、十六条に不正な目的とか不適切な方法ということは書かれているんですけれども、もう一つ、ＡＩが広く社会的な課題と多分ぶつかるんだろうなということを私は懸念していて、こういうことがなかなかこの法律には書かれていないということがあります。 　具体的に言えば、生産性の向上ということがよく言われるんですけれども、生産性の向上と生活の向上は別です。 　これは、さっき田中参考人がおっしゃったように、日本のようにこうした技術をコストカットで使おうとすると、生産性は向上したけれども生活は向上しなかった。先ほど安野参考人からも言われたと思うんですけれども、例えば少子化で役立つと言われていますけれども、少子化のこの時代に実は非正規雇用の方が伸びているんです。何で正規雇用しないのかというと、やはり、社会全体の合意事項として、こうした意味でのコストカット優先で経済を回そうということをやってしまうと、ＡＩも同じように使われてしまうということを若干懸念しているんですけれども。 　こういうことに関して、松尾参考人の御意見とかいただければありがたいと思います。

○松尾参考人　ありがとうございます。 　最初の、これまで負けた理由ですね、大変重要な御質問かと思います。 　私は、いろいろな経営者の方にお話を聞いておりますと、例えば一九九〇年代後半に今のＧＡＦＡＭに相当するようなビジネスというのはいろいろな企業に芽吹いていました。それをやろうとしてきた方も何人もいる。ところが、それが本流のビジネスとかち合うから、バッティングするから等の理由で、中で余り支援してもらえなかったという中で、そういった芽が伸びてこなかったということがあるかと思います。 　結果的に、検索エンジン、Ｅコマース等の世界的なサービスが出てこなかった。これはウィナー・テイク・オールの傾向が非常に強いですから、それがきちんと国の中で育っているのは、今、米中の二国になっている。そうしますと、ＡＩへの投資もこの米中の二か国が圧倒している。そこら辺の構造、兵たんの部分で今負けてしまっているので苦しいということかなというふうに思っています。 　そういった意味では、新しい芽を摘まない、新規のビジネスというのをたとえ本流とかち合うとしてもしっかりやっていく、そういった文化をつくっていくということが重要かと思います。 　二つ目の点に関して、おっしゃるとおり、生産性の向上と生活の向上は別と。生産性が上がるということは、ある人にとっては自分の仕事が減る、なくなるということを意味する場合もあるというふうに思います。 　ただ、機械化の歴史で考えてみていただくと分かりやすいんですけれども、自動車の生産なんかも多くの場合、機械化されています。機械化すると、最初は、そういった意味で、今まで手作業をしていた方の労働はなくなります。ただ、長期で見ると、生産性が上がり、それが競争力につながって、生活の向上につながってくるということがありますので、長期ではそこは私は連動していると思っています。 　ただ、短期においてはいろいろな不具合が出てきますから、そこはしっかりセーフティーネットをつくっていくということも同時に必要かというふうに思います。 　以上です。

○上村委員　ありがとうございます。 　生産性の向上で、一般にトリクルダウンと言われて、高いところが潤えばどんどんどんどん下へ下がるということがあったんですが、なかなかこの十五、六年、そううまくはいかなかったということもありますので、その辺も含めて、また検討したいと思います。 　次に、生貝参考人にお尋ねしたいんですけれども、これも一般的な話でもあるかもしれませんが、ＡＩをやるときに、ソフトロー的な自主規制か、あるいはハードロー的な法規制にするかという議論が続いていると思うんですけれども。参考人の御意見というのは、どちらかというと、ＥＵ的でいけば、ハードローだけれどもソフト的に使うというところに近いのではないかなというふうにちょっと理解させていただいています。 　私もＥＵの二〇二四年のＡＩ法の部分というのは、少し読ませていただきますと、特に四つの細かい区分に分けて、いわゆるアンアクセプタブル、つまり受け入れられないリスク、それからハイリスク、それからリミテッドリスク、それからミニマルという四つに分けて、結構丁寧にやっているなというふうなことを思っています。 　特に、私はここに立つ前は大学で人権法を教えていたものですから、基本的人権の視点に立って、あるいは、いわゆる普遍的価値の視点に立って、一番厳しいところはやはり構成されているなというのが私の認識なんですよね。 　そういうことでいけば、日本の法制度の中でも、少なくともこの部分に関してはもう少しセンシティブにあっていいかなというふうに思っているんですけれども、その辺の御意見を伺えればと思います。

○生貝参考人　どうもありがとうございました。 　まず、おっしゃっていただきましたとおり、私としては、ハードローとソフトローの適切な組合せによる多様なリスクへの対応ということを非常に重視しておりますところ、よりハードローに寄せる、あるいは、よりソフトローに寄せるという様々な選択肢とトレードオフがある中で、今回の法案というのは、罰則というものはついていないのだが、しかし、指針及び調査、指導、情報提供という手法によって、やはりこれから生じ得る非常に様々な幅広い課題に対して少なくとも国としてアクションを起こすことができる、その点が非常に重要だと思っているわけでございますけれども。 　その運用の在り方という中で、やはりまだ、例えばヨーロッパのあの四類型というもの、非常に広く受け入れられてきているが、しかしまだ日本の制度的議論の中であれをそのまま受け入れようというふうにいったようなコンセンサスというものは今存在していない。 　しかし、非常に重要な参照の枠組みになるのだろう。是非、指針の作成と、そして運用という中で、ああいった、まさに確立される途上にある国際規範というものを強く意識していただきたいし、それだけの枠組みというものに今回なっているというふうに思います。 　それから、もう一つだけ加えさせていただきますと、今回の法案に関して、しばしば論説などですと日本としてはＥＵのＡＩ法とは異なる道を選んだのだという解説がされることが見受けられます。しかし、私は、そのような判断や決定というものがＡＩ制度研究会の中でもなされたというふうには認識しておりません。 　むしろ、果たして、これからの我が国にとって最も望ましい制度の在り方というのが中長期的に何なのかということを、これはもしかすると、しっかり検討してみた結果、徹底的に情報を集めてみた結果、ＥＵのような仕組みというものが望ましいという選択があるかもしれない。あるいは、意外とＡＩというのはどれだけ発展して普及しても余りリスクや事故が起こらないということが明らかになったのであれば、それは自由放任の、今の連邦の、アメリカの方法というところに寄せたらいい。 　やはり、コストをかけた検討の体制とそのためのツールというものが今回つくられること、このことが、やはり今後の我が国の制度選択にとって極めて重要なところだというふうに考えております。 　以上でございます。

○上村委員　どうもありがとうございました。 　私も若干心配していたのは、ハードローかソフトローかどこに落とすかという議論が本当に主体的なのかなというふうに思っていまして、アメリカとかヨーロッパというのは少なくとも基本的人権に関する概念の共有化というものはどこかにあるわけですよね。日本の場合それはないので、ない段階の中でここに落としますと言ったときに本当にそれが意味を持っているのかというのはこれからもきちんと議論していくべきだというふうなことを思っておりました。どうもありがとうございます。 　最後に、時間もあれなので、安野参考人にお尋ねしたいんですけれども、二〇二四年七月に都知事選挙があったというのは記憶に新しいんですけれども、それに立候補されて、十五万票というのはこれはもう本当に、政治をやっているとすごいなというふうに思うような得票をされました。その中で、伝統的な選挙が私たちの頭の中にあるんですけれども、特に有権者との対話に、検索拡張生成、ＲＡＧというＡＩのシステムを利用されたというふうにお伺いしております。 　月並みですが、ＡＩあるいはＳＮＳのデジタル技術というのが、今後、政治活動や選挙活動でますます重要になるということは確実だというふうに思います。 　他方、こうした技術が、ある意味で選挙の不正とか不公正に影響することも考えられるというのも、またこれも確実なところでありまして、これを習得できる人たちとできない人たちの、世代間あるいはいわゆるデジタル格差の問題とか、それから、今本当にアメリカなんかでも今回の大統領選をめぐって、ある意味では勝手にフェイクニュースが飛び交うみたいなことが言われているんですけれども。 　先生の御経験からして、我々も七月には参議院選挙がまたあるんですけれども、政治とこういうＡＩの関係、あるいは選挙とＡＩの関係というのはどういうふうにお考えかというのを、ちょっと意見をいただければと思います。

○安野参考人　御質問いただき、ありがとうございます。 　私の考えですと、こういったＡＩ技術というのはどちらの可能性もある、つまり、声を広く拾うために使うこともできれば、フェイクニュース、ディープフェイクのような、問題を引き起こす可能性も、両方あるものだと思っています。 　私の経験を少しだけ御説明すると、この前の七月の都知事選挙ではブロードリスニングという言葉を使って説明していましたが、これはブロードキャストの逆ですね。通常、選挙ですと、政治家、候補者の考えていることを一方的にブロードキャストするというやり方が取られていますが、今、ＡＩを活用することができれば、いろいろな人がいろいろなことを言っていることをブロードリスニングできるんじゃないかということです。 　おっしゃっていただいたとおり、我々は、ＲＡＧと呼ばれる仕組みを用いて、私のマニフェストを学習させたＡＩを用意して、そこに、二十四時間ずっと誰でも一対一で質問ができるようにしたわけですね。 　こうすることによって二ついいことがございました。一つは、どういった方がどういう質問を抱えているのか、どういう批判があるのかということに対して、一人一人の聞き方、知りたいところに直接答えてくれるようになったということ。二つ目は、その会話のログを見たときに、私が、実はこの政策というのは全然響いていなかったんだなとか、ここは実は物すごい批判が多いところなんだなということを、学びを得られるということですね。 　なので、こういうふうにＡＩを使ってコミュニケーションを増幅していくことでよりいろいろな方の声を聞くことができるのではないか、その活用というのは本当にこれからの政治において重要なのではないかというふうに思っております。

○上村委員　なかなか課題も多いんですけれども可能性もあるということで、大変貴重な御意見、皆さんに。田中先生、済みません、先ほどの御意見は引用させていただきましたので。 　また今後ともよろしくお願いいたします。

○大岡委員長　次に、塩川鉄也君。

○塩川委員　日本共産党の塩川鉄也です。 　四人の参考人の皆様には、貴重な御意見を賜り、ありがとうございます。 　最初に、四人の参考人の方皆さんにお尋ねをします。 　偽情報、誤情報の対策の関係ですけれども、このような偽情報、誤情報の作成にＡＩが使用され、拡散されることによる情報操作等、多様なリスクが顕在化しつつあるとしております。 　このような生成ＡＩによる偽情報、誤情報対策としてどのような技術開発やルール作りが必要なのか、松尾参考人から順に四人の方にお願いをいたします。

○松尾参考人　ありがとうございます。 　偽・誤情報は非常に重要な問題かと思います。 　生成ＡＩで様々な画像等を生成できるようになっています。それに対して、技術的には、それを見破る技術というのがあります。生成ＡＩで作ったかどうかを判定するという技術ですね。こうした技術をしっかりと開発していくということも重要です。 　それから、発信者を明示する、発信者を特定できるような情報を付与するというふうな技術もございます。こういった仕組みを進めていくということも大事かと思います。 　あともう一つは、リテラシーを高めていくということで、一つの情報だけで信じない、必ず出典であったり別情報を当たるということを国民に広く啓蒙していくということも重要かと思います。 　以上です。

○生貝参考人　ありがとうございます。 　既に今日御説明があったところでございますけれども、若干私の観点から注目している技術的要素といたしましては、ＡＩで偽情報が生成される、そして、それが流通するのは、しばしば、まさしくＳＮＳを始めとするデジタルプラットフォームの上であるわけです。 　そうしたときに、ＥＵでは、ＡＩ規則と、そしてデジタルサービス法というプラットフォーム規制の法制度を組み合わせることで、ＡＩ規則の中で、そのＡＩで生成された画像に対して機械可読可能な電子透かしを埋め込むことを義務づける、そして、デジタルサービス法の中では、それを流通させることを止めることはできないにせよ、そうした機械可読なウォーターマークがされたものを読み込んで、ユーザーにインターフェースの上で分かりやすく、これはＡＩ生成コンテンツであるというふうにいったようなことをきちんと表示するような、プラットフォーム規制とＡＩ規制の技術的対策を組み合わせた法制度というものを構築しているわけでございます。 　こうした形で、ＡＩに関わる問題は、やはりＡＩ側だけで解決するものではございません、多様なレイヤーにまたがる技術的対応というものを是非この法案の中でも推進していただきたいなというふうに思います。

○田中参考人　塩川先生、ありがとうございます。 　私はインターネットプロバイダー協会という業界団体の副会長をしておるんですが、その中で、二十年ぐらい前から、プロバイダー責任制限法というものをしっかりと強化をしていって、法の下で発信者の責任を明確にしていくという取組をしてまいりました。 　もちろん、通信の秘密がございますので、中を検閲するということはできないわけですけれども、しかしながら、その情報を誰が作ったのかということを明確にし、フェイクニュース、多くの場合は放置されていることが問題であって、そもそも生成されないことが重要なわけですけれども、どうしても生成されてしまう。ただ、その生成した人が法の下でしっかりと責任を果たすということが明確にできればいいわけですけれども、それが十分にできていないのが今の課題であるというふうに考えております。 　そういう意味でいいますと、生貝参考人がおっしゃったように、既存法とうまく組み合わせていく、また、私自身は、既存法をしっかり利活用していくということも重要だと思っています。 　やはり責任のあるＡＩ発信、そして、機械が作ったとしても、その裏にはそれを作った人間がいるということを明確にするために、少なくとも国内においては、ＡＩにおけるコンテンツを作った人を、ソース、誰なのかということを明確にし、被害を受けた人たちが法的にしっかりと補償される枠組み、これが必要かと思っております。 　以上でございます。ありがとうございます。

○安野参考人　ありがとうございます。 　まだ触れられていないところで、二点だけ私から補足させていただければと思います。 　一点目は、先ほど田中さんがおっしゃったことに近いんですけれども、今、ＳＮＳ上などで、誤情報であるとか名誉毀損であるとか、そういった情報というのは、ＡＩを使ったものに限らず、物すごく多く出てきていると思っています。 　課題の一つは、このＳＮＳ上で生まれている誤情報、名誉毀損みたいな情報が生まれる速度と、それを、司法であるとか、そういった処理をする速度に物すごく大きな差が開いてしまっている。これは、今後、よりＡＩによってこの生まれる速度が加速していくという中で、そもそも司法で処理する速度みたいなものをどういうふうに上げていけるのか、そこが一つの課題になるんだろうなというふうに思っています。 　二つ目が、こういった誤情報の拡散をより止める一つの手段として、プリバンキングと呼ばれているような手段がございます。これは、誤情報が広まる前に、こういった誤情報が現れる可能性があるよということを周知するような手法でございます。 　もちろん、これで全て止めることはできないんですが、例えば、政治家の顔がディープフェイクで変えられて、それによって、本当は言っていないんだけれども、こういうことを言っているということが起き得るんだよというのを選挙の事前であるとか重要な政治的なイベントの事前にある程度周知をしておく、そういったようなやり方というのは一定有効だと研究でも示されておるので、そういったものを取り込むというのは一つあるかなと思っております。

○塩川委員　ありがとうございます。 　次に、生貝参考人に、ＥＵのＡＩ法に関して何点かお尋ねをいたします。 　ＥＵのＡＩ法では、ＡＩによるリスクを四段階に分ける。許容できないリスクについては禁止という形で、罰則も極めて重い。このようなハードローとソフトローを組合せをした、そういう仕組みとした理由というのはどこにあったのか、そこについて御説明いただけますか。

○生貝参考人　ありがとうございます。 　このことにつきましては、まず、四段階のリスク類型の分類ということに関しては、やはり絶対に侵害されてはならない人々の基本権、それに対するリスク、そして、まだリスクは限定的ではあるが、できる限りその可能性というものを減らしていく必要がある、そうしたようなまさにリスクベースの考え方に基づいた段階分けの中で、ハードローとソフトローを組み合わせる形で用いていると認識しております。

○塩川委員　ありがとうございます。 　生貝参考人は、ＥＵでは、サイバーフィジカル連携、すなわち、サイバー空間だけでなく現実空間にデジタル技術がしみ出してくる部分に関するルール形成に熱心に取り組んでいるわけですが、その最たるものがＡＩ法だと。今後、様々な製品やサービスにＡＩが使われ、組み込まれるようになると、これまでは想定しなかったようなリスクが生じるおそれがある、サイバー空間とフィジカル領域の両方で利用者の基本権を保護する必要があるという強い問題意識が背景にあると紹介をしておられます。 　このようなＥＵのＡＩ法というのは、サイバー空間とフィジカル領域の両方で利用者の基本権を保護するため、予防原則に基づいて規制をかけようというものなのか、その点について御説明をいただけないでしょうか。

○生貝参考人　ありがとうございます。 　御指摘のとおりかというふうに認識しております。 　今までデジタル技術に関わる法が想定するリスクというふうにいったようなものは、やはりこれまでＥＵ法の中でも、いわゆるＧＡＦＡＭがデジタル空間の中で起こすリスクにどう対応するかといったところに焦点が当てられてきたところ、まさしくＩｏＴ化、そしてＡＩが組み込まれた製品というふうにいったようなこと。 　そのデジタル空間のリスクというのが、まさに我々の日常生活、この空間、家の冷蔵庫、トイレ、あるいはテレビ、そして車というところにやはり直接、不可分に関わってくるようになってくる、そうした法体系というふうにいったようなものを構築する一つのビルディングブロックである。 　その中で、予防原則とおっしゃっていただいたとおり、ＥＵの規制というのは、全体的に予防の観点というところに少し寄った形で、やはり積極的な対応というものを行おうとしている。その形というものがＥＵ法であるというふうに考えております。

○塩川委員　もう一問、ＥＵのＡＩ法について。 　ＥＵのＡＩ法では、高リスクには、製品やサービスが市場に投入される前に第三者による適合性評価を受ける必要があるなど、厳しい手続が義務づけられていると承知をしております。 　この高リスクには、雇用における採用選考、雇用関係の条件や昇進、雇用契約関係の終了も含まれていると承知をしておりますが、ＥＵにおいて、どのような問題意識から雇用の問題を高リスクと位置づけているのか、この点について御説明いただけないでしょうか。

○生貝参考人　ありがとうございます。 　特にＥＵの中では、歴史的にも労働者の権利というものが重視がされてきたという経緯というのも一つあるところはございますけれども、やはり私たちの生活というふうにいったようなこと、そして、ある種の生殺与奪というものをこの労働というものは常に持っているわけでございます。 　例えば、労働環境でのパフォーマンスということがＡＩによる評価でもって決定されて、そして、それに対する説明も反論の余地もないということ、あるいは、より広く、例えばシェアリングエコノミーのような、いわゆるシェアワーカー、ああいった労働の形態の中というのは、現実にそういったような評価と、場合によっては、アカウント停止がそのままいわゆる解雇になるわけでございます、まさにサイバーフィジカル連携。 　そうした中で、まさに人間の最も基本的な権利であるところの労働する権利、そして、それによって生活の糧を受ける権利、得る権利というものをしっかり保護していこう、そうした考え方が、特に労働分野をハイリスクと位置づけている背景にはあるのかなというふうに認識しております。

○塩川委員　もう一問、最後に生貝参考人にお尋ねするのは、今日のお話の中でも、国立国会図書館の話が紹介をされまして、私も国会に身を置いている者として、国会図書館を御紹介いただくのは大変うれしく受け止めたところであります。 　ＷＡＲＰと言われるインターネットの資料収集保存事業に国立国会図書館はずっと取り組んでいる。一か月ぐらいで、行政機関などのきちっと記録を取っていく。私なんかも、活用する際に、やはり役所が途中でホームページを書き換えたりすることがあるものですから、過去に遡ってチェックをするとかという際にも参考にもできるものであるのかなと思っておるわけであります。 　こういった国立国会図書館が取り組んでいるデジタルアーカイブ、インターネット資料収集保存事業をどのように評価をしておられるか。また、今後、こういうふうにやったらいいんじゃないかというアドバイスもあれば、御紹介いただけないでしょうか。

○生貝参考人　どうもありがとうございます。 　国立国会図書館のウェブアーカイブ、ＷＡＲＰは非常に重要な事業だというふうに考えております。 　他方で、あの国立国会図書館のウェブアーカイブ事業は、基本的には、無許諾で網羅的に収集しているのは政府機関及び自治体の公的機関のウェブサイトだけなのであります。 　そうしたときに、例えば、アメリカでは、フェアユースに基づいて、民間の団体がインターネットアーカイブ、ウェーバックマシンというもので網羅的なアーカイブを作っていることに加えて、把握している限り、イギリスやフランスなどでは、国会図書館がドットユーケー、ドットフランスなどのウェブサイトというものを網羅的に収集と保存をしているわけでございます。 　先ほど来、フェイクニュースへの対応というものが大きな課題として触れられてきました。書き換えられる、これは民間のウェブサイトも、例えば、フェイク情報を流すために作られたウェブサイトというのは、作られては消えていく。そういった一つ一つの情報流通の後からの検証というものは、広くやはり日本のウェブサイトというものを誰かが保存していなければできないわけでございます。 　日本では、我が国の記録と記憶と、そして検証に必要なウェブアーカイブというものがまだ現実的に官に限られている。そのことというのを是非積極的に、今後、制度の在り方も検討していただきたいというふうに考えております。 　以上です。

○塩川委員　終わります。ありがとうございました。

○大岡委員長　次に、緒方林太郎君。

○緒方委員　最後十五分、よろしくお願いいたします。 　四人の参考人の皆様方、本当に今日はありがとうございます。 　まず、ＡＩの話をするときに、一番こういうのに遠いところにある世界というのはどこだろうなというふうに思ったときに、私がいつも思うのが、この業界が一番遠いんじゃないかと思うんですね、政治の業界が。この中にも、恐らく、今日審議しながら、そうはいっても、余り俺は関係ないもんねと思っておられる方はまあまあいるんじゃないかと実は思うんです。 　この業界は経験知に依拠した言論が結構有力なことが多いんですけれども、これは、松尾参考人と、そして選挙に関わったということで安野参考人に、こういうことについてどう思われますでしょうか。

○松尾参考人　ありがとうございます。 　私のちょっと個人的な意見になりますけれども、政治は、社会の中で何が大事かを決めていく、その価値であったり、複数の人の利益であったり、生活であったり、そういったものを話していく場であって、それはやはり僕はＡＩには最も向かないと思います。 　ですので、そういった意味で、先生がおっしゃるように、ＡＩと最も縁遠いというのはそのとおりかと思います。 　ただ、その過程の中で、恐らく、過去の議論を集約するですとか、それから証拠となる、エビデンスとなるデータを分析するですとか、そういった辺りで道具としてＡＩを使える余地は多いんじゃないかなと思っていますので、そういった活用は是非進めていただきたいなというふうに思います。 　以上です。

○安野参考人　御質問いただき、ありがとうございます。 　私も、これも個人的な感想といたしましては、松尾先生もおっしゃったとおり、道具としての使いどころというのは物すごくたくさんあるなと思っております。まさに、ある意味、勘と経験の意見ではなくて、いろいろ各国の過去の事例であるとか科学的な事例を基に、じゃ、どう考えればよいのかという、それに関しては、ＡＩのサポートできる部分というのはかなりたくさんあるなというふうに思っております。 　そういう観点で、私も、最近、いろいろな政治家の方とお話をさせていただく機会は多いんですけれども、政治家の議員の方のデジタルリテラシーというのはもう少し高まるといいんじゃないかなというふうには思っています。 　ありがとうございます。

○緒方委員　私も全く同感であります。 　続きまして、松尾先生に引き続きお伺いしたいと思うんです。 　最近、二月だったと思いますが、科学誌ネイチャーを読んでおりますと、アメリカと中国のＡＩに対するアプローチが結構異なっているのではないかというような論文が実はございました。 　アメリカは、やはり最も技術を突き詰めた、エッジの利いた技術の方にぐっと伸びていくんだけれども、実は、中国は、インダストリアルであったりとかマニュファクチャリングとか、そして広く途上国とかに展開していくような、そういう方に主眼を置いているということで、中国が目指しているのは、フロンティアＡＩではなくてマスマーケットＡＩだ、大量消費マーケットのＡＩなんだというような感じの論考があって、では、この二つはどちらが上かというと、こういうアプローチの違いがあるので、一概にどちらが上ということではなくて、もちろん競合するところはあるんだけれども、そういう違いがあるんだというのを聞いて、そういうことなのかなと思ったんですが、実際に研究者として見ておられて、この辺りはどう見られますでしょうか、松尾先生。

○松尾参考人　ありがとうございます。 　今の点は、余りこれまで考えたことがないのと、そのネイチャーの論文も読んでいませんので分かりませんけれども、少し印象として感じるのは、米国は、御存じのとおり、オープンＡＩであったりグーグルであったり、非常に派手に、こんなことができますということですし、ホワイトカラーの生産性を大きく上げます、仕事の仕方を変えますというふうな形ですけれども、中国の方がもっとそういった各インダストリーに入り込んでいる。アプリケーションを重視していて、よりいろいろな工夫によって、使い方を見つけ出していって、うまく取り込んでいっている。そういった意味では、かつての日本にちょっと近いかもしれませんけれども、そういったアプローチで進めているような印象があります。 　そういった意味では、おっしゃるとおり、中国のアプローチの方が、より広くマーケットを取っていく可能性があるのかなということも少し感じます。 　以上です。

○緒方委員　ありがとうございました。 　引き続き松尾先生、そして生貝先生にお伺いをさせていただきたいと思うんです。 　去年、私は中国に行って、いろいろなＡＩの企業とか、ファーウェイとかも含めて見させていただきました。そのときにすごく感じたのが、目指す方向は一緒なんだけれども、結構制裁とかを打たれたりして、私は技術のことは全く分からないんですが、技術としては、何か全く違うプラットフォームが別個に発展していっているのかなというふうに見えたんですね、技術の細かいことは分からないですけれども。 　二つ問いがあるんです。 　今後、何かすごく雑に言うと、欧米型みたいなＡＩの発展と、そしてチャイナのプラットフォームで発展していくそういうＡＩというのが世界に両立をしていくんじゃないかというような思いを持っていて、先ほどのインダストリアルの話で。そうすると、例えば、途上国とかに行くと、二つあるんだけれども、どっちを選びますかみたいな話になっていったりするのかなというふうに、私は元々外務省出身ですので、そういうふうに見えたんですね。それをどう思われますか。 　あともう一つ、よく中国に、すごく最先端のものに対して制裁を打つんですけれども、見ていると、一年ぐらいはすごく困っているんですね、困っているんですけれども、一年から一年半ぐらいすると、むちゃくちゃ適合して、そして、それを乗り越えていっているように見えていて、私は制裁を打つのが意味がないというふうに、中国におもねるつもりは全くないんですけれども、実は余り利いていないのかなと思ったりもするんですけれども、その辺り、ＡＩの視点から見てどうお考えになりますでしょうか。 　よろしくお願いいたします。

○松尾参考人　ありがとうございます。非常に重要な御質問かと思います。 　私も、実は先生と全く同じ印象を持っておりまして、経済安全保障で、いろいろな形でトレードをしないようにすると、しばらくは困っていますけれども、かなり早いうちに代替の技術をつくってしまうということが、例えばＧＰＵのような半導体のレベルでも起こりますし、それからソフトウェアのレベルでも起こっているというふうに感じています。 　そうすると、結果的には、それが更に中国国内でのそういった経済圏であったりサプライチェーンを補強するようなことになっている可能性があって、そうだとすると、本来の意図とは違うようなことになる可能性もあるんじゃないか。これはテクノロジーに限った話で、一般論としてどこまで広げるのかというのは非常に微妙なところがありますけれども、そういった印象を私も少し持っております。 　以上です。

○生貝参考人　ありがとうございます。 　大きく二点に分けて、特に制度の観点からのお答えになるのですけれども、一つが、中国型の技術、そして中国型の制度というふうにいったようなものが、アメリカともヨーロッパとも異なる形でやはり発展しつつある。 　この三極を捉えて、アニュ・ブラッドフォードというコロンビア大学の教授の近著が「デジタルエンパイアーズ」というふうにいうのですけれども、それぞれがその帝国を広げていくための競争というものを繰り広げている。それは、当然それぞれの市場の食い合いというのもありながらも、やはりグローバルサウスを始めとしたような関係諸国の巻き込み合いでもあるといったようなことがございます。 　そうした中で、我が国は、諸外国というと、これまでアメリカ、米国、中国を見てきたのですけれども、少なくとも、デジタルやＡＩ政策の中で、まだやはりグローバルサウスというものへの認識や、そして焦点の当て方というものが少ないところというものがございます。 　これは、やはり我が国の経済的な発展及び国家安全保障の両方に関わるところでございますので、今回、この法案というものが、世界の範となるＡＩ法制というものを作るということをやはり非常に強く強調していらっしゃる。その世界の範というのは、決してアメリカ、ヨーロッパ、中国だけではなくて、まさにグローバルサウス、アジアも含めた、そういった南半分を含めた世界の範になるために何をすればよいのかということ、そういうことを是非念頭に置いていただきたいなというふうに思います。 　それから、もう一つは、制裁を受け、例えば、別の分野ですと、グーグルのアンドロイドが中国の中で輸出規制で使えなくなると、独自のＯＳを開発することに本気で注力して、そして、十億人のユーザーがいるので、やはりマーケットイン、マーケットバリューのサイズも含めて、作れてしまうのですよね。 　アメリカのＩＴ輸出の管理というところに関して、むしろ、アメリカのＩＴ企業が、ＩＴ産業界がそれを警戒していて、実際にやったら、現実にそうなったというふうにいったようなところも含めまして、やはり制度にしてもビジネスにしても、多分、少なくとも三つの帝国の中で多様化をしていくのが今後しばらくの傾向であるのかなというふうに思います。 　そうしたときに、主権でありますとか様々な要素はございますけれども、やはり我々として、最も優れたサービスというものを恐らくその三極の中から選び、そして安全、安心な形で活用していける環境をどのようにつくっていくかというのが一つ極めて重要なんだというふうに思います。 　先ほど来、海外企業に対するイコールフッティングの観点からの法適用ということの論点が度々出ておりますけれども、やはりこういった法の在り方を海外企業に対して適用をしていくというのは、それがどこの国で作られたサービスであっても、我が国国民が自由に、そして安心して使えるための法的前提を作るための手段である、そうした観点からも、この法律の外国事業者への適用ということも、まさに彼らにとっての価値というところも含めて、是非積極的な推進をしていきたいなと考えるところでございます。 　以上でございます。

○緒方委員　続きまして、最後の質問になると思いますが、松尾先生と、そして田中先生にお伺いをさせていただきたいと思います。 　先ほどから何度もデジタル赤字の話が出ていると思います。松尾先生の方からは、Ｖ字回復なんて、それはなかなか無理だよと。取りあえず止めて、可能性があれば、もしかしたら解消していけるかもしれないぐらいの言い方だったというふうに理解したんですが、正直、本当にそういうふうになれるのかなということすら私は今結構懐疑的でありまして、もしかしたら、国会で言うから、少しだけエンカレッジングなことを言わなきゃいけないと思って言っておられたりするのかなと思ったりするんですが。 　これは、そうありたいと思いますが、本当にデジタル赤字の解消の方向に向かっていく可能性というのは残されているというふうに思われますでしょうか、松尾先生、そして田中先生。

○松尾参考人　ありがとうございます。 　やはり現状を正しく認識することが重要で、まず、今まで勝っていたのが負けてきたわけですから、それをしっかり踏みとどまる、そこからチャンスがあれば浮上していくということだと思います。 　それが本当にできるのか、デジタル赤字の解消という意味で、私は直接的にはなかなか難しいんじゃないかと思っていまして、というのは、今、インターネットのビッグテックに代わるようなサービスが日本から出せるのかというと、そこは難しい。 　ただし、自動車を始めとしまして様々な実産業があります。実産業がＡＩを活用をすることで更に付加価値をもたらして、それがトータルとしてプラスになるということは私は十分あると思っていまして、そちらをしっかり目指していくべきかというふうに思います。 　以上です。

○田中参考人　緒方先生、ありがとうございます。 　私は、結論から言うと、日本は、必ずデジタルの次、ＡＩで復活できるというふうに信じています。 　おっしゃるように、現実を見なければならないということがありまして、六・五兆円の貿易赤字があるということもありますし、あと、何しろこの三十年のブランクの中で、ＩＴは非常に厳しい。なので、ＩＴで今更復活することはできないだろうというふうに私は思っていますが、ＡＩと物づくり、これの融合によって再び成長できるんだろうというふうに思っております。 　足下でいいますと、我々さくらインターネット自身が売上げが三百億ぐらいの会社ですから、六兆円を解消することは短期的には不可能です。しかしながら、直近でいいますと、ＧＰＵの投資で、一千億の投資をすることになりましたが、これは国の支援のおかげでもあります。 　ただ、最初は誰もＧＰＵに投資しなかった、当社以外は投資しなかったのに、我々が投資するという発表をしてから、ソフトバンクさん、ＫＤＤＩさんを始め、トータルで三千億以上の投資がなされることになりました。 　そういう意味でいうと、私、手前みそですけれども、スタートアップの起業家、ベンチャーの起業家が何かチャレンジをして、日本にはお金がたくさんありますから、ナショナルカンパニーが、じゃ、やるかというふうに一気呵成に投資をしてくれば、これは、恐らく六兆、十兆というのが。既存の人たちが動かないと、新しいチャレンジャーだけでは無理だ。なので、新しいチャレンジャーも国を変えるし、そして、それに触発された次のチャレンジャーも変わっていく。 　最後に申し上げたいのは、我々はグッドアンセスターになれるか、よき祖先になれるかということかと思います。 　丸ノ内線で今日は来たわけですけれども、丸ノ内線というのは、戦後、二百億円で建設をしたそうです。車両二百両つきです。これは何を意味しているかというと、それから六十数年たって、国民に資産として残されている。要は、早くに投資したものというのは、国が発展していけばそれが発展の礎になります。ちなみに、甲子園球場は三百万円で造ったそうです。 　今、計算基盤、データセンターにしても、あと、これからは資産はソフトウェアにもなっていくと思います。ソフトウェア、例えばマイクロソフトさんというのは、長年ウィンドウズを作り続けて、ソフトウェアの資産というのは膨大なものになっています。少なくとも、アメリカは戦略的にソフトウェアを保護し、三十年でとてつもない価値のソフトウェアを資産として組み上げ、それからくる副次的な利益によって国は潤っています。 　そういった意味でいうと、後世、五十年後、百年後、二百年後のために、やはりデジタルとＡＩが二〇二五年に発達し始めて、そのときに積極的に国も民間企業も、そして国民も利活用した結果として、五十年後、百年後の子孫たちがそれを利活用し、国民を豊かにする、そういう国になるように五十年前、百年前の方に学ぶべきかなというふうに思っております。 　以上でございます。ありがとうございます。

○緒方委員　終わります。

○大岡委員長　これにて参考人に対する質疑は終了いたしました。 　この際、一言御礼を申し上げます。 　各参考人の皆様におかれましては、各委員の質問に対して丁寧に的確に御答弁いただきまして、ありがとうございました。先生方の御意見をしっかりと法案審議に生かしてまいります。 　今後も皆様には御活躍されますことをお祈りを申し上げまして、御礼とさせていただきます。 　ありがとうございました。（拍手） 　午後一時から委員会を再開することとし、この際、休憩いたします。 　　　　午前十一時四十四分休憩 　　　　　――――◇――――― 　　　　午後一時開議

○大岡委員長　休憩前に引き続き会議を開きます。 　午前に引き続き、内閣提出、人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。 　この際、お諮りいたします。 　本案審査のため、本日、政府参考人として、お手元に配付いたしておりますとおり、内閣府科学技術・イノベーション推進事務局統括官渡邊昇治君外十一名の出席を求め、説明を聴取いたしたいと存じますが、御異議ありませんか。 　　　　〔「異議なし」と呼ぶ者あり〕

○大岡委員長　御異議なしと認めます。よって、そのように決しました。 　　　　―――――――――――――

○大岡委員長　質疑の申出がありますので、順次これを許します。山崎誠君。

○山崎（誠）委員　こんにちは、立憲民主党、山崎誠でございます。 　今日は、ＡＩ法案、大事な法案の質疑のチャンスをいただきまして、本当にありがとうございます。 　午前中の参考人のお話も聞いておりました。非常にこのＡＩの分野、私は、かなり今、日本は追い込まれて難しいんじゃないかという認識におりました。ただ、それだけではないんだということが今日の参考人のお話でも分かったかなと思います。その点よかったのでありますけれども、政府が応援する以上、やはり今までどおりのやり方ではなかなかうまくいかないのではないかという認識に立って御質問したいと思います。 　ちょっと時間の関係で、済みません、二番目のＡＩ普及に伴うリスクという点についてまず御質問していきたいかと思いますので、よろしくお願いいたします。順番を入れ替えさせていただきます。 　今日の参考人の質疑の中でちょっと私、気になったのでありますけれども、電卓やＰＣが普及をしていくと人間が例えば暗算ができなくなるとかあるいは漢字が書けなくなると、でも問題はなかったじゃないですか、人間はそれ以上のことをやっているんだから問題ないんだ、そういうようなお話がありました。ですが、私はＡＩは違うんじゃないかなと。ＡＩは、人間の、もっと違う、思考をしそして意思決定をしていくというそのプロセスに入り込む仕組みなので、私は、考え方をやはりそこは改めて、次元を変えていかないと大変危険なんじゃないかと思っています。 　シンギュラリティーというような話もありますけれども、そういう、ある意味、ＡＩが抱えているリスクをどういうふうに回避をしていくのかというのは、普及推進とともにやはり両輪、言うまでもないのでありますけれども、その立場でまず御質問したいと思います。 　私の結論からいくと、今、この後御質問する著作権の問題であり、ディープフェイクの問題であり、これは今までの法体系で一生懸命対応しているんだけれども、それではもう手に負えなくなっている、そういう世界が広がったということだと思うんです。 　そういう意味では、今回のＡＩ法案とともに、こうした規制に関わる、規制というと何か縛るような話になりますけれども、より発展させるために必要な枠組みというものは、やはり新しい法体系として検討しなきゃいけない。ＡＩ法案の中の戦略の中にもそういうものが出てきていただけるものとは思うんですけれども、早急にそうした議論を深めていただきたいというのが私のまずは問題意識であります。 　ＡＩ活用推進とともに、ＡＩの問題点も顕在化している。その中の一つが、ＡＩの機械学習によって、それも無断学習と言われるような問題であります。 　イラストレーターや音楽家や作家、著作権に関わるようなお仕事をされている方々の作品が無断で取り込まれて、類似の作品をＡＩが生成をするということで、大きな被害がやはり生じているということだと思います。昨年の四月に、実は内閣委員会でこの問題を私は一回取り上げさせていただいたのでありますけれども、状況を皆さんにお聞きをすると、全く変わっていないということであります。 　文化庁さん、来ていただいているかと思うんですが、文科省ですかね、こうした声が上がっていること、クリエーターの皆さんに不利益が発生しているという認識があるかどうか、まずお尋ねしたいと思います。

○中原政府参考人　お答え申し上げます。 　ＡＩと著作権の関係につきましては、先生から御指摘のありましたとおり、令和六年三月に、ＡＩと著作権に関する考え方についてということを取りまとめさせていただいたところでございます。その中におきましては、ＡＩと著作権に関するクリエーターの皆様の、権利者の懸念を払拭する観点から、ＡＩ学習のための著作物の利用であっても、著作権法三十条の四の要件を満たさず、権利者から許諾を得ることが必要な場合があり得ることなどもお示しをさせていただいているところでございます。 　そして、考え方の取りまとめ以降、これを正しく御理解いただけるように、ＡＩと著作権に関するチェックリスト＆ガイダンスの作成や著作権セミナーの実施など、関係当事者に分かりやすい形での周知、普及、啓発を行うとともに、文化庁におきましても、いわゆる相談窓口といったものを設けまして、著作権侵害に関する具体的な事例の集積を行っているところでございます。 　そしてまた、令和六年四月以降、関係当事者間、ＡＩの事業者の皆様そしてクリエーターの皆様の適切なコミュニケーションを推進し、ＡＩの適正な開発及び利用の環境を実現する観点から、ＡＩの学習における望ましい著作物などの利用方法などにつきまして、関係当事者間で情報共有を図る場、いわゆるネットワークを創設しまして、当事者の皆様における情報交換などにも取り組んでいるところでございます。 　こうした中、民間の事業者、当事者の取組として、クリエーターがＡＩを活用して創作活動を行う例ですとか、権利者への対価還元に向けた取組なども出てきているところでございます。 　まずは、こうした周知、普及や、事例の集積、そして、ＡＩやこれに関する技術の発展、諸外国における検討状況の進展なども踏まえながら、著作権者等の権利利益の保護と、著作物等の公正、円滑な利用といったバランスの観点から、引き続き、必要に応じた検討を行ってまいりたいと存じます。

○山崎（誠）委員　御説明は、一定、去年も同じような話を聞いているんですよ。相談窓口を設けて、相談に来てくださいと、それを是非働きかけてくれということで、そういう話をしたんですけれども、同じことなんですよ。 　私、やはり様子見はもう終わりにして、具体的な対応策をもっと練っていっていただかないといけない。今の枠組みの中でやろうとするから、今の対応なんですよ。だから、その枠をどう乗り越えて次のステージに入っていくかということを、きちっと議論をスタートしていただきたい。その認識はありますか。今の枠組みでは不十分な点がありそうだ、あるんだ、そういう認識はありますか。

○中原政府参考人　相談窓口に寄せられました内容としましては、自身が作成したイラストが、ＡＩを利用して改変されたですとか、あるいは、学習用データとして集積されていると言われる海賊版サイトに自身の画像が無断で転載されたといったような御相談をいただいておりまして、これは、基本的に、相談窓口で弁護士による無料法律相談というのを実施してまいりましたけれども、この基本的な考え方において、基本的には想定されたものでありまして、著作権侵害として対応可能であった例とは認識をしております。 　しかしながら、海外の状況ですとか技術の状況、権利者と利用者のバランスなどを踏まえまして、引き続きまして、必要に応じた検討を行ってまいりたいと存じます。

○山崎（誠）委員　結局、違法行為があるんだ、だから訴えろという話なんですよ。 　クリエーターの方々、皆さん本当に、若い方々だとか、訴訟なんてやったこともないような方々、そうした財力もないような方々もたくさんいる中で、今の制度ではそこ止まりなんですよ。弁護士と相談して訴訟だ、それができたらいいんですけれども、それができないから問題なんですよ。それが、何万人というクリエーターが同じような状況に置かれているというのが現状です。 　大臣、今、クールジャパンと言われているような、私は、日本の宝であり、こういうクリエーターの皆さんのイラストだとかアニメだとか、そういったものは守って育てていかなければいけない、これはＡＩを進めるのと同じぐらい重要だと思うんです。日本の大事な宝です。そうした職業が、このままいくともう成り立たなくなるんじゃないか。 　ＡＩの世界では、それに対するヘイトスピーチみたいな、ヘイトの攻撃みたいなこともあって、本当に、クリエーターの方々は全く何の落ち度もないのに攻撃をされるようなことにもなっています。 　私は、今もお話ししたとおりでございまして、こうした著作が本当に守られて、必要な対価も得られて、そうした仕組みをこのＡＩの普及とともに新たな枠組みとして検討し、つくる必要があるというふうに思うのでありますけれども、大臣の見解を求めます。

○城内国務大臣　山崎委員の御質問にお答えしますが、実は私、ＡＩを担当する科学技術政策担当大臣だけではなくて、クールジャパン戦略、知的財産戦略を担当しておりまして、今、山崎委員の御懸念、問題意識、全く共有しておりまして、現に私、直接間接にクリエーターの方から本当に痛切な、そういった声が届いております。 　お答えしますけれども、日本のコンテンツの競争力、これは本当に多くの多様なクリエーターの血のにじむような努力、活躍によって成り立っておりまして、このクリエーターの知的財産権をしっかり適切な形で保護していくことは、これは極めて重要な課題であると認識を本当に共有しております。 　これまで、文化庁、さらには内閣府の知的財産戦略推進事務局におきまして、ＡＩの普及に伴う著作権の問題への対応に取り組んでまいりました。本法案が成立した暁には、さらに、これまでの取組に加えて、ＡＩ戦略本部、これはまさに総理大臣が戦略本部長で、司令塔になりますので、その司令塔機能をしっかり発揮して、ＡＩに関する施策を総合的かつ計画的に推進することとしておりまして、その中にもこの問題がしっかり入って取り組まれるというふうに確信しております。 　もちろん、必要に応じて、著作権に関するものも含めて関係府省で緊密に連携して検討してまいりたいと思いますし、本法案に基づく指針、これは、国際的規範の趣旨に即した指針を整備するということが十三条でうたわれておりますけれども、またさらに、十六条の指導、助言や情報提供などによって、知的財産権の侵害リスクについても必要に応じて更なる検討を加えるなど、臨機応変にかつ着実に取り組んでまいります。

○山崎（誠）委員　ありがとうございます。問題を共有いただき、前向きな御回答をいただきましたことを本当に感謝を申し上げます。 　是非そうしていただきたいのとともに、今現在起きているやはり損害とか、そういったことにも目を向けていただいて、現行制度の限界がありますので、それを何とか工夫をしながら乗り越えていただきたいというふうに思います。他国に比べて著作権保護が弱くて、その日本にＡＩ開発の方々が押し寄せてくるような事態、それが日本のＡＩの発展だというふうに誤解されると非常に困るのでありまして、私は、そこは極めて大切なポイント、慎重に対応いただきたいということでお願いをしておきます。 　残り時間、一問目に戻りまして、これからＡＩをどうやって伸ばしていくのか。国産のＡＩというのがやはりどこかで議論されて、実現をしなきゃいけないと思うんですね。 　これは何度も委員会でも質疑に出ていると思いますけれども、デジタル赤字、このままいきますとどんどんどんどん膨れてしまう、みんながＡＩを使えば使うほどデジタル赤字は膨れるのでありまして、そういった事態を何とか回避をするという意味でも、ＡＩをどういうふうに日本型で、日本版で伸ばしていくのかということを議論を加速いただきたいと期待をするところであります。 　私、経産委員会から来ましたので、半導体製造の支援の枠組み、いわゆるラピダス法というのをちょうど議論をずっとしてまいりました。半導体の製造の応援は、今、ラピダス、まさに二ナノの最先端の半導体にチャレンジをしようということで、国もトータルでいけば本当に十兆円というようなお金をつぎ込んで、これはＡＩも入っていますけれども、応援をするということであります。 　私は、この二ナノの半導体があって、それがハードで、ＡＩのアプリケーションが日本で開発できる、これは両輪だという話を専門家、業界の皆さんからも聞いていますから、そうしたことが今政府の中で議論され進んでいくことについては大賛成であります。ただ、これをうまく両輪で成功させるために、この戦略作りで何が重要かということをやはり慎重に議論していただきたいと思うんですね。 　今日は経産の政務官にも来ていただきました。私が一つ気になっているのは、ＡＩへの投資、全体どのぐらいの規模になるのか。例えば半導体については、ラピダスのプロジェクトが見えていて、毎年どのぐらいのお金がかかるんだというようなロードマップが見えているのでありますけれども、ＡＩについてはそうした見通しがない、今現在ないと思うんです。この辺り、どういう形で支援をしていくのか、どういう戦略で投資をしていくのか。国の支援の在り方、やり方、それについてお聞きをしたいと思います。もしあれだったら政府参考人でもいいです。

○奥家政府参考人　お答え申し上げます。 　ＡＩ、非常に重要な分野ということでございます。委員から御指摘をいただきましたとおり、半導体、計算資源、ＡＩ、これは相互円滑に、ある意味連携しながら、エコシステムを国内に構築していく、これは非常に重要なことということで、御指摘をいただきましたＡＩ・半導体産業基盤強化フレーム、こちら、二〇三〇年までに十兆円を超える公的支援を行うということとしたところでございます。 　このフレームにおいて、産業競争力とか経済成長につながるもの、ここをきちっと優先順位を定めて支援対象を決定していくということでございますが、ＡＩについての枠というものを特に設けてはございません。 　ただ、令和六年度補正予算、令和七年度当初予算を合わせて大体一・八兆円程度の予算で支援を想定している案件の中には、ＡＩに関わるものも当然多数ございます。 　今後もＡＩ関連の案件は増加していくということが想定されます。ＡＩ関連の支援、これにもまたしっかり十分な支援額を確保して取り組んでいきたいというふうに考えています。

○山崎（誠）委員　具体的なお話がないんですよ。私が心配しているのは、どうしても政府の応援となると、ハードにお金をつぎ込んで、目に見える工場だとかそういったものには一生懸命お金を使うんだけれども、人材であるとか、アプリケーションの開発というのはなかなか目に見えないですよ、そういったものにどれだけ力を入れるのかと。 　私は、ある意味、ＡＩに例えば一兆円、二兆円、三兆円使うんだということをきちっと政府として方針を出すことによって、みんなが手が挙げられる、じゃ、私もこういうことをやりたいんだ、そのぐらいの規模のお金があるんだったら、計算基盤の新しい開発、こういうことができるんだ、それが出てくると思うんですよ。それを待っていて、十億、二十億、百億、その単位の手挙げを待っていたのでは、私は、ＡＩは負けてしまうし、進まないと思いますよ。これは政務官、どうですか。

○城内国務大臣　山崎委員御指摘のとおりでありまして、やはりこれから、まさにしっかりと人材確保をしていかなきゃなりませんし、また、ＡＩの開発は、御案内のとおり、環境開発及びインフラ、さらには基盤モデル、そしてアプリケーションと、三つの分野でやらなきゃいけないということでありますし、特にソフト、アプリケーションの分野ですね、まだまだこれは勝ち筋を狙っていけると思いますし、また、基盤モデルについても、小さい規模ではありますけれども、国産ラージランゲージモデルなども作っていけばというふうに思っております。 　いずれにしましても、この法案が成立した暁には、繰り返しになりますけれども、ＡＩ戦略本部長、総理大臣でありますので、強力なリーダーシップの下で、またしっかりと基本計画も策定して、その中で、今後とも、やはり人と予算、これをしっかり確保することも重要でありますので、そうしたことを目指して、結果が出るように取り組んでまいりたいというふうに思っております。

○山崎（誠）委員　ありがとうございます。 　是非、私はやはり予算規模を、ＡＩの予算規模というのも、一緒じゃなくてお示しをしていただくのがいいんじゃないかなと。それがＡＩ産業をやはり勇気づけることになると思いますよ。 　今、お話の中に、体制整備というお話があったんですけれども、これはこの分野に限らないのでありますけれども、総理大臣をトップに本部をつくるんだけれども、あとは全部縦割りなんですよ。昨日も、ヒアリングをする中で、それは文科省、それは総務省、それは経産省となるわけですよ。これではやはり、オール・ジャパンで、そして、政策、横串を通して、このＡＩの世界で勝ち残っていくのは私は難しいと思いますよ。 　是非、私は、体制も、ＡＩ時代にふさわしい革新的な政府の組織をつくっていただきたい。そのかじ取りを城内大臣に是非やっていただきたいんですけれども。

○城内国務大臣　全く山崎委員の御指摘はもっともだと思いますし、昨年十二月から、局長級で、やはりこれは縦割りだと駄目なので、ＡＩ戦略推進関係省庁会議、連絡会議みたいなものをつくりまして、やはり一堂に会して問題を共有することが大事だということで立ち上げたところでありますが、そういった関係省庁会議、あるいはまた、当然、法案が成立した暁には、今ある有識者によって構成されるＡＩ戦略会議、ＡＩ制度研究会、これがまた新たな、よりパワーアップした形で、新しい有識者会議ができることになりますので、そういったことも通じて、しっかりと取り組んでまいる決意であります。

○山崎（誠）委員　時間になりましたので、終わります。異次元の対応を求めておりますので、よろしくお願いします。

○大岡委員長　次に、橋本慧悟君。

○橋本（慧）委員　立憲民主党・無所属の橋本慧悟です。 　本日またこうやって質問の機会をいただけましたことを、関係各位の皆様に感謝を申し上げます。そして、地元兵庫九区の皆様にも感謝を申し上げ、そして、関わる関係職員の皆様にも感謝を申し上げてから、質疑に入りたいと思います。 　先日、四月十三日から、大阪・関西万博がついに開幕をいたしました。その前日、私も十二日に開会式に参加をいたしまして、これはフラットに評価をしても、やはりこの演出というのは非常にすばらしかったと、私は本当に感銘を受けまして、「いのち輝く未来社会のデザイン」というテーマにふさわしく、各国の国旗を持った入場行進には、障害児の方でありますとか車椅子のユーザーの方もしっかりと参加をされて、本当に、インクルーシブでありますとか、誰も取り残さない社会、それぞれの命を大切にして輝かせるんだというようなメッセージを少なくとも私は受け取ったわけですね。 　その中で、このＡＩ推進法案にも絡めていきますと、そのテーマの中で、パレード・トゥー・フューチャーというプロンプトから始まった生成ＡＩによるパフォーマンスがありまして、これは、最新のテクノロジーを使えばより多くの人がクリエーターになる未来が開ける、そういったメッセージが込められているようです。生成ＡＩのキャラクターとおぼしき、日本の文化であるアニメやクリエーターの、先ほど山崎委員からもありましたけれども、このコンテンツというのは本当にすばらしい宝ですけれども、こういった日本のアニメというかクリエーターの思いが詰まった演出が広げられておりまして、日本の伝統である歌舞伎とのコラボというのも本当に圧巻でありました。 　この開会式は、バーチャルヒューマンのｉｍｍａさんが司会進行を務めて、この姿はもちろん、話し声も生成ＡＩによって生成されたもので、実体のない存在でありながら、独特の雰囲気とかミステリアスさというのは非常に皆さんの興味を集めていたのではないかなと思います。 　こういった本当に日本の誇るべき文化でありますアニメやクリエーティブなコンテンツ、最先端の技術、ＡＩとのコラボレーション、今後ますますこういう機会が増えていくと思いますが、同時に、山崎委員からの質疑にもありましたが、やはり、クリエーターなど、日本が世界に誇るアニメや文化をしっかりと守りながらＡＩの推進を進める必要がありますが、どのように進めていくお考えか、大臣、お聞かせください。

○城内国務大臣　橋本委員の御質問にお答えしますが、実は、私も十二日の大阪・関西万博の開会式に出席させていただきまして、今、橋本委員が御指摘になりましたＡＩ技術を駆使したｉｍｍａというバーチャルヒューマンの司会がありましたけれども、私は、あれは、後になって、えっ、これＡＩなの、よくできているなと感動したぐらい、こんなことまでできるんだなということを目の当たりにしました。そしてまた、四人組ユニットの、新しい学校のリーダーズのメンバーが書いた文字が、ＡＩがそれを読み取って音楽を作り上げるなど、ＡＩ技術がいろいろと活用されて、演出会場で上手に、本当にＡＩなんだか実際違うのかよく分からない形で、自然な形でああいうパフォーマンスができたということは、私も橋本委員と同じく大変感動し、印象に残っているところでございます。 　今、橋本委員御指摘のとおりで、日本の強みであるアニメや文化をしっかり守って、こうしたＡＩなどのデジタル技術を巧みに取り入れて新たな価値を創出していくこと、これは非常に重要だと思っております。 　一方で、ＡＩの利活用によりまして、先ほど山崎委員からも御指摘ありましたけれども、著作権など知的財産権に関する具体的な様々な御懸念が指摘されているということは、これは私も十分承知しておりまして、こうした課題にはきちんと対応すべきことが重要だというふうに認識しております。 　このため、内閣府におきましては、ＡＩ技術の進歩の促進と知的財産権の適切な保護、この二つの両立に向けまして、ＡＩの開発や利用における知的財産法の適用に関する考え方を整理するなどの取組をこれまで進めてまいりました。 　そして、ここから先ですが、本法案が成立した暁には、例えば、ＡＩ戦略本部における基本計画の検討などにおいて、これまでの課題への対応と残された懸念事項を踏まえたものとするとともに、ＡＩ戦略本部における更なる検討や調査研究等の取組により、日本の強みであるアニメや文化を守りつつ、ＡＩによって新たな価値が創造される好循環を形成してまいる考えであります。

○橋本（慧）委員　いろいろと御答弁をいただきました。大臣も出席をされていたということで、本当にこれから、いろいろ、会場運営に関する批判でありますとか、建設費でありますとか運営費が高騰している、そういったところではやはり改善すべきところはたくさん万博もあると思うんですが、そういう新たな可能性をＡＩとともに感じられた瞬間でもあると思いますし、我々もしっかりとリスクでありますとか課題は指摘をさせていただきながら、ＡＩの推進、是非ともやっていきたい。そして、クリエーター、コンテンツ、本当に著作権もしっかりと守られるような仕組みで議論を進めていきたいなと思います。 　ちょっと質疑の順番を入れ替えさせていただいてもよろしいですかね。先ほど大臣からＡＩ戦略本部のお話がありましたので、七番のところなんですけれども。 　山崎委員からも、やはり縦割りになってしまっていて、どうしてもそのかじ取りをどこか一気通貫してやるべきじゃないかという御意見があったと思うんですね。まさに私もそのとおりの問題意識を持っております。 　ただ、中間取りまとめにおきましては、ＡＩは、利用分野や用途の広がり、汎用型ＡＩの登場等により、研究開発から活用に至るまでの期間が短い場合も存在し、その間の各段階における取組がほぼ同時並行的に行われ得るものである、このため、研究開発から活用に至るまで介在する多様な主体や過程における取組が互いに密接に関連をして、そして一体的、横断的に行われる必要があり、研究開発から経済社会における活用までの一体的な施策を推進する政府の司令塔機能を強化すべきであると指摘がされています。 　内閣には、新しい資本主義実現本部のように、法律ではなく閣議決定を根拠に設置される本部や政策会議も存在すると思います。これまで政府はＡＩ政策に関しては国務大臣を構成員とするこういう本部を設置してきませんでしたが、政府の司令塔機能というのはどのようなものであったのか、お答えください。

○城内国務大臣　お答えします。 　これまで政府としましては、官房長官を議長とする統合イノベーション戦略推進会議、これがございまして、その下にＡＩ政策を強化、推進するために設置された有識者会議であるＡＩ戦略会議がございました。ここのＡＩ戦略会議の中で議論を進めてきておりまして、こうした議論を踏まえて、政府のＡＩ政策の司令塔機能を実質的に担ってきたところでございます。また、このＡＩ戦略会議のほかに、各種連絡会議等によって、縦割りを排すべく、関係省庁と省庁の垣根を越えて連携はこれまで図ってまいりました。 　他方で、この法案が成立した暁には、先ほど申しましたように、ＡＩ政策の司令塔として、内閣にＡＩ戦略本部を置き、その本部長は総理大臣ということで、官房長官から、より更に強力なリーダーシップの下で、これまで以上に緊密な情報共有、調整を行いながら、ＡＩ政策をしっかり進めていくということになっております。

○橋本（慧）委員　先ほど御答弁の中でも、ＡＩ戦略本部を内閣に置くという話もございました。法の第十九条でそのようにされていると思いますが、これは、閣議決定等々による設置と違って、法定化によってどのようにＡＩ政策推進の差が出ると考えられるのでしょうか。よろしくお願いします。

○渡邊政府参考人　お答え申し上げます。 　まずは、このＡＩ法案を歴史上初めて出すということで、その政府の強い意思、リスクに対応しながら推進するという強い意思を示すということであります。そして、その強い意思を示す法律の中で、強い司令塔をつくる、その意思を示したいということで法定化をしている。この法定化をすることの意味というのはすごく大きいというふうに考えております。

○橋本（慧）委員　法定化することの意義、かなり大きいということでありました。 　本当に実効性の伴うような組織であってもらいたいなと思いますし、今朝の参考人質疑を拝聴しておりましても、本当にＡＩの開発そして進むスピードというのが物すごく速い、指数関数的に進んでいく。新たな問題でありますとか対策も、本当に日に日によって変わっていくというようなところですので、是非ともこの辺りを留意をして進めていっていただきたいと思います。 　そして、有識者、今朝は四人の参考人をお呼びして、本当にいい質疑というか質疑応答を聞かせていただいて、学びが深まったところですが、この有識者というものがしっかりと、ＡＩ推進法案というかＡＩ推進に当たって関与する仕組みが必要だと思うんですね。 　本法案には、ＡＩ戦略本部の構成員に有識者が含まれていないと思いますが、有識者会議を設置する予定ということでよろしいですか。

○城内国務大臣　ＡＩ戦略本部、これは本部長が総理大臣で、本部のメンバーは国務大臣でありますが、これまで、ＡＩ戦略会議、これは今日参考人で御出席された松尾先生が座長でありまして、このＡＩ戦略会議がございまして、その下にＡＩ制度研究会というのもございます。 　この法案が成立した暁には、この有識者会議を何らかの形でよりパワーアップするというか、構成員のメンバーをどうするかというようなまた問題はありますけれども、しっかりとＡＩの知見のある方を、今日参考人に来られた四人の方のような方を中心に、しっかりとした会議体、有識者会議体をつくって、ＡＩの政策についてしっかりと取り組んでまいる考えであります。

○橋本（慧）委員　参考人の答弁の中では、今朝は、例えば、私が読み取ったのは、民間大臣でもいいんじゃないか、これは私が読み取ったんですけれども。本当に専門性のある方がしっかりとその責務を担っていく。あらゆる知見と、そしてスピーディーな対応、それには深い見識を有する方が必要だと思いますが、これはちょっと通告はしていませんが、そういった民間大臣でありますとか、民間の方がしっかりとリーダーシップを取って進めていく、そんな枠組みも考えられると思いますか。

○城内国務大臣　今、民間大臣という御提案というか御指摘がございましたけれども、いずれにしましても、この法律が成立した暁には、ＡＩ戦略本部ができますし、また基本計画が閣議決定されるわけでありますけれども、そういったプロセス、過程の中で、今後どういった人材を活用し、ＡＩという非常に重要な問題について取り組んでいくかということをしっかり検討されることになるかと思います。

○橋本（慧）委員　大臣から御答弁いただきました。 　有識者会議についてまたお聞きするんですが、知的財産基本法に基づく知的財産の戦略本部では、全ての国務大臣に加えて、知的財産の創造、保護及び活用に関し優れた識見を有する者のうちから内閣総理大臣が任命する者も本部員に充てることとしています。また、今国会に提出され、我が党から修正提案をし、修正の後、衆議院を通過しましたサイバー対処能力強化整備法案においては、有識者から構成されるサイバーセキュリティ推進専門家会議を新たに設置することとしています。政府は、ＡＩ戦略本部に対して専門的見地から助言を行うために有識者から構成される会議体を設置することとされていますが、サイバーセキュリティ推進専門家会議のように法定化する必要性はございませんでしょうか。

○渡邊政府参考人　お答え申し上げます。 　有識者会議につきましては、二つの置き方といいますかパターンがあるというふうに思っております。一つは、法律に基づいて、政令に基づく会議という形で設置をするという考え方であります。もう一つは、この法律に基づいてＡＩ戦略本部をつくりますので、この本部の決定として設置をするというのがございまして、このどちらかかなというふうに今考えております。 　要は、法律に基づく政令で設置するか、あるいは法律に基づく本部が決定するかということでございまして、いずれにせよ、法律の本則にその規定があるわけではないんですけれども、この法律の体系の下に会議を置くということで、そのどちらかの可能性を検討していきたいというふうに考えております。

○橋本（慧）委員　どのように置いていくかということも含めて、議論を我々が進められていければいいかなと思います。 　そうなると、今度、ＡＩ戦略本部の事務というのは内閣府にて処理することとなっています。これは法の第二十六条に記載があるかと思いますが、その事務は既存の科学技術・イノベーション推進事務局がつかさどることになります。 　ＡＩ戦略本部の新設に伴って、科学技術・イノベーション推進事務局の体制は拡充されるのかというのは気になるところでありますし、ＡＩ戦略本部がＡＩ政策の司令塔機能を果たすために、事務局が十分な体制になっているのか、これは大臣にお伺いしてもよろしいでしょうか。

○城内国務大臣　この四月からＡＩ担当統括官というポストをつくりましたし、また、先ほども申しましたように、今後、法案が成立してＡＩ戦略本部ができた暁には、そういった体制面についても検討し、先ほど著作権の問題等もありましたけれども、これから起こり得る様々な、現に起きているもの、これから顕在化する様々な課題について、迅速かつ適切に対応できるように体制づくりを、しっかりつくっていく所存であります。

○橋本（慧）委員　今回の法の精神としても、柔軟に迅速に様々な状況変化に応じて対応できるということと、リスクへの対策、これが本当に重要な観点かなと思います。 　そのとおりに、是非とも文言どおり進められることを本当に我々も期待はするんですが、今朝の参考人のお話の中でも、やはり若い世代をいかに活用するのかが大事、これは安野貴博さんもおっしゃっていましたけれども、二十代や若い人材、基盤モデルが強い事業者に聞いたら、やはり二十代でもすごく活躍をしている方々が多いんだ、十八歳時点での理系人材は本当に日本でもレベルが高いんですよというお話をされていました。この若い世代、つまりこの政府の事務に関わるような方でも、こういった若い方々、確かに年齢だけではないかと思いますが、新しいＡＩ関係の知見とかイノベーションに関して、民間も含めて、若い世代の方々を人材登用するというのは、そういった思いはありますでしょうか。

○城内国務大臣　そういった若い方、特に外部人材、やはり若くてやる気があって能力がある方、そういった方々がしっかりこのＡＩの業務に携われるように、外部人材の登用、そしてまた、各省に若手でＡＩの問題に関心のある職員もおりますので、そういった方々に併任をかけることによって、通常自分の省庁で仕事をしながら、内閣府のこういったＡＩの問題についても、時々集まって、具体的な様々な問題、顕在化した問題などにスタッフとして関わっていくというようなこともしっかりやっていく考えであります。

○橋本（慧）委員　御答弁をいただきました。 　質疑の順番を入れ替えて誠に恐縮ではありましたが、続きまして、ちょっと三番に戻っていただきたいと思います。 　ＳＮＳの運営事業者、プラットフォーマーの多くは国外の事業者でありまして、中間取りまとめにも、コンプライアンスの協力を得にくいという指摘がございます。 　先週の我が党の馬淵委員の質疑におきましても、有事の際の対応、国外事業者の日本支社、日本における代表等が存在する場合は、当該者を通じて対応を求めることも考えられると取りまとめにもあります。大臣の答弁でも、海外事業者を含む研究開発機関及び活用事業者等に対し、国が実施する施策に協力する責務、これを定めていると答弁がございました。 　具体的に、有事の際はどう対応するのでしょうか。海外事業者の責任者を本当に、馬淵委員も指摘されていましたが、日本政府でありますとか関係各省に呼んで対応を依頼することになるのでしょうか。お答えください。

○城内国務大臣　ＡＩ活用事業者につきましては海外事業者が多いことが事実でありますが、これは当然、国内事業者と同様に、本法案第十三条に規定する国際的な規範に即した指針、これの遵守や、第十六条に規定いたします情報収集、調査などへの協力を求めていくことが想定されております。 　法律に事業者の責務が明記されることによって海外事業者に対しても同じように規律を働かせ、一定の実効性を確保することは可能であるというふうに考えております。 　なお、このことは、ＡＩ戦略会議・ＡＩ制度研究会の中間取りまとめにおいても明記されております。 　そしてまた、加えて、広島ＡＩプロセスフレンズグループを始めとする場や国際的なネットワークを用いた緊密なコミュニケーションを図ることで対応を求めていく。だから、日本だけじゃなくて、こういったフレンズグループに入っている仲間の協力も得ながら、特に具体的な問題があったら、日本だけからではなくて、そういったフレンズグループを通じての対応ということもできるんじゃないかと思います。 　いずれにしましても、問題事案が発生した場合の海外事業者への対応につきましては、現時点におきましては、海外に存在する当該事業者の本社に対し、あらゆるチャンネル、手法を用いて連絡を取る、しっかり取るということを想定しております。

○橋本（慧）委員　あらゆるチャンネルを使ってしっかりと連絡を取って、有事の際はしっかり対応を行っていくという決意だと受け止めました。是非ともそちらは国民にもお約束をしていただきたいと思います。 　今朝の参考人質疑の中でも、やはり重要な御指摘があるなと改めて思ったのが、法治国家として、法の下にＡＩを管理していくんだと。人間中心のＡＩ社会をつくるためにも、本当にこの観点が重要でありまして、国富も流出しないようにという御指摘、重要な答弁もありました。不正な海外の事業者を我が国でのさばらせてはいけないんだというようなお話もありました。全くそのとおりだと思います。 　ＡＩ推進を進めることはもちろんでありますし、我が国の経済成長でありますとか業務効率の発展にも本当に大切なものでありますが、このリスクへの対応とか不正への対応、是非ともこの観点は忘れずに力強く進めていただきたいと思います。 　その関係で、続きまして、五番ですけれども、ディープフェイクの対策についてお聞きしたいと思います。 　ディープフェイクポルノについては、特に児童ポルノも含めて非常に問題で、対策が急務なわけでありますが、先日の我が党の市來伴子委員と法務省の高村副大臣、政府参考人との質疑の中で、実在する児童の画像が使われた生成ＡＩポルノということが認められれば、これは児童ポルノ法上の児童ポルノと定義をされると、重要な確認をし合ったところであります。 　しかしながら、実在するかどうかにかかわらず、海外では違法認定をすることが前提であります。 　生成ＡＩが生み出す性的虐待画像、いわゆるＣＳＡＭと呼ばれるものについては、我が立憲民主党でも有識者団体からヒアリングをいたしましたが、やはり、実在するかどうかにこだわると、微妙に顔のほくろの位置が違ったりとか、それは変えることができるんですね、今の技術で。例えば目や鼻、口の座標を変えるというような技術も当然できるわけですから、実在しないと捉えられてしまう、そのような細工をされてしまうと、実在しないと捉えられる可能性もあり、ぱっと見たら被害に遭っている方御本人だと一般の方は思う場合であっても、警察においてはこれが取り上げられないとか、全く取り合ってもらえないという、そんな現状があるわけですね。これはゆゆしき事態だと思います。 　海外同様に、特にこのディープフェイクポルノ、さらには、その中でもとりわけ児童ポルノにつきましては、実在性を問わず厳しく対処をしていくべきだと考えますが、いかがでしょうか。

○城内国務大臣　橋本委員御指摘のとおり、確かに、海外では、ディープフェイク画像の流通等が規制されている国がございます。他方で、我が国におきましては、生成ＡＩを悪用しましたディープフェイクポルノを含めた新たな課題への対応については、個別の事案ごとに刑法やいわゆる児童ポルノ禁止法等の既存の法令にのっとり適正に対処されていくものとしております。 　その上で、ＡＩ法案におきましては、ＡＩ政策の司令塔機能を強化するため、内閣総理大臣を本部長として、全閣僚が構成員となるＡＩ戦略本部を新たに設置することや、戦略本部の事務局である内閣府が、ＡＩに関する情報収集や、権利利益を侵害する事案の分析や調査を実施すること等を規定しているところであります。 　こうしたことをしっかり踏まえまして対応していくことになりますが、加えて、ディープフェイクに関しては、法案第十三条でありますが、これに基づき整備する指針、この指針において、ＡＩ開発者が違法なディープフェイクなどの不適切な出力の抑制等の取組に努めることについて盛り込むことも予定しております。 　本法案が成立した暁には、ＡＩに関する様々なこうした課題に関して、内閣府が司令塔機能を発揮し、全ての関係省庁との間で緊密な情報共有、調整を行いながら、政府全体として、遅滞なく迅速に、一体感を持ってこうした課題にしっかり対応していく考えであります。

○橋本（慧）委員　力強く御答弁をいただきました。是非とも、今おっしゃっていただいたとおりにやっていただきたい。そして、ただ、現状、本当に被害を受けて困っていらっしゃる方々がいるということも、本当に速やかな対応が必要であることを改めて申し上げたいと思います。 　今朝の参考人の御答弁の中でも、やはりそういった誤情報、偽画像とかもそうですが、偽の情報が生まれる速度と、それに対して司法で処理する速度には大きな差があり過ぎるという御指摘もございました。それに対しては、本当に、いろいろ、るる難しい問題があると思いますが、我々も何とかできないかと考えていきたいと思います。 　最後、時間も迫ってきました、一問だけさせてもらいます。 　先週の私の質疑でも、選挙におけるディープフェイク対策を質問し、大臣から、あくまで一般論としての回答はいただきました。しかしながら、やはり、我が党の馬淵委員も指摘を申し上げました、民主主義の根幹たる選挙制度が偽画像とか偽の情報で大きく毀損されることの懸念は強く持っています。 　偽画像や動画が作られて、有権者の判断がディープフェイクによって大きく揺さぶられることへの対策、特に、来るべきこの夏には国政選挙もありますので、その対策をどう考えているのか、今度は総務省にお聞きしたいと思います。

○笠置政府参考人　現行の公職選挙法におきましては、公職の候補者に関する虚偽の事項を公表したり虚偽の氏名等を表示して通信したりすることにつきましては虚偽事項公表罪あるいは氏名等の虚偽表示罪といった罰則が設けられてございまして、これらに該当する場合には罰則の適用があるということでございます。 　また、インターネット選挙運動が解禁された際に、平成二十五年でございますが、当時のプロバイダー責任制限法が改正をされまして、プロバイダーが候補者等からの申出を受けて情報を削除する場合において、プロバイダーの損害賠償責任が制限されるために必要な発信者への情報の削除に係る確認期間が一週間から二日間に短縮をされてございます。 　選挙におけるＳＮＳの利用や規制の在り方につきましては、表現の自由や、政治活動、選挙運動の自由に関わる重要な問題であるため、各党各会派において御議論いただくべき事柄であると考えておりまして、今、各党協議会において、ＳＮＳに関し、選挙における偽情報対策について重要な論点として議論がなされていると承知しておりますので、そうした議論も見ながら、先ほど申し上げた法の規定の周知に努めてまいるというところでございます。

○橋本（慧）委員　安野さんから御指摘がありましたプリバンキング、こういった誤情報が今後出る可能性があるよというような手法も技術としてあるわけですから、そういったものも使いながら、民主主義の根幹、そして人権をしっかり守る意識を持ってもらいたいと思います。 　質疑させていただきまして、ありがとうございました。

○大岡委員長　次に、今井雅人君。

○今井委員　では、よろしくお願いします。 　午前中の参考人質疑のところで、参考人の方が、推進と規制はトレードオフではない、むしろ適切な規制をすることによって安全性が高まって推進する面もあるんだというような御意見をおっしゃっておられましたけれども、大臣、この点の御意見についてどう考えますか。

○城内国務大臣　私も全くそのとおりだと思いまして、イノベーションの促進、これはゼロサムではなくて、イノベーションを促進して研究開発をしっかりやることによって、これから将来顕在化するようなリスクを未然に防御したりする、あるいは偽情報、誤情報をチェックできるような、既にもう幾つかございますけれども、そういったイノベーション、研究開発を通じて、リスク対応、リスクの可能性を低減させるということができますので、私自身もそのように認識しております。

○今井委員　私もそういうふうに思いますので、そういう観点でちょっと質疑をしてまいりたいというふうに思います。 　ちょっと先に具体的に法案の中身を確認していきたいんですけれども、推進という意味においては、研究開発機関の協力や、あるいは活用事業者の協力というのは当然必要でありまして、第四条には国の責務、第五条には地方公共団体の責務、その次に、第六条に研究開発機構の責務というのがございます。それから、第七条に活用事業者の責務というのがございます。 　ここまでは実際に携わる人の責務ですから私はよろしいんじゃないかなと思うんですが、問題は八条でございまして、八条に国民の責務というのが書いてございます。ここに、人工知能関連技術に対する理解と関心を深めるとともに、これはいいと思うんですが、国や地方公共団体が実施する施策に協力するよう努めるということが国民の責務だというふうに書いてあるんです。 　これは、日本の中にはデジタル難民の人もいらっしゃるわけで、これに国民の責務というのはちょっと強いんじゃないかなと思って、ほかの法案を調べてみたので、ちょっと資料を見ていただきたいんです。 　一枚目のところに、これと似たような法律だというと、サイバーセキュリティ基本法というのがございます。このサイバーセキュリティ基本法のところの第九条に同じような規定がありますが、タイトルが、国民の責務ではなくて、国民の努力というふうになっております。 　また、一枚めくっていただきまして、三枚目の真ん中あたりを見ていただきたいんですけれども、こういう国民の責務や努力を定めていない基本法もございまして、この法案に近いところでいいますと、デジタル社会形成基本法というのがございます。このデジタル社会形成基本法の中には、国民の責務とか努力という規定はありません。その代わりに、国民の理解を深めるために、政府が広報活動などを通じて国民に周知をしてください、こういう規定があります。 　似たような規定は、実はこの法案にも第十五条に教育の施策としてあるんですけれども、ちょっとこれらの法案と比べて、この八条の規定がやや強いのではないかというふうに私は感じておるんですけれども、この点、いかがでしょうか。

○城内国務大臣　お答えします。 　法案第八条ですが、この内容は、国民の皆様が、ＡＩの適正な活用を推進し、便益を享受するには、ＡＩに対する正しい理解と関心を深めていただくことが不可欠という認識の下で想定したものでありますし、八条の表題は国民の責務とありますが、そこの、国と地方公共団体のところは条文の中にも責務と書いてありますけれども、表題にあるのが責務であって、条文の中にはそのような責務という言葉はございません。 　なお、本法案では、国や地方公共団体はＡＩの活用を推進する施策を実施することとされておりまして、この施策の実現に当たっては、国民の皆様の御理解、御協力が必要不可欠であるという観点からであります。こうしたことから、果たさなければならない務めを意味する責務という文言を、第三条の条文の中ではなくて見出しに用いたものでございます。 　なお、本法案第四条の国の責務から第八条の国民の責務まで、ＡＩ関係者に関する条文の見出しにおいては、これら関係者に求める努力義務の程度はそれぞれ異なるんですが、あえて責務という文言を表題に用いたということであります。

○今井委員　政府の立場は分かりますけれども、私は、今御紹介したとおり、これまでの似たような法案と比べると、ちょっとやはりここは違和感があるということを申し上げておきます。 　次に、今日も参考人の方が、この法案は、推進だけではなくて、推進と規制のバランスの取れた非常にいい法案だと、参考人の方は皆さん、ある意味持ち上げるような発言があったんです。 　それでちょっと確認したいんですが、この第三条、基本理念というところに四項というのがございます。この四項のところが、読んでみると、いわゆる適切な運営、あるいは規制に関わるような文言ではないかというふうに私は読みましたが、この三条の四項についての意味をちょっと紹介いただきたいと思います。

○城内国務大臣　済みません、私、先ほどの答弁で、国民の責務、第八条を第三条と申し上げたのですが、第八条の間違いなので、ちょっと訂正させていただきます。 　御質問にお答えします。 　第三条第四項につきましては、本法案に定める施策や基本計画の土台となる基本理念の一つとして、リスク対応を明確に示す観点から設けたものでございます。 　我が国におきましては、従来、ＡＩのリスクについて、刑法等の既存の法令とガイドライン等のソフトロー、これらを適切に組み合わせて対応してまいりました。これに加えまして、本法案では、第三条第四項の基本理念の内容も踏まえまして、国が新たに指針を整備し、情報収集や調査、指導、助言等を行うことを規定しておりまして、今後、今井委員の御指摘もしっかり踏まえまして、顕在化するリスクに対して、既存の法令の活用等による制度的対応も含め、適切かつ迅速に対応していく考えであります。

○今井委員　ちょっと、次の質問の答弁も少しされちゃったんじゃないかと思うんですけれども。 　今の観点を踏まえまして、第三章の第十八条のところに人工知能基本計画というのがございます。先日の馬淵委員との質疑の中で、そういう規制というか、人間中心の考え方というのは、本来、一条の目的の方に入れるべきじゃないかという質疑がありました。 　その際に、それは、そこには当然のことだから書いていないだけで、人工知能基本計画の中に書くことは検討しますというような答弁がありましたけれども、十八条を見ると、基本理念にのっとり基本的な方針をつくるというふうに書いてありますから、この基本的理念とは三条のことをいうわけです。 　その三条の中には四項も含まれているわけですから、基本理念の中には、当然、先ほど御説明いただいたような規制の考え方というようなものも含まれる、そういう法のたてつけになっていると思うんですけれども、それでよろしいですか。

○城内国務大臣　御理解されているとおり、本法第十八条、基本計画の条文上にあります基本理念には、本法案第三条四項の内容も含まれます。そしてまた、本法案第三条五項では、ＡＩの研究開発及び活用は国際的協調の下で推進することなどを基本理念として規定しているものであります。 　国際規範として、例えば、高度ＡＩシステムを開発する組織向けの広島プロセス国際指針におきましては、ＡＩの開発等について、法の支配、人権、適正手続、多様性、公平性、無差別、民主主義、人間中心主義を尊重すべきである等とされているところです。 　したがいまして、本法案第十八条に基づき策定する基本計画は、第三条第四項や同条第五項を含む基本理念等にのっとり策定するものでありまして、イノベーションの促進とリスク対応の両立や、当然、人権、人間中心主義の尊重等についても、今井委員御指摘のとおり、基本計画の中に盛り込む方向で検討しております。

○今井委員　では、よろしくお願いします。 　次に、規制の具体的な内容についてお伺いしたいんですけれども、先ほど橋本委員の方から児童ポルノの話が出まして、質問がちょっとかぶっておりますけれども、ちょっと資料を見ていただきたいんです。 　先日、こういうものの被害者の団体の方とお話をしておりましたところ、現在、捜査機関にいろいろ訴えをすると、例えば顔写真、明らかに本人の写真だというものは取り上げてもらえるらしいんですけれども、さっきもありましたけれども、顔の輪郭とかパーツの位置とかで作られてしまっているもの、そういうものの被害に遭ったときに、捜査機関の方に行くと、門前払いで全然取り合ってもらえないというケースが結構あるんだそうです。 　法務省さん、そういう事案は理解しておられますか。

○吉田政府参考人　個別の事案について申し上げることは差し控えさせていただきたいと思いますけれども、御指摘のようなディープフェイクポルノについて、いろいろな事案があるということは承知しております。

○今井委員　いろいろ様々な問題が起きているんですけれども、先ほど大臣、答弁のところで、十三条を見てください、十三条のところで、今後適切にこういうものに対応していくという答弁をされておられました。 　ちょっと確認をしたいんですが、それは、今のような事案も含めて、個別のことは今日伺いませんけれども、今後、そういった生成ＡＩとかのところで起きているいろいろな問題が現行法で対応できなければ、それも法律改正も含めて今後検討していく、必要であれば検討していく、そういう趣旨でよろしいですか。

○渡邊政府参考人　お答え申し上げます。 　少し具体的な話になりますので、答弁書に書いていないことを申し上げます。 　ディープフェイク等につきましては、基本的には現時点では現行の法令で対応しておりまして、刑法の名誉毀損等で摘発をしている事例というのは実際にございます。 　それに加えまして、この法案では、予測できないことも起こりますので、指針を国が整備しますが、ここから先はちょっと答弁に書いていないんですが、この指針の中では、開発者がやるべきこととか活用者がやるべきことというのを書いていこうと思っています。 　そのときに、ディープフェイクの関係では、まず、開発者がＡＩにいわゆる電子透かしみたいなものを入れて、今朝も参考人のお話がありましたけれども、それがＡＩで作られたかどうかが分かるような技術を盛り込みたいというのは考えております。ただ、これはまだ開発中の技術ですので、完璧なものではございません。画像には盛り込めますけれども、テキストには盛り込めない可能性があります。 　それで、もう一つ考えられますのは、開発者に、法令遵守は当然なんですけれども、いわゆる不適切なことをできるだけ避けるような事前の努力をしてくれ、かつ、市場に出した後も、何かそういう問題があったらちゃんと情報を収集して対策する、そういう取組をしてくれということを開発者に求めていきたいというふうに考えています。 　また、ディープフェイクをやるのは、結局、最後、活用する人がそれを作ってしまうというところがございますので、こちらについても適正な対応というのを求めていきたいと考えています。

○今井委員　大臣、済みません、個別の事案でここでピン留めするつもりはないんですけれども、様々な問題が起きたときには、法改正も必要であれば、そういうことも含めて今後検討していくかどうかということだけお答えください。

○城内国務大臣　お答えします。 　これまで答弁させていただいたとおり、ＡＩ法案が成立した暁には、戦略本部もつくりますし、既存法、そしてソフトローで組み合わせて対応しますけれども、既存の法律で対応できなければ、既存法の改正も当然あり得るというふうに考えております。

○今井委員　ありがとうございます。 　次に、これは雇用関係のいろいろな団体の皆さんもちょっと心配しておられるんですけれども、ＡＩによった偏った評価あるいは判断ということが人事評価などに使われてしまって、不当な評価を受けてしまうんじゃないかという心配をされておられる方がいますけれども、これについては何か措置を考えていらっしゃいますか。

○城内国務大臣　お答えします。 　ＡＩを利用するしないにかかわらず、雇用の分野における差別、これはあってはならないものというふうに考えております。 　例えば、男女雇用機会均等法におきましては、雇用管理の各ステージにおける性別を理由とする差別、これが禁止されております。その上で、生成ＡＩが格差、差別を助長するような出力をしないこと、これももちろんこういった観点から当然重要でありまして、具体的には、学習データから偏見情報を除外すること、あるいは、ＡＩが格差、差別を助長する出力をしないかどうか、市場に出す前及び出した後にも確認し、必要な修正を行うことなどの措置をＡＩ開発者が講じることにつきまして、本法案に基づいて国が整備する指針に盛り込むことを検討しております。 　さらに、本法案第十六条に基づきまして、国は、必要に応じて、法律に基づく調査を行い、そのような格差、差別を助長するようなＡＩにつきましては、しっかりと事業者に対する指導、助言、あるいは国民に対する情報提供をしっかりと行ってまいります。

○今井委員　分かりました。 　次に、先日もちょっと出ていましたけれども、いわゆるジブリフィケーション、ジブリ風にするというのが最近すごくはやっているそうなんですけれども、このジブリ風にするというのが著作権に当たるのではないかという議論がありますけれども、現在の解釈としては、どこまでが適法で、どこからが違法という理解でよろしいですか。

○中原政府参考人　著作権法におきましては、思想又は感情を創作的に表現したものであって、文芸、学術、美術又は音楽の範囲に属するものを著作物として保護しておりまして、創作的な表現に至らない、いわゆる作風、アイデアというものを保護するものではないことから、単に作風、アイデアが類似しているのみであれば、著作権侵害には当たらないとされております。 　他方、ＡＩにより生成されたコンテンツに既存の著作物との類似性及び依拠性が認められれば、著作権侵害となり得るということでございます。 　個々の生成物が既存の著作物の著作権侵害に当たるか否かにつきましては、個別の具体的事例に即しまして、最終的には司法の場で判断されることとなりますけれども、文化庁におきましては、こうした点も含め、ＡＩと著作権の関係について、令和六年三月に、ＡＩと著作権に関する考え方についてを取りまとめまして、セミナーなどを通じまして、これらの考え方の周知啓発に努めてきたところでございます。 　今後も、こうした考え方について正しく御理解いただけますよう、分かりやすい形で周知啓発を行ってまいりたいと存じます。

○今井委員　分かりました。 　つまり、作風やアイデアの間は合法だけれども、ジブリそのものというふうに認定されてしまうとこれは法律違反だという整理だということが分かりました。 　最後に、ちょっと教育、人材の確保ということでお伺いしたいんですけれども、先ほどの参考人のところでも、大分ＡＩ人材は増えてきたというふうにおっしゃっていましたけれども、やはりこれは幼少時からこういう教育をしっかりやっていかなきゃいけないんじゃないかと思うんですね。 　それで、ちょうど今、学習指導要領の改訂作業がこれから始まるはずなんですけれども、二〇二七年に新しい改訂。そもそも、ちょっと十年に一回というのは、もう既に、十年もしたら世の中は変わっているので、改訂の期間が長過ぎるという問題意識はあるんですが。 　この学習要領の中に、実は情報活用能力の育成という項目があって、そこにはＩＣＴのノウハウを高めようということは書いてあるんですけれども、今度の改訂でＡＩの教育というものも具体的にきちっと書き込んだ方がいいんじゃないかと思うんですけれども、文科省さん、いらっしゃいますね。いかがでしょうか。

○日向政府参考人　お答えいたします。 　学習指導要領の改訂に向けましては、昨年十二月に文部科学大臣からの諮問を受け、中央審議会において現在御審議をいただいております。 　その諮問の内容といたしまして、情報関係で申し上げますと、情報活用能力の抜本的向上を図る方策、生成ＡＩ等の先端技術等に関わる教育内容の充実のほか、情報モラルやメディアリテラシーの育成強化、こういう内容について一応御審議いただくよう御要請をさせていただいておりまして、現在、中央教育審議会で審議が行われております。 　このような議論も踏まえまして、充実方策について検討を進めてまいる予定でございます。

○今井委員　答弁は要りませんけれども、大臣、是非、ＡＩという文言を入れた方がいいと思うんですよ、その方がはっきりしますから。そういうことを是非検討していただきたいと思います。 　あわせまして、大学なんですけれども、ちょっと高専の話もしたかったんですが、時間がないかもしれません、大学を先に話します。 　いわゆる大学ファンド、国際卓越研究大学制度でありますけれども、これは様々な科学技術を進めていく大学を優先的にということなんですけれども、ちょっといろいろ制約がありまして、事業、財務戦略、三％成長とか、なかなか高いハードルがあるんですが、せっかくこういうファンドをつくったんですから、こういうところでＡＩの人材を育成するとか、あるいはＡＩ技術を伸ばしていくというような大学を特定して、ある意味特出しして、そういうことをやっているところを認定していくというような新たな基準を作るなり、何かそういうことをして人材を育てていくという取組をしてみたらいかがかと思うんですけれども、いかがでしょうか。

○城内国務大臣　今井委員の御指摘、非常に私も重要だなと感じました。 　御存じだと思いますが、国際卓越研究大学制度は、文科大臣が世界最高水準の研究大学を認定し、さらに、当該大学の体制強化計画を認可した上で、認可された計画に対する支援を行う制度でございます。 　現状、ＡＩ技術に関連した工夫といたしましては、例えば、基本方針において、国際卓越研究大学の体制強化計画の認可基準の一つとして、大学が、ＡＩ技術などの戦略重点分野や新興・融合分野への取組、新たな萌芽的挑戦などの研究上のポテンシャルを向上し続ける方策、これをしっかり示すべきということが具体的に掲げられております。 　そうしますと、現在、この基本方針の下で第二期の公募を実施しているところでありますので、各大学において、ＡＩ分野の発展も含めた国際的に卓越した研究成果の創出や成果の活用に向けた構想が検討され、提案されることを大いに期待したいと思います。 　大学の認定や計画の認可の意見聴取を求められた際には、基本的にはこれは文科大臣のあれなんですが、ＣＳＴＩの構成員の科学技術政策担当大臣として、私もしっかりとその点を確認していきたいというふうに思っております。

○今井委員　もうほとんど時間がありませんので、最後に、指摘だけで。 　先ほど、参考人の田中さん、舞鶴の高専を出られたと言っていますけれども、高専も非常に重要だと思うんですね。 　今、全部で五十八校あるんですけれども、そのうち五十一校が国立ですから、是非、高専でもそういうＡＩ人材を専門に育成するような学科、そういうものを検討していただきたいということをお願い申し上げまして、質疑を終わります。 　ありがとうございました。

○大岡委員長　次に、市村浩一郎君。

○市村委員　日本維新の会、市村です。よろしくお願い申し上げます。 　いよいよＡＩ法も大詰めに向かっているんだと思いますが、今、第四次産業革命が進行中ということでございます。初期の頃は何といってもその中心はインターネットでありましたし、スパコンということでありましたが、いよいよここでＡＩまた量子というのが登場してきているというところであります。第一次は蒸気、第二次は電気、第三次はコンピューターと言われて、第四次というところでございます。 　その中で、ＡＩがいよいよ登場してきて、ＡＩが我々人間を超える、人間をしのぐ、若しくは人間をひょっとしたらじゅうりんし、かつ支配までするのかもしれない、こういうおそれがあるということもありまして、今回この法案ではやはり人間中心でいこう、こういうことが大臣からも話をされているわけでありますが。 　この法案でということも含めて、人間中心、どうやって担保していきますか。大臣。

○城内国務大臣　市村委員御指摘の問題は非常に私も重要だと思っておりまして、ＡＩに支配される人間じゃなくて、やはり人間中心でいかなきゃならないと思っております。 　これまでの科学技術の発展のプロセスにおきまして、例えば、航空機や自動車における技術革新ではコンピューターによる操縦の補助あるいは自動化など、人間とコンピューターの協調による性能向上等を目指してきた歴史がございます。 　ＡＩについても同様であり、人間中心の考え方を軸に置くとともに、人間の英知によって、人間とＡＩの調和に向けて、私は一歩ずつ前進できると考えております。 　なお、本法案の第十三条において、国際的な規範の趣旨に即した指針、これを国が整備することが規定されておりますが、ここに言う国際的な規範は、広島ＡＩプロセスの国際指針、あるいは国際行動規範、これを念頭に置いておりまして、これらの国際的規範にはしっかりと人間中心の考え方が示されておりまして、国が整備する新たな指針についても同様の考え方をしっかり踏まえて示す考えであります。

○市村委員　ありがとうございます。調和ということもお話しいただきました。 　ただ、人間中心というときに、どうするかももちろん大変考えなければならないんですが、私は松下幸之助さんがつくった松下政経塾というところに学ばせていただきましたが、松下さんが我々塾生に問うたのは、人間とは何かを考えてくれと問われたんですね。 　そもそも人間とは何かすら深く考えなければならないというところもありまして、まさにこの哲学的命題がここには、人工知能というのはまさに我々の知能をどう代替させるかというところなのかもしれませんが、我々人間が悩んできた、苦しんできた、そうしたことも含めて考えなければならない、人工知能を考えるときには。人間そのものを考えなければならないというところもあるんだと思います。 　後でまた少し議論もしたいところがあるのでありますが、そのとき、哲学とか、私、学生時代には、必ず古典に学ぼう、四書五経は読みなさいとか学生時代よく言われたものでありますけれども、やはり、そうした人類史ですね、人類が何を考え、何をなしてきたかということも深く考えた上で、人工知能も考えていかなきゃならないというふうに思っております。 　後ほどそれも議論させていただきたいと思いますが、まず、第三条第四項や第十六条の条文において、不正な目的や不適切な方法とありますけれども、これは具体的にどういうものを指しておりますでしょうか。お願いします。

○徳増政府参考人　お答えいたします。 　例えば、不正の目的としては、サイバー攻撃を行うことを目的としコンピューターウイルスの作成方法等に関するデータを学習させるもの、詐欺に用いる目的で他人の合成音声を出力させるものなどが挙げられます。 　また、不適切な方法としては、開発したＡＩの評価中に有害な情報が出力されることを知りながら対策等を行わずにＡＩを提供すること、あるいは、企業の従業員が入力された情報の管理方法を把握しないまま顧客の個人情報や会社の営業秘密を入力するものなどが挙げられます。

○市村委員　そこには、大臣、不正の目的には、例えば人を殺害するような軍事利用というのは含まれると考えていいんでしょうか。

○城内国務大臣　お答えします。 　人を殺害するような軍事利用は含まれるかどうかでありますが、デュアルユース技術でありますＡＩ技術は、経済社会の発展へ寄与するのみならず、我が国の安全保障に寄与することも考えられます。 　他方で、御指摘のような、人間を殺害するような軍事利用につきましては、国民生活の向上及び国民経済の健全な発展に寄与することを目的とする、これは第一条にございますけれども、ＡＩ法案の対象とする不正な目的ではないと考えておりまして、これは別途国際的な議論が行われておりまして、そのところで別途適切に対応すべきだと考えておりまして、具体的には、自律型致死兵器システム、リーサル・オートノマス・ウェポン・システム、ＬＡＷＳというんですかね、そういった問題について別途国際的な場でしっかり議論されておりますので、ちょっとそこは切り離して考えるべきじゃないかなというふうに思います。

○市村委員　ＡＩ法という中での不正な目的には入らないということだと思いますが、しかし、ＡＩ一般を取ってみると、そもそもインターネットも米軍のＤＡＲＰＡで、ＡＲＰＡネットというところから出てきたものが今のインターネットでありますし、ＡＩというのも、そもそもやはり軍事目的で開発されたものが民間転用されたということの歴史もあると私は存じておりますので、そもそも軍事目的で開発されたものだというところから考えますと、やはりこれが軍事目的に使われないということはないわけでありまして、しかし、そこを別途、このＡＩ法は最初ですから、これからいろいろな流れが出てくる中で、当然、ＡＩが平和利用ができるように、特に人間中心というところでありますれば、特に我が国は平和国家を標榜している国家でありますから、当然、我が国としてはそれを前面に押し出して議論をしていくということが必要だと思いますが、大臣、いかがでございますか。

○城内国務大臣　御指摘のとおりでございまして、ＡＩの軍事利用については今申しましたように国際的な議論が別途なされておりますが、当然、人道と安全保障の視点を勘案したバランスの取れた議論を通じまして、最大の目標というか目的であります人間中心のＡＩ、人間中心の原則、これが維持され又は責任ある形での利用が促進されることが重要であることは言うまでもございません。 　いずれにしましても、その国際的な議論を踏まえつつ、政府としても適切に対応してまいる考えであります。

○市村委員　ありがとうございます。 　これはよく言われるように、これからはＡＩ対ＡＩという時代になっていきます。そのＡＩがどういうＡＩであるのかということが大変重要になってくるわけでありまして、実はこれから二、三年で、これまで我々人類が生み出してきた情報量をＡＩが生み出す情報量が超えるということになるというふうに指摘される方がおられるんですね。 　となると、その中には恐らく、先ほどからずっとフェイクの話が大変出ていますが、フェイクが多分に含まれる情報がいろいろ広がっていく。その情報を基に、その情報をデータにＡＩが取り込ませるようなことをしますと、もはやそれはフェイクなのかと。うそも百回言えば本当になるという言葉が、格言がありますけれども、ＡＩなんて、百回とかじゃないですね、億、ひょっとしたら一兆回ぐらいやることもできるぐらいになるわけでありまして、もはや何が本当かうそか分からなくなるという時代がもう二、三年で来るというふうな時代になると私は思います。 　このような状況がもう二、三年で来るということに関して、このＡＩ法、今、もちろん臨機応変に対応していくという先ほど議論もありましたので、大臣、もうそういう時代だということの認識はいかがですか。共有していただけますでしょうか。

○城内国務大臣　市村委員と御懸念は本当に共有しております。 　御指摘のとおり、誤情報の生成、拡散への懸念に関して、例えば、ＡＩが生成したデータを別のＡＩが学習して、元のＡＩの誤り、偏り、差別的な表現とか、そういうものがどんどん増幅されてしまって、かえってＡＩの精度が低下する、信頼性がなくなる、そういったような研究結果も報告されております。 　こうした中、あるデータがＡＩによって生成されたか否かを識別する研究開発も進められております。今後、あるデータがＡＩ生成物なのか否かに加えまして、ＡＩの学習に適した学習データなのか否かを判別できる技術が実用化されることも想定されますので、そういった技術も駆使しながら、そういう偽情報、誤情報が事実のように独り歩きをして拡散されることのないように、しっかり対応してまいりたいと思います。

○市村委員　先ほど参考人質疑でも、その点、話があったと思います。だから、結局、さっきＡＩ対ＡＩと言いましたが、まさにＡＩしかＡＩのうそは見抜けないという状況になるので。ということは、そのうそを見抜けるＡＩを作っていかなくちゃいけない。うそを見抜けるようなＡＩに、ある意味で、我々ＡＩを育てていかないかぬということになるわけであります。 　先に、今の話に関連して、また、私は、ここで議論がいろいろあります、同じように、国産ＡＩ、これをしっかり作っていかなくちゃいけないというふうに思います。しかも、今までは例えば半導体とかチップの話がされていますが、やはり、私は、そういうもので生み出すものは、まず、赤ちゃんＡＩというかベビーＡＩなわけですね。真っさらなわけです。機械的に生み出されたＡＩそのものは真っさらでありまして、我々が実の子供を育てるように、先ほどＡＩに、プロンプトの話がありましたね、一歩ずつとか、深呼吸すればと言ったら性能が上がるといったように、子育てをしていかなくちゃいけないわけですね。ベビーＡＩを我々生み出した後に、じゃ、何を教えるかというのが大変重要でありまして、国産ＡＩというときは、やはり私は、日本人の心、日本人の魂をそこに教えていかなくちゃいけない、こう思うわけであります。 　だから、もちろんチップの話、半導体の話、大変重要なんですが、じゃ、でき上がったベビーＡＩに対して何を我々教えていくのか、データを与えていくのか、どういうアルゴリズムを与えるのか、どういう出力の仕方をさせるのか。それこそ先ほどからずっと申し上げているように、この間も申し上げましたが、地球環境においては人間が一番害であるから、出力は、人間を皆殺しにしろという出力をさせちゃいけないわけでありまして、やはり、我々人間が息づくような、楽しく息づけるような社会をどうつくっていくか、そのときにＡＩをどう生かすかというのが大切であります。 　そこで、結局、ＡＩアライメントという言葉があるんですね。車でアライメントを取るという言葉があります、あれです。アライメントを取る。アライメントをちゃんと取っておかないと、ハンドルをちゃんと持っておかないと真っすぐは進まないんですね。結局、アライメントをちゃんとしておかないと車は真っすぐ進まない、こういうことがありまして、やはり、ＡＩアライメントを取るという観点で、国産ＡＩをどう作っていくか。 　そのときに、私は、やはり日本人の心というか、あと、大和心というか大和魂というか、やはり、大和というのは大きく和すると表現をされますが、日本というのは、これも御存じのように、世界で一番、ちっちゃな国はあるらしいんですけれども、ある程度の規模を持った国では、二千年以上続く国は我が国だけであります。あとは、次が多分イングランドがノルマンコンクエスト以来で千年ぐらいかなと思いますが、アメリカ合衆国でもまだ二百五十年たっておりませんし、中華人民共和国も一九四九年でありますし、まだ百年たっていないということでありまして。だから、我が国は二千年以上続いていると言われている中で、当然、すばらしい文化という制度を築いてきているはずなわけです。 　だから、我々がやはりベビーＡＩに教えるのは、国産ＡＩというときには、私は、日本人の今まで培ってきた、醸し出してきた伝統文化というのは世界的、普遍的価値をもっと持つと信じておりますので、そういう日本人の心、大和心、大和魂を持ったようなＡＩを作る。 　我々は、じゃ、何が大和魂か、大きく和する。私は、日本というのは多民族国家だと思っています。ただ、単一言語民族だと思っています。だから、そういう中で、いろいろあったけれども平和に暮らしてきた我々の知恵を世界に広げるため、そのために、そういう日本国産ＡＩは大和心ＡＩというか、そういうＡＩに育てていかなくちゃいけない、こう思うんです。 　では、そのためには、やはり何といっても単にいいＡＩを、いいチップを作ればいいという話ではなくて、実はこの法案の中に学際的という言葉が入っているんですね。インターディシプリナリーということで、これは私が学生時代、もう四十年前にはやった言葉なんです、学際的に。 　つまり、その当時、文系とか理系とか分けることに意味がない、そういう分け方は意味がない。やはり、全人格的教育をするためには、文系、理系というのは分けるんじゃなくて、学際的に、いわゆる自然科学も社会科学、人文科学もしっかりと体得できる人間を、全人格者を育てていかなくちゃいけないという意味で、学際的という言葉を四十年前ぐらいに使っていたんです、学生時代に。今回この法に入っているんですね、学際的という言葉が。 　やはり、そういう観点で、学際的な人材育成も含めて、ベビーＡＩを作り出して、そして大和心ＡＩを作っていく。 　そこは、しかし、お人よしであってはなりません。日本は大体お人よし国家で、私はお人よしは悪くないと思いますが、しかし、国民を守れない、国民の生命財産を守れないお人よしはやめてほしいということでありますから、しっかりと物申すときは物申すＡＩであってほしいし、やるときはやる、やられたらやるぞ、そういうＡＩでもあってほしい。 　だから、そういうふうに育てていかないかぬと思うのですが、大臣、御見解をいただきたいと思います。

○城内国務大臣　今、市村委員から、日本人の心、大和心を持ったＡＩ、国産ＡＩの開発というような御指摘がありまして、私も大変興味深く聞かせていただきました。 　言うまでもなく、ＡＩは国民生活や経済社会に密接に関係しておりますので、やはり外国語ではなくて日本語で、日本の文化や商習慣等を正確に、情緒もできたら入れてほしいんですけれども、回答できるＡＩ、これは重要なものだというふうに私も認識しております。産業競争力や経済安全保障の観点からも同じく、国産ＡＩの開発、これは極めて望ましいと考えております。 　残念ながら、海外製の大規模言語モデル、基盤モデルが中心となっている現状でありますが、今後、大規模言語モデルについては、外国企業が先行しているのが現状でありますけれども、実際、国内でも小規模のモデルで極めて高い性能を持ったＡＩを開発する取組も進められておりますので、こういった国産ＡＩの研究開発をしっかり後押ししていく考えであります。 　もう一点の、学際的なという言葉についてでございますが、これは第六条第三項に御指摘のとおり入っております。 　やはり、ＡＩというのは、特定の分野に限らず、あらゆる分野で活用されます。そうした観点から、研究開発するに当たっては、いわゆる技術に関する知見だけではなくて、生活、文化、さっき大和心というのもありましたけれども、あるいは倫理、感性とか、そういった幅広い広範な分野の知見が求められるというふうに思います。 　こうしたことを踏まえまして、本法案第六条においては、研究開発機関は、特定の限られた分野ではなくて、学際的又は総合的な研究開発に努めることとしております。 　特に、ＡＩ人材の養成、確保に当たりましては、専門的かつ幅広い知識、これを有する人材を育てて確保していくことが重要であるというふうに考えております。

○市村委員　ありがとうございます。 　今、日本語の話がありました。日本語は確かにまだ、今、八十億ぐらいの世界人口の中で日本語を使っているのは一億二千万人ぐらいということで、この間、議論も、なかなか厳しいなということでありましたが。 　実は生成ＡＩというのは今どうやってデータを処理しているかというと、我々が日本語で打ち込むと全部英語に変換されているらしいんですね。英語でいろいろな情報収集して、英語で解析して、その結果を日本語に直して出力しているということであります。これは日本語だけじゃなくて、世界言語が、本当は日本語が一番中心であってほしいと思いますが、残念ながら今英語です。だから、英語に全部どの言語も多分変換した上で、いわゆるデータを収集し、分析し、そして入力された言語でアウトプットを打ち出しているということでありますから。 　今は自動翻訳どころじゃないぐらいの技術の発展をしているんだと思いますが、もうそこは心配しなくてもいいんじゃないか。日本語を堂々と、だから、むしろ英語に日本語を教えさせるというか。さっき情緒という話もしていただきましたが、日本人の情緒は、この表現はこういうことなんだよということを逆に学習させる、我々が。今はたまたまチャットＧＰＴとかですけれども、国産を使った場合は、英語の文を利用しながら、逆に利用させてもらいながら、我々が日本語の情緒感を教え込んでいく、こういうことも是非ともしていかなければならないかなと。 　そうすると、日本語はすごい、四季もある我が国ですから四季折々の表現があるというところで、なるほど、水一つ取っても、雪一つ取ってもこんな表現があるのかと。自分の一人称でもどれだけ表現があるかと日本語は言われて、それが難しいと言われていますが。しかし、それが日本語の非常に情緒感というのを醸し出す、日本文学のすばらしさを出しているというところだと思います。 　ですから、日本語というものも是非とも大切にしていただきたいなと思っていますし、これはＮＨＫのとき、予算の審議のときにも、私はＮＨＫに、もっと国際放送には日本語を皆さんに、世界に広める役割をしてほしい、受信料を払っている一人としてはそれぐらいのことをやってほしい、むしろ日本語を世界に広めるようにやってほしいという思いで議論したこともあります。 　大臣、いかがですか。日本語を広めるということで、大臣の御意見を聞きたいと思います。

○城内国務大臣　私は個人的には市村委員と全く同じ考えでありまして、私が尊敬して今おつき合いさせていただいているお茶の水女子大の名誉教授の藤原正彦先生、小学生に英語教育をやる時間があるんだったら、日本語と日本の歴史、情緒を学ばせるべきだとおっしゃっていますが、私も全くそのとおりだと思っております。 　今御指摘のとおり、英語に日本語を教えさせるということは非常に重要でありまして、今一つの試みとして、俳句や和歌を英語で表現しようと。これはなかなか難しいんですが、なかなか日本語のように情緒が一〇〇％伝わらないんですけれども、それぐらい外国の方々が、日本の情緒というのは、特に今、画像やそういったものを通じて非常に関心を持って見ておりますし、今日は日本語を学ぶ外国人の方が異様に増えているということは、やはり、漫画やアニメを通じてそういった日本人の情緒とか感性に触れて、それに触発されて、じゃ、日本語を学ぼう、日本を訪問しようということではないかと思うんですけれども。 　事ほどさように、ＡＩの時代だから日本語を捨てて英語に統一しようよみたいなことは、私は、むしろあってはならないし、これからは、日本語と英語の差をどうやって埋めていくのかということも含めて、ＡＩを通じてやる手法もあり得るのではないかなというふうに思っておりますので、市村委員の御指摘、個人的には全く賛同できるものであります。

○市村委員　ありがとうございます。 　私、実は、この間、「二〇〇一年宇宙の旅」のＨＡＬ９０００の話をさせていただいて、私のそもそもスタートのＡＩ観というのは、どちらかというとネガティブなんですね、恐ろしいものであるなというところであります。スマートフォンとか出たときも、どちらかというと、私は余りこういうものに触れたくないなと思っている人間なものですから、でも、もうこれは不可避なんですね。 　さっき産業革命の話もさせていただきましたが、第一次産業革命、これは教科書に載っていますけれども、第一次産業革命のときはラッダイト運動があった。つまり、機械打ち壊し運動ですね。こんなものが出てきたら我々の生活はどうなるんだということがあって、ラッダイト運動があった。でも、第一次産業革命は遂行されて、それが今の、今日の我々の近代化を、基に成した、工業化を成し遂げたということであります。 　だから、今日も参考人の質疑の中にもありましたけれども、大きな変わり目では、そういう不安というのは当然あるんですね。自分たちの雇用はどうなるのかとか、こんなことががんがん出てきたらどうなるんだ、我々の生活はとか、こういうおそれがあるわけでありますが。しかし、もはやこれは不可避ということでありますから、ＡＩがここまで来た以上は。 　しかも、インターネットと同じように、これは民間転用をされたんだと思います。いよいよ民間転用になった。それで、今日の参考人からもありましたように、インターネットのところでは、ＩＴのところでは大分遅れてどうしようもないけれども、いよいよＡＩの時代は、民用化という意味では、どうも世界が同時スタートぐらいを切ってくれているのではないか、ＡＩについてはという話がさっき参考人からもありまして。ならば、このＡＩでは、あと量子の世界では、あと通信では、日本が６Ｇ、今５Ｇですけれども、６Ｇは我が国が先導できるかもしれないということであります。 　あとは、出ていましたが、電力ですね。電力をとにかく確保するということも通じて、日本が、いわゆる最近の経産省的言葉をかりますと、どうやってもうけたらええねんという世界のところで、いよいよ日本が、大分遅れていましたが、何とか大逆転できるかもしれないというところでありますが、しかし、今日の参考人からありましたように、大変厳しいですねというところではあったんですね。 　ただ、やはり、ここで大逆転させるための第一歩の法律がここであり、そして、今回、法案では、国の責務、地方自治体の責務、それで民間事業者の責務、そして国民の責務ということになりまして、この国民の責務なんです。 　国民の責務というのがあります。いろいろ今立憲さんでも検討されて、なぜかここで国民の責務になっているけれども、国民の努力じゃないのかという議論をされていると思いますので、これまた立憲さんからいろいろあると思いますが。いずれにしても、とにかく努力をしてくれと、協力するように努めることとすると、国民が。一体何を協力すればいいんでしょうか、大臣。

○城内国務大臣　お答えします。 　先ほど今井委員からも御質問がございました、第八条に表題で国民の責務ということが書かれておりますが、ＡＩにつきましては生産性の向上や労働力不足の解消などに大きなメリットを持つことが見込まれる一方で、偽情報、誤情報の拡散や犯罪の巧妙化を目的としたＡＩの悪用も、これも顕在化しております。 　やはり、このようなＡＩのメリットやリスクについて、国民の皆様に理解そして関心を深めていただくことが不可欠でありまして、むしろ、逆に全然理解していないと、いろいろなトラブルに巻き込まれたり、あるいは意図せぬ加害者になったりすることもあり得るわけであります。 　そしてまた、現在のＡＩは、間違った情報や意図しない情報を出力することもあるため、不適切な方法でＡＩを使うことで被害者になったり、場合によっては今言ったように加害者になってしまうということもあります。 　これを防ぐためには、やはり、国民の皆様には、国や地方自治体が実施する施策に可能な範囲で、それぞれの方々が、一律にこうしろではなくて、それぞれの方々のお立場の可能な範囲で御協力をいただきたい、そういう趣旨でございます。 　具体的な例を挙げますと、例えば、地方自治体が業務効率化に向けてＡＩを活用した行政サービスを展開する場合には、当然、従来とは異なった、今まで窓口で人を介してやっていた手続になると考えておりましたけれども、違う形になりますので、住民の皆様に、今後はＡＩを通じて窓口業務のこの部分に関してはやらせてもらいますよという形で、理解と御協力をいただく必要が当然あるわけでありまして、そうした観点から、法案に規定する、こういったことが一つの例だというふうに挙げられます。 　ただ、もちろん、この協力に当たっては、繰り返しになりますけれども、各人のそれぞれの立場で、実施できる範囲で、自主的に対応していただくものであり、この法案にある国民の責務とは別に、第四条の国の責務、第五条の地方公共団体の責務、同じ責務でも、国民の責務と、今言った国と地方公共団体の責務とは、これまた違うというふうに理解しております。

○市村委員　ありがとうございます。 　いわゆる国民のＡＩリテラシーを高める、こういうことなんだろうと思います。 　もちろん、国民がリテラシーを高めるのも大切であると思います。さっき教科書、それこそ中学校の教科書で、テレビの時代は一億総白痴化時代だということで、要するに、テレビで流されている情報をうのみにしちゃいけないということが中学校の教科書に載っていたような記憶がありますが。 　要するに、国民に啓発、啓蒙活動ということでやろうとされているんでしょうけれども、恐らくテレビよりも、このＡＩの時代は、非常に、ディープフェイクと言われるぐらいに、先ほども申し上げたように、うそか本当か分からない、何が本当か分からないという時代に、国民に、ちゃんと、あなた、考えて見抜きなさいよと言われても、なかなか多分難しいと私は思うんですね。 　だから、国民に協力を求める、ＡＩリテラシーを高めるというのは、自治体の窓口でこれはＡＩを使っていますということでお話をするのはいいと思うんですが、多分、ＡＩの時代というのは、何が本当かうそか分からない時代ですから、そこに、あなたの責任ですよと言われても、なかなか国民に対しては。 　それをちゃんと分かる人ももちろんいますけれども、全体的に、今の若い人たちは、今日の参考人でもありました、ＡＩの中で育つ子たちは、もうそれは当たり前のものとして受け止める世の中で育ち、生活し、働くのでいいのかもしれませんが。それでもどうかな。どこまでそれを、それこそフェイクの世界にずっと、まさに何か映画の世界じゃない、仮想空間の中にずっといるような状況になって、何が本当かうそか分からないところで生きている人間に、じゃ、それを見抜きなさいと言われても、もう難しい状況になると思います。 　だから、ここは、今おっしゃった意味での国民の協力ということであれば、もうちょっと考えていくべきかなと。もうテレビの時代とは、しかもテレビの時代でも、多分うのみにした人もたくさんいたと思うし、それがある意味での洗脳に近い状況になった可能性もゼロとは言いません。 　だから、是非ともここは、国民に協力を求める前に、ＡＩそのものが、さっきＡＩアライメントの話もさせていただきましたが、我々人間の社会規範に従わせるようなＡＩにしなければならない。だからそれは、ベビーＡＩに我々が何を教え込むのか、人類が何を教え込むのか、その人類の中でも特に我々日本人は日本人としてベビーＡＩに何を教え込むのか、これを考えておかなければならないのではないかと思います。 　日進月歩の状況でありますから、もう待ったなしでありますし、一年後とか二年後じゃないんです。もう二年後にはＡＩの情報が、我々のこれまでの有史以来というか、人類がこれまで生み出した情報を超えると言われているわけですから、是非とも、大臣、最後に一言、志といいますか、覚悟を示していただきたいと思います。

○城内国務大臣　ありがとうございました。 　今日の冒頭から、先生方の様々な貴重な御意見、そして、午前中には政府参考人による質疑もございまして、私も、全部ではありませんけれども、八〇％ぐらい拝見させていただきまして、非常に勉強になりました。 　あくまでも内閣委員会は国会の場ですから、今日の市村委員、そしてほかの委員の、これまでの、そしてこれからのいろいろな答弁ややり取りを通じて、しっかりこういったことが生かせるようにしたいと思いますし。 　やはり、基本は、私自身も市村委員と、前回もそうですけれども、全く考え方を同じにするのは、恐ろしい未来が展開されないように、要するに、ＡＩが人間をコントロールして、何かＡＩがルールを作って、人間はそのＡＩに働かされて、人間がもぬけの殻で、情緒も何もなくなって、ただ動いていくみたいな、そういうことに決してならないように。 　やはり、日本人は日本の、日本語、文化、情緒、こういうものを大事にしながら、それぞれの、共通言語ももちろん英語なんでしょうけれども、日本語でしっかり入力して、日本の伝統文化、情緒、感性なんかも、ＡＩが、例えば外国人に、わび寂と言ったら、英語で説明するだけじゃなくて、何かお茶とか風景とか画像で、これだって。今、それが非常に広まっているので、外国人もだんだん日本の情緒が分かるようになってきているので、逆に言うと、そういうＡＩも活用しながら、日本の伝統文化も理解していただくようなことも十分できるんじゃないかなと思いますので。 　いずれにしても、人間中心のＡＩで頑張ってまいりますので、よろしくお願いします。

○市村委員　終わります。ありがとうございました。

○大岡委員長　次に、石井智恵君。

○石井委員　国民民主党・無所属クラブの石井智恵です。 　まずは、先日開幕をしました大阪・関西万博を議題としまして、大規模イベントにおけるＡＩ活用という観点からお伺いをしたいと思います。 　四月十二日の開会式、私も出席をさせていただきました。大臣も参加されたということでありますが、本当にすばらしい演出でありました。 　さらに、翌日の開幕初日も、万博の状況を視察するために、一般の来場者の方と同じように、九時の予約チケットを事前に購入をしまして、会場に行きました。実際に自分が行かないと分からないんじゃないかなというふうに思いまして、実際に行ってまいりました。 　私は、大阪・関西万博は、特に、これからのデジタル化や、またＡＩの活用が更に加速していくというふうに期待はしております。しかしながら、実際に初日に会場に行きますと、特に運用面などで多く課題がありまして、大規模イベントにおける日本のデジタル化の遅れを露呈することになってしまったのではないかというふうに思っております。早急に対策を講じていかなければならないというふうに思いまして、今回議題として掲げさせていただきました。 　まずは、開幕初日の会場の状況でありますが、当日は、大阪メトロの地下鉄に私も乗りまして夢洲駅まで行きましたが、報道でありましたとおり、駅に降りると、駅の中は大混雑でありました。東ゲート前にはもう既に長蛇の列で、ゲート入口が見えない状況でありまして、並んでいる方々は私と同じ九時の予約でありましたけれども、皆さん、本当に九時に入れるのかということを心配されておられました。 　そういった中で、アナウンスもほとんどなかった中で、雨の中ずっと待っているという状況で、入場に長時間かかった方もおられました。入口では、やはりネットがつながらないということでＱＲコードが表示できないという方の声もお聞きをいたしました。 　また、大雨が降っておりましたので、かなり皆さんずぶぬれになっておりまして、退場も早くされた方も多くいらっしゃって、十四時にはゲートの前はかなりの混雑で、しかしながら、ゲートの数が、一本しか出られないということで、本当に混雑をされていまして、高齢者の方や小さなお子さんを連れた方は本当に大変だったのではないかなというふうに思っております。 　また、会場内ではスマートフォンの充電をする場所がなくて、実際、会場の一番端っこにあるモバイルバッテリーを購入するショップに行って購入しなければならないということでありまして、やはりスマートフォンが必須のこの万博において、会場で充電ができないというのは非常に致命的ではないかなというふうに思いました。 　デジタル化というのは、今、日本でも進めておりますけれども、やはり国民はまだそこについていけていないということであります。そういった中でのデジタルの運営にはやはり限界もありますので、アナウンスなどを効率的に行って、また誘導するサポートも必要だというふうに感じました。 　長蛇の列ができていたということから、並ばない万博というのは、やはりほど遠い状況であったなというふうな感想を持っております。 　ＪＲの東海では、万博期間中、新大阪駅において、混雑対策のためにＡＩを活用していくということで、過去の駅データから改札ごとの人流を予測して、駅員を効率的に配置をしていって雑踏事故を防ぐというようなことをやっていくという報道がなされております。 　ＡＩを活用して混雑管理というのは既に可能な状況でありまして、例えば、ドローンや、またＩｏＴセンサーを活用して、ＡＩが会場の中の人流をリアルタイムに分析をして、そして出口を追加をしたりとか、混雑を解消するということはもう既にできますし、また、ＡＩチャットボットで、二十四時間体制で来場者の方の質問に、リアルタイムでトラブルに対応するということももう既に可能だというふうに思います。また、緊急時の異常検知システムというものを使って、例えば、群衆の異常な動きや叫び声を検知して、すぐにスタッフにアラートを送信するということはもう既に可能になっております。 　こうやってＡＩを活用して運営していくことによって、効率的に人の流れを管理をして、並ばずにイベントを楽しむということにつなげていくことで、この恩恵を国民が実感することで、やはりＡＩは本当にすごいな、ＡＩを推進していくべきだということにつながっていくのではないかというふうに思います。 　政府として、今回の万博の混雑をどのように受け止めて、改善していかれるのか、また、ＡＩの活用も含めて、現時点での対応を教えていただけますでしょうか。

○茂木政府参考人　お答え申し上げます。 　まず、四月十三日、御来場いただきまして、ありがとうございます。 　四月十三日の開幕日でございますが、この日は十四万人を超える入場者の方がいらっしゃいました。 　今委員からも御指摘がございましたが、東ゲートの入退場の際にかなりの混雑が発生いたしまして、朝の九時の時点では、最大一時間半ぐらい入場にお時間がかかったというところもございました。また、パビリオンの待機列なども発生しておりまして、こうした課題を一つ一つ解決をしていきたいというふうに思っております。 　多くの方がスマホを使ったデジタルチケットで御来場されておりまして、当日はブルーインパルスの飛行も予定されていたこともありまして、会場にお越しにならない、ブルーインパルスを見に来た方が二万人ぐらいその近辺にいらっしゃいまして、この方が一斉に動画を御覧になっているということもありまして、かなり通信が、トラフィックが大変混雑しまして、十分じゃなかったということで、今、入場ゲート前で移動基地局の増設ですとか、それから基地局の増設なんかもやっております。これによって、人が集中したときもしっかりとスマホが開ける。そうしないと、チケットがなくて入れないということがありますので、こうした対応を取っております。 　それから、会場内の混雑の状況なども、的確にやはりお客様にお知らせする必要があると思っております。 　これは、ＥＸＰＯ二〇二五ビジターズというアプリがございますが、このアプリの中で、来場者の方に混雑の状況ですとか場内の情報というのは出しておりますので、ここの精度をしっかり上げていくということがポイントかと思っています。 　それから、来場者の方に、あらかじめ体験したいイベントですとか興味のある分野などを入れていただきますと、これを基に一日の周遊プランですとか、そのときの混雑状況を踏まえて、こう回ったらいいよというような、レコメンドみたいなものもさせていただくようなアプリも用意しておりますので、こうしたものをしっかり充実させることで、こういうデジタル技術も使いながら、来場いただける皆様の満足度を高めてまいりたいというふうに考えております。

○石井委員　ありがとうございます。是非対策をしていただけたらと思います。 　今回、万博へ行きまして、目玉となっておりましたあの大屋根リング、木造の建築でギネスにも登録されたということでありまして、この大屋根リングに用いられている木材でのＣＬＴ工法は、私の地元である西条市の会社でもやっておりまして、日本の技術を広めていく機会にもなりまして、やはり午前中の参考人の質疑の中でもありましたけれども、ＡＩと日本の物づくり、このことを世界にも発信していけたらなというふうに期待をしております。 　今後の大規模イベントのＡＩの活用の展望について、今後どうしていくのかについて、大臣にお伺いしたいと思います。 　大規模イベントにおいてＡＩを活用したサービス、例えば、社会実証実験などをしていって、効果測定をして、そして多くの学習データを集約、収集していくことで非常にいいＡＩができてくるというふうに思います。特に、大規模イベントにおいては多くのデータを収集されることから、やはり未来に向けてのサービスのアップデートや、ほかのイベントへの横展開なども可能なことになってくると思います。 　私の地元松山市では、毎年、三津浜花火大会というのがありまして、二十万人ほど、本当にたくさんの方が集まる大イベントなんですけれども、これに向けて、混雑の解消のために、ＡＩカメラとデータの連携基盤を活用して、混雑検知の実証実験を一昨年行いました。これによって、大規模なイベントなどの人出について、会場の周辺、例えば、花火大会終了後の最寄り駅までの混雑状況をリアルタイムに測定をして、可視化をして、駅までの所要時間、到着時刻を予測して、そして乗車可能な列車の候補の通知が行えるかということを検証いたしました。 　この検証の結果、混雑し始める時間帯や混雑する区間、そしてまた電車の発車時刻に応じた混雑を緩和される状況が見える化されて、最適な発車間隔や交通規制、係の配置などが、適切に誘導方法としてできるということが確認をされました。 　こうやって、様々これからイベントがある中で、ＡＩを使っていかに人の流れをスムーズにしていって、そしてまた混雑によって事故とかが起きないようにしていくことも必要だと思うんですが、今後のイベントにおけるＡＩ活用についての展望を大臣からお聞かせいただけますでしょうか。お願いいたします。

○城内国務大臣　今、石井委員から、お地元の混雑検知の実証実験ですか、大変興味深く聞かせていただきました。万博もそうですが、万博のような大規模イベントにおいてＡＩが活用され、ＡＩに係る具体的な活用事例が将来のためにしっかり蓄積されるとともに、そのような機会を通じて広く国民の皆様にＡＩの有用性、ＡＩの利便性、これが知られていくことは、今後のＡＩの利活用を推進する上で大変重要だと思いますので、繰り返しになりますけれども、大変関心を持って聞かせていただきました。 　ＡＩ法案においても、国は広報活動の充実等に取り組むこととしておりまして、政府としては、今後、大規模イベント等におけるＡＩの利活用が、御指摘も踏まえまして、しっかり進むよう、積極的に働きかけてまいりたいと思います。 　そしてまた、例えば、ＡＩの活用事例をイベント等を通じて、イベントにもＡＩを活用すると同時に、イベントにおいてもＡＩのいろいろな活用事例を広報することで、有用性、利便性をしっかり国民の皆様に実感してもらうことが必要でありまして、こういったことについても、関係省庁とも緊密に連携をしながら実施してまいる考えであります。

○石井委員　ありがとうございます。是非今回の教訓を生かして進めていただきたいというふうに思います。 　次回の万博はサウジアラビアのリヤド万博でありまして、私もサウジアラビアのパビリオンにも伺いました。次回の開催ということで、本当に力が入っておりましたし、日本の万博をよく勉強して参考にしていきたいというふうなことをおっしゃっておりました。中東との交流も今後盛んになってくることを期待をしております。よろしくお願いいたします。 　次に、今回の質疑でも度々取り上げられておりましたディープフェイクポルノのことについて、私からも質問をさせていただきたいと思います。 　このディープフェイクポルノについては、生成ＡＩを使用して、実在する人物の顔部分をすり替えて性的な画像や動画を作成するというものでありますが、特に、子供が被害者になったり、また子供が加害者になるというケースも出てきておりますし、大きな社会問題になっております。 　そして、昨日のニュースでも、生成ＡＩで作成したわいせつ画像を販売した二十代から五十代の四人が逮捕されたというニュースも報じられておりました。警察庁によりますと、生成ＡＩで作成したわいせつ物の販売が摘発されたのは全国初ということでありまして、こうやってＡＩを使った犯罪はこれから更に急増することが予想をされております。 　ＡＩの悪用を抑止していくための対策として、やはり被害窓口の設置、そしてディープフェイクポルノの拡散をされた場合の救済措置、また、先ほども話がありましたけれども、電子透かし技術による、フェイクニュース、また偽情報の拡散を抑制したり検知をする対策というものが必要だと思います。ＡＩに対してまたＡＩで未然に防止をするということも、これからＡＩの開発には本当に必要じゃないかなと思います。 　特に、自分の家で作るのは自由かもしれませんけれども、これをネットに流出させて拡散をするということがやはりすごく問題だと思うんですね。そういういかに拡散をされないようにしていくか、いかに早く検知をして、早く未然に削除するとか防止をするということが私としては一番大事なんじゃないかなというふうに思うんですけれども、このことについて、大臣の御見解をお聞かせいただけますでしょうか。よろしくお願いします。

○城内国務大臣　お答えします。 　ディープフェイクポルノの問題については、これまで各委員からも累次にわたり御質問、御指摘がございまして、これは、本当に御指摘のとおり、大きな社会問題になっているというふうに思っております。 　いずれにしましても、ＡＩを悪用した事案に対しては、各種制度等を所管いたします関係府省と連携してしっかり取り組むことが重要だというふうに認識しております。 　本法案が成立した暁には、従来になかった強力な体制として、これまでも何度も述べておりますけれども、総理大臣をトップ、本部長として全ての閣僚によって構成されるＡＩ戦略本部を内閣に設置することによって、ＡＩ政策の司令塔機能を強化することが可能となります。これにより、総理の強いリーダーシップの下で、全ての関係府省がこれまで以上に密接に連携することが可能となります。 　そうした中、関係府省庁が適切に役割分担をしながら、ディープフェイクポルノを始め、ＡＩに起因する様々な課題について迅速かつ適切に対処をすることになりますが、いずれにしましても、御指摘のありました検知する方法とか、削除をするとか、救済措置をどうするか、こういったことは、省庁の垣根を越えて、しっかりと省庁で連携して情報収集をしながら、表現の自由とかいろいろな問題もありますので、そういった中でどういう対応ができるかということを迅速かつ適切に取り組んでいく考えであります。

○石井委員　ありがとうございました。是非取り組んでいただきたいと思います。 　時間が参りましたので、終わります。ありがとうございました。

○大岡委員長　次に、菊池大二郎君。

○菊池委員　国民民主党・無所属クラブの菊池大二郎でございます。 　午前中の参考人質疑の際に、有志の会の緒方先生が、我々の業界が一番ＡＩからほど遠いのではなかろうかというような御指摘がありましたけれども、私もその中の一人かなと思いながら拝聴しておりましたが、諸先輩方、委員の先生方の質疑、そして大臣の御答弁をこれまでも拝聴しながら、少しずつ私も脱皮をしつつあるかなという思いでおりますけれども、今日もいろいろと質疑をさせていただきたいというふうに思いますので、よろしくお願いいたします。 　先ほどの午前中の参考人質疑の中で、たしか田中参考人だったと思いますけれども、国民の理解を醸成していく、また、ＡＩというものを、事業者も含めて周知、理解を図っていくという中で、口コミが大事じゃないかというような話があって、なるほどなと。 　私も、先週末に地元に帰って、山形の中山間地域で、まだ雪も残っているところですけれども、公民館に、およそＡＩというものからはほど遠い世代の方だったかなというふうに思いますけれども、私がこんな質疑をしましたと。データセンターが必要ですよねとか、電源の確保で、脱炭素電源が地方に偏在しているというところも含めて、ＡＩというのが一つ起爆剤になって新しい地方創生につながるんじゃないかなという話を、口コミではないですけれども、話をしたら、ある方から、山形って、ここら辺、済みません、ちょっと方言が出てしまいましたけれども、この辺は地盤が強いんだというような話と、あと、これだけ雪があるんだから、きっとその設備とかいろいろな施設というものの冷却とか、そういったところに雪が生かせるんじゃないかなという話を、全く想像していなかった方からそういう御意見をいただいたというのは、まさに口コミというか、いろいろな話をしていくということが重要だなというのを地元に帰って改めて気づかされました。 　先ほど我が党の石井先生からも画像生成ＡＩのお話もありましたけれども、先日、私もジブリ風の画像生成ＡＩに関して質問をさせていただきました。文化庁が所管になると思いますけれども、令和五年著作権法の改正に伴って、未管理著作物裁定制度というものが来年度から始まるということで、今、周知を図っておられると思います。 　どういった内容かというと、集中管理がされておらず、その利用可否に係る著作権者の意思が明確でない著作物について、文化庁長官の裁定を受け、補償金を支払うことで時限的な利用を可能とするということです。申請をして、制作者の意思、意図を確認をしながら、文化庁が、文化庁長官による裁定、そしてまた、興味深いのが、補償金額を決定をして、補償金の支払いが確認されれば利用が開始できるというような制度になっておるんです。 　これは、いわゆる著作権の普及啓発もさることながら、クリエーターの保護も含めて、関係者の理解を深めていく一つの制度運用が期待されるんだろうというふうに思いますけれども、この補償金の決定をどういう形で行っていくのか、その辺も併せてお伺いしたいと思います。

○中原政府参考人　お答え申し上げます。 　御指摘を頂戴しました未管理著作物裁定制度につきましては、令和八年春頃の制度開始に向けまして、必要な政省令の改正などを行うとともに、著作権者の側にも、あるいは利用者の側にも十分な周知を行っていく必要があるというふうに考えております。 　具体的には、この制度の趣旨や対象となる著作物、活用イメージなどについて分かりやすい資料を作成しまして、ＳＮＳなども活用しながら周知に努めてまいりたいと存じます。特に、著作権者側に対しましては、この制度のメリットをお示しするとともに、この制度による利用を望まない場合には、自身が創作した著作物について、利用ルールなどを自身のホームページなどに明記いただくことで裁定の対象外となることなどをお示ししているところでございます。 　また、この制度により裁定された場合に利用者が納める補償金の額につきましては、著作権等管理事業者などの定める使用料規程などを参考にしながら、同種の著作物を利用する場合の使用料を踏まえて適正な金額を算出することとなるというふうに考えてございます。 　文化庁としましては、委員の御指摘も踏まえまして、著作権者等の意思を尊重しつつ、新たな対価還元の機会を創出し、コンテンツ創作の好循環が実現されるように、本制度の施行に向けて丁寧に準備を進めてまいりたいと存じます。

○菊池委員　先日の質疑で、城内大臣にも、コンテンツ産業の強化というところが極めて重要だというところも併せると、大変興味深いんですよね。文化庁さんが対価を決めるというか、補償金を決定するというものが、これから成熟した制度運用というのが期待されるわけでありますけれども、クリエーターの処遇改善だったりとかクリエーターの発掘、そしてまたクリエーター同士の一つの化学反応につながっていくような、そういったところも非常に重要になってくるのかなというふうに思います。 　続いて、これも同様に国内規範の形成というところで、総論的な話になります。 　午前中の参考人質疑にもありましたイノベーションの促進と規制というのは、これは本質的に緊張関係にあるんだろうなというふうに私なりに理解をしております。この推進法において、理念的な表現が多くて、実際の運用でどちらに傾いていくかというのは、これはまたその時々によっていろいろな作用が発生するんだろうなというふうに思いますが、ＡＩのあるべき姿を果たして誰が決めるのかというのがいまいち曖昧かなと理解をしております。最終的にＡＩをどうあるべきとするのか、その規範的な判断基準だったり、そもそもの主体性が不明確なところがあるかなというふうに思っております。 　現状、政府は関係機関等との連携に重きを置いておるわけでありますけれども、抽象的なガバナンス像ではないかなという懸念もございます。政府の調査検討について、一体主体はどこで、そしてまた調査権の範囲を始め、具体的なイメージが共有できていないというような印象も受けます。 　また、先ほど議論にもありましたけれども、有識者会議等の関与の在り方、これは体系的な位置づけというところも含めてですけれども、例えば、先般この内閣委員会でも審議しましたけれども、能動的サイバー防御に関して言えば、議論の背景が違うので、純粋に例えるのも大変失礼かと思いますけれども、整備に関する部分においては、有識者会議に相当するサイバーセキュリティ推進専門家会議があって、そしてまた、政府の運用をチェックする独立機関であるサイバー通信情報監理委員会のように、法定化されて、また体系化されているというものとは若干違うのかなと思っております。 　そこで、民主的正統性や倫理的正統性を担保する独立的な管理組織の必要性を始め、国民レベルでの理解、意識の醸成を図るために、国内規範形成の主体の明確化、いわゆる司令塔及び関与する組織の法的、体系的な整理、これは意思決定のプロセスも含めてでありますけれども、こういったところを整理をして、今後、基本計画にどう反映していくのかをお伺いできればと思います。

○城内国務大臣　菊池委員の御指摘、これは大変重要な御指摘だというふうに認識しております。 　本法案では、ＡＩ政策の司令塔として、内閣に、総理大臣を本部長として全閣僚から構成されるＡＩ戦略本部を設置する、これはこれまでも何度も繰り返し述べておるところですが、同時に、有識者会議についてもＡＩ戦略本部の下に設置することを検討しておりまして、その中で、ＡＩ技術、法制度、それ以外にも倫理とか、様々な分野の専門家の意見をしっかり聞くことができる体制を新たに構築したいというふうに思っております。今まではＡＩ戦略会議、ＡＩ制度研究会がありますが、新しい、よりパワーアップした有識者会議体をつくる考えであります。 　そしてまた、本法案の提出に先駆けまして、昨年十二月には、関係省庁の局長級から構成されます、これも先ほど答弁で申し上げたと思いますが、ＡＩ戦略推進関係省庁会議を十二月に立ち上げまして、今後は、このＡＩ戦略本部の下にしっかり位置づけて、省庁の垣根を越えて迅速に情報共有をしながら対策を練っていくというようなことを考えております。 　委員御指摘の本法案に基づく調査研究につきましては、ＡＩ戦略本部の事務局を担います内閣府が関係省庁と連携して行うことを想定しています。調査研究を行うに当たりましては、先ほど申し上げました有識者会議、その中には、繰り返しになりますけれども、様々な分野の専門家も入っておりますので、その方々の専門的な知見に基づく協力をお願いし、意見を聞く体制を構築いたします。 　また、得られた調査結果につきましては、ＡＩ戦略本部、有識者会議、そして三つ目は、今言った局長級の関係省庁会議等の会議体で報告し、政府全体で問題意識を共有することが重要だと考えております。 　いずれにしましても、委員の御指摘も踏まえて、しっかりと適切に対応していく考えであります。

○菊池委員　最後に一点だけ質問させてください。 　研究開発等への投資を誘発していくために、国としてどういった対策を講じていくお考えか。 　本日の報道でも、経産省がＡＩ研究について重点支援をしていくというような報道もありましたけれども、我が国が優位性を発揮できる部分はどこにあるのか、そういったところを整理をしながら、投資を呼び込むためのインセンティブを示していくことも必要ではないかと考えますが、いかがでしょうか。

○城内国務大臣　お答えします。 　御指摘のとおり、投資を呼び込むそのインセンティブというのは非常に重要でありまして、我が国のＡＩ分野におきます国際競争力の確保、そのためには、当然、民間投資の充実を図っていくということは大事で、御指摘のとおりだと思います。 　そのためにも、具体的に、内閣府においても研究開発プログラムを進めておりまして、これはＡＩに特化したものではないんですけれども、ＳＩＰ、いわゆる戦略的イノベーション創造プログラムがございまして、ここで、民間企業の積極的な投資を呼び込みつつ、府省連携で基礎研究から社会実装まで見据えた一気通貫の研究開発を推進しております。もう一つ、研究開発とソサエティー五・〇との橋渡しプログラム、ＢＲＩＤＧＥというのもございまして、今後の官民研究開発投資の拡大が見込まれる領域については、研究開発成果の社会実装を加速する取組を推進してきているところであります。 　いずれにしましても、内閣府だけでもこうした取組もありますので、また省庁も含めて、ＡＩ分野における更なる民間投資の呼び込みが実現できるよう、関係省庁と連携して、しっかり取り組んでまいる考えであります。

○菊池委員　午前中の参考人質疑の中でも、既存の企業を、スタートアップも含め、チャレンジしている企業を応援していく、この既存の企業を奮わせていくという視点が必要になってくると思いますので、どうぞよろしくお願いしたいと思います。 　以上で終わります。ありがとうございました。

○大岡委員長　次に、上村英明君。

○上村委員　れいわ新選組の上村英明です。よろしくお願いします。 　この審議が始まったときには、本当に、私は天然知性という話をしましたけれども、ＡＩとはちょっとほど遠いなというふうに思っていたんですけれども、さっき黄川田委員がおっしゃっていたように、学習していくと、だんだんだんだんレベルが上がってきたなというふうに思っていて、案外、何か私も、うそをつくし、裏切るし、人間というのは元々ＡＩに近いのかなというふうなことも考え始めたという、とんでもない勘違いなんですけれども、そういうことを前提に、さくさくといきたいと思います。 　まず、ＥＵのＡＩ対策というものが午前中の話でも出たんですけれども、どちらかというとハードロー的な法規制を取るもので、日本は放任主義の強いアメリカとＥＵの中間的な位置を占めたいと城内大臣がおっしゃったというふうに覚えております。 　しかし、ＥＵのＡＩ法も、細かく見ると結構よくできているなと思うところがあるんですけれども、法規制の分野で細かい配慮があって、むしろ放任的な領域も認めています。例えば、リスク全体はレベルを四つに分けて、許容できないリスク、それからハイリスク、限定的なリスク、最小リスクという四つのリスクの分類をした後、それぞれに対応が違っているという、かなり柔軟な構造を持っているのではないかなというふうに思っています。特に、最小リスクの場合は、リスクの対応はほとんど必要ないということになっています。 　では、例えば、容認できないリスクというのはどういうリスクがあるかといいますと、これは八項目が挙げられているわけですけれども、例えば、意思決定を無意識のうちに操作するサブリミナル技術、こういうことがよくあるというふうな、聞かれたことがあると思いますけれども。 　それから、これは四番目なんですけれども、プロファイリングなどに基づく犯罪リスク評価と犯罪予測。これは何なのかというと、いわゆる冤罪事件を生んできたような捜査のやり方をＡＩがやるとこうなるということです。つまり、この人が犯人だろうという情報を集めて、犯人を逆に最初から特定するということです。 　それから、五番目ですけれども、インターネットあるいは監視カメラの映像を使った顔認証のデータベースの作成。六番目には、職場や教育における感情を推測するための感情認識、これはちょっとまだ私も理解できていないんですけれども。七番目には、人種、政治的意見、労働組合への加入、宗教又は哲学的信条、性的指向などのデータを集めて人間を分類してデータ化する。こういうことは禁止項目になっています。 　こうした八項目のＡＩシステムを使っちゃいけないという領域があるんですけれども、この領域はどういうふうな基準で選ばれたかというと、一つは、基本的人権の尊重です、そしてもう一つが、普遍的価値。この二つは、日本政府でいっても、安保三文書の中に、日本は世界でも進んだ民主主義国家であり、こうした価値は共有できるんだということは明確に書かれています。その意味では、こうした価値を共有することは日本では何ら問題ないのではないかなというようなことを思っています。 　ただ、若干違うのが三番目の原則でして、これは何かというと、ＥＵは厳しい規定を設けているんですけれども、この厳しさの背景にある判断基準は何かというと、予防原則というものです。 　ここにいらっしゃる方はちょっと記憶があるかもしれませんが、食品安全委員会の基準設定のときに、日本はこの予防原則を取っていない。つまり、何かあったときの被害は甚大なので、先駆けて厳しい規制を作るというのが予防原則の在り方なんですけれども、こうした基準の下に先ほどの容認できないリスクというものが設定されているということがあります。 　先ほど、午前中の委員会でもお話があったんですけれども、やはり変化が激しいＡＩの世界ということは言えているんですけれども、それにも増して、逆に言えば、先手先手で予知していくということがむしろ日常的に行われないとこの世界に対応できないのではないかという専門家の御意見を午前中は伺いました。 　その意味でいけば、やはり容認できないリスクのようなものを日本もきちんとこうした法案に書き込まなくちゃいけないんじゃないかというふうなことを考えるんですけれども、城内大臣の御見解をお伺いいたします。

○城内国務大臣　お答えします。 　ＥＵについては、御指摘のとおり、ＡＩのリスクに基づきまして四つのランクに分けまして、最上位の容認できないリスクを持つＡＩシステムは禁止されておりますし、二段階目のハイリスクなＡＩシステムを扱う事業者には基準遵守義務が課されているということになっております。 　ただ、この点、我が国におきましても、例えば個人情報を無断で収集、利用するようなＡＩの提供は違法でありますし、また、ＡＩ利用の有無にかかわらず、基準を遵守していないＡＩを使った自動運転の自動車とか、あるいはＡＩを使った医療機器の販売、これらは、いわゆる業法である自動車の運送に関連する法律とか薬機法とか、こういったもので規制されているところであります。 　また、ＥＵのＡＩ法の次のパートでは、汎用ＡＩに関する規制として、透明性要件の遵守や技術文書の作成などを義務づけ、違反した場合の罰則を設けているということになっております。 　この点に関しては、日本のＡＩ法案では、汎用ＡＩに該当するようなものに対しては、国際的な規範に即した指針の整備を通じて、事業者による適正性確保のためのリスク評価等の自主的な取組を促すこととしております。 　いずれにしても、それぞれの各国によって法体系とか法制度が違いますし、その歴史、商習慣、文化等の違いに起因しておりまして、国によって様々な体制が構築されております。 　我が国としては、ハードローかソフトローかという二分論ではなくて、それぞれのメリット、デメリットを考慮して、組み合わせながら適切な対応を講じることが重要であり、我が国にとって今般のＡＩ法案は最適な内容であるというふうに思っておりますし、実際、当然、有識者の会議の中でも、ＥＵのいろいろな規制もしっかり検討した上で、我が国としては現時点でこういう法案の内容が最適であるということで、今御審議いただいているところでございます。

○上村委員　どこに落とすかという、ハードローかソフトローかという話はあるんですけれども、アメリカもヨーロッパも、例えば基本的人権とか普遍的価値に関してはかなり共有されているんですけれども、日本がちょっと怪しい段階の中で、どこに落とすかの議論が先走っちゃうというのは、少し、大丈夫かなと思っちゃうんですけれども、政府参考人としてはいかがでしょうか。

○渡邊政府参考人　お答え申し上げます。 　少しダブってしまいますけれども、まず、ＥＵの法律は大きく二つに分かれていまして、その片方は、四つのリスクに分けて、高いレベルのものは禁止、次のものはハイリスクということで、段階に応じてということでございます。 　日本の場合は、ＡＩ法でということではないんですけれども、要は、ＡＩを使っているか使っていないかにかかわらず、リスクの高いものについては禁止をされている、あるいは規制をされているということで、それは、先ほど来ありました個人情報保護法に違反するようなものですとかは当然禁止ということになりますし、機械安全ですとか、あるいは差別を生むような、そういうものについては、これも本当にＡＩを使っているか使っていないかにかかわらず、規制をされているというふうに理解をしています。 　しかしながら、ＥＵはもう一つのパートがありまして、こちらの方は、生成ＡＩ、ＥＵの定義ではジェネラルパーパスＡＩという、汎用的なＡＩという定義をしております。ほとんど、多分、汎用生成ＡＩのようなものというふうに思いますけれども、これにつきましては、ＥＵの方は、御案内のとおり、罰金つきで基準遵守事項というのを定めているということになります。 　日本は、それに対して、罰金はないという形で、これから指針で遵守してほしいことを記述していくということであります。あるいは、国が必要に応じて調査をしたり指導したりということでございます。 　そういった意味で、厳密に比べますと、もちろんいろいろ違いはあるんですけれども、各国の制度が、各国のこれまでの法体系ですとか歴史とか商習慣とか、そういうものによって恐らく異なっているということだと思います。 　日本の場合は、やはり技術の速い変化ですとか新しい技術に適応していくというところを重視しまして、もちろん、リスクへの対応、これを迅速にやる、しかも広く捉えて迅速にやるということで考えておりますので、大臣から答弁申し上げましたように、今回の法案の形が最適ではないかというふうに考えております。

○上村委員　残念ながら、私は最適だとは思えないんですけれども。 　先ほど御答弁ありましたように、これが最初のＡＩ法だというふうなことはおっしゃられました、大事である。であれば、ＡＩの世界がどんな世界なのかということをやはり市民の目にちゃんと描くというのもすごく大事だと思うんですよね。 　この法案であれば、残念ながら、リスクの部分が、抽象的に、やりますと書いてあるんですけれども、よく分からない。我々、審議してみて、本当にこれは大変なことが起こり得るなということが分かった人間としては、こうした書き方で本当にいいのかなというのは思ってしまいます。 　第二点目に移りたいと思います。 　今回の質疑を聞いていても、ＡＩの開発、研究、活用にはＡＩ人材の確保が必要だという指摘を何度も伺いました。それに対しては、先ほどの、大学などの教育機関を使った人材育成が進んでいるという話を伺いました。 　ある意味では、それはそれでそのとおりだと思うんですけれども、例えば、城内大臣が時々おっしゃられるように、グローバルに通用するようなＡＩを開発するということであれば、グーグルとかマイクロソフトに匹敵する、あるいは凌駕するＡＩシステムを構築しようという目的の際に、現在の日本の教育制度で大丈夫かなということは、よく考えると、やはり懸念事項ではないかなというふうに思います。 　これは端的に申しますけれども、例えば台湾では、二〇二二年から二四年にデジタル担当大臣を務められたオードリー・タンさんという方がいらっしゃいます。彼は十四歳で中学を中退し、十九歳のときにシリコンバレーでソフトウェアの会社を設立し、三十五歳でデジタル担当の無任所閣僚として入閣されました。今日の午前中の参考人の中にも、田中邦裕さんは、十八歳で高等専門学校在学中にさくらインターネットを創業されたということがあります。田中さんの履歴とかを見ると、中学校卒業というふうに書いてあるんですよね。 　こういうふうな人材を育成するルートを開くという点では、現在の日本の、例えば暗記中心で画一化された教育制度で、こういう人材は確保できるのかなということを考えてしまいます。 　私が大学にいたときに、モスクワから女性の経済学者を呼んでシンポジウムをやったんですけれども、彼女はお母さんで、子供さんを連れて日本に来られたんですけれども、たまたま子供さんのお守り役を私がやっていたもので、小学生なんですけれども、モスクワ大学の数学科の学生でした。これは聞かれたことがあると思いますけれども、ソ連も含めて、その当時の社会主義圏では、技術や数学の分野に関しては、才能はもう小さいときから出てくるわけですね。 　そういう人たちがちゃんとした才能を伸ばせる環境をつくるという意味では、例えば、トップのそうした人材ということでいえば、飛び級とか、ある種、今の教育システムではないようなものをつくらなければいけないのではないか。それから、同時に、ある種の裾野を広げるという意味では、先ほどもどなたかがおっしゃっていましたけれども、学習指導要領の改訂が十年に一回でいいのかということもあります。十年先を考えると、それがどうなっているのかよく分からないという中でやって本当にいいんでしょうかということがあります。 　それから、同じ教育の面でいくと、これはよく聞くんですけれども、やはり教育組織のトップが全体を俯瞰したＡＩの世界についての理解がないと、子供たちがタブレットを使っているとか、使い方を分かったというレベルだけでは、多分、ＡＩ人材の育成にはそれほど役に立たないのではないかなという指摘もあります。 　例えば、本当に若い人がちゃんとデジタル担当大臣になるように、中学校、高校の校長先生は、最低限、全体のリスクも含めて、こうした問題についてすごく知見を持っている、こうした人材の登用とかですね。 　こういうことを考えるときに、日本の教育は現状でＡＩの世界に対応できるかというのを、ちょっと政府参考人にお尋ねしたいと思います。

○日向政府参考人　お答えいたします。 　現行の学習指導要領におきましても、情報活用能力、これを学習の基盤となる資質、能力として位置づけさせていただいております。また、高等学校段階におきましては、全ての生徒が学ぶ共通必履修科目としての情報１を設けるとともに、その培った基礎の上にデータサイエンスや情報システムなどについて学ぶ選択科目、情報２を設置できることとしており、生徒の選択の幅を広げるものとさせていただいております。 　また、特定の分野で特に優れた資質を有する生徒に早期に大学入学の機会を与え、その才能の一層の伸長を図るため、飛び入学制度も導入をさせていただいておりまして、千葉大学を始め理系分野でも実施されているところでございます。 　さらに、学習指導要領の改訂に向けましては、昨年十二月に文部科学大臣からの諮問を受け、中央教育審議会におきまして、生成ＡＩ等の先端技術等に関わる教育内容の充実のほか、情報モラルやメディアリテラシーの育成強化について御審議いただいておりまして、このような議論も踏まえまして、その充実方策について検討を進めてまいりたいと考えております。

○上村委員　これはある意味で日本の教育の質の問題にも関わるところなので、是非前向きにいろいろと御検討いただければと思います。 　最後の質問になると思いますので、どこまで行けるか分からないんですけれども、一応話をしておきますと、ＡＩ推進の周辺の部分でいろいろな動きがあるんですけれども、現在、同時並行で、例えばマイナンバー法の改正というのも国会審議の中で進んでいます。 　二〇一六年に始まったマイナンバーカードが、戸籍とか収入とか税金だったんですけれども、最近、医療機関とか薬局の利用などにひもづけられてきましたけれども、その後の改正で、今回、国家資格、例えば介護福祉士とか社会福祉士、精神保健福祉士、保険医とか保険薬剤師の資格の氏名変更とかデジタル資格者証の取得のようなところまで、どんどんどんどん広がっているということがあります。 　これは何を言いたいかというと、元々インターネットが出てきたときは、インターネットは分散型のシステムなんだと。これは、ある種、架空戦争を想定して、どこかの拠点がやられたときにどこでも自由に連絡できるよというシステムが元々だと思うんですけれども、だんだんだんだんＡＩとか生成ＡＩの世界になってきて、どうも情報が何か集中しているのではないかなという懸念、例えばマイナンバーにいろいろなものが集まってくる、こうした情報集中社会というものが、ある種の国家権力の強化にやはり結びつくのではないかなという懸念は、今回の法案で感じるところがあります。 　最後ですが、城内大臣にちょっとこの辺でコメントをいただければと思います。

○城内国務大臣　今、上村委員から、マイナンバーの制度を引用されまして、ＡＩを使って、何かいわゆる情報がどこかに集中して、それが権力の意のままのように使われるんじゃないかというような御懸念の御指摘がありましたけれども、私は、決してそういうことじゃないと思います。 　日本は民主主義国家でありますし、また、たてつけといたしましては、総理の強力なリーダーシップの下で、総理を本部長としてＡＩ戦略本部をつくって、そしてまた、新たな有識者の会議体ができて、いろいろな意味で意見もいただきながら、関係省庁との連携を通じて、ちゃんと、いろいろなステークホルダーがおりますので、チェック・アンド・バランスでは問題ないと私は思います。 　また、この問題についてそういった御懸念があることも今お聞かせいただきましたので、そういった懸念があるということ自体がこの内閣委員会で取り上げられましたので、そういうことのないようにしっかりと取り組んでまいる考えであります。

○上村委員　ありがとうございました。 　多分、権力の集中というのは、意図するかしないかにかかわらず、結果的にそういうふうな構造をつくってしまうということが大きな問題ではないかなと思いますので、また今後とも、そうした問題でお話をしたいと思います。 　どうもありがとうございました。

○大岡委員長　次に、塩川鉄也君。

○塩川委員　日本共産党の塩川鉄也です。 　ＡＩ推進法案について質問します。 　今日は、まず、ＡＩによるプロファイリング、またスコアリングの問題について質問をいたします。 　二〇一九年に、リクナビを運営するリクルートキャリアが、就活生のサイト閲覧履歴などの情報をＡＩで分析し、約九万人の内定辞退率をスコア化し、本人同意なく採用企業に販売していたことが大問題となりました。企業によるＡＩを用いたプロファイリング、スコアリングの利用実態が明らかになった事件の一つであります。このことが、学生たちの就職活動、人生に不利益となる影響を与えてしまった可能性は否定しようがないと思います。 　時事通信が主要企業百社に行った調査結果によると、採用活動でＡＩを導入する企業は約三割に上っておりますが、雇用や採用選考は人生を左右するような重大な判断であり、労働者や採用希望者に不利益がもたらされることがないよう、極めて慎重な対応が必要であります。 　質問します。 　ＡＩによる評価、分析のバイアスについてお聞きします。 　政府が取りまとめた人間中心のＡＩ原則では、ＡＩに関するバイアスにはどのようなものがあると記載をしておりますか。

○渡邊政府参考人　お答え申し上げます。 　ただいまの人間中心のＡＩ社会原則は二〇一九年三月に策定されたものでございますけれども、この中では、書いてあることをそのまま申し上げますけれども、ＡＩの長所、短所をよく理解しており、とりわけＡＩの情報リソースとなるデータ、アルゴリズム、又はその双方にはバイアスが含まれること、これらを認識する能力を人々が持つことが重要とされております。 　また、データのバイアスには主として三つございまして、一つは統計的なバイアス、二つ目は社会の態様によって生じるバイアス、三つ目はＡＩ利用者の悪意によるバイアス、この三種類があることを認識していることが望ましいというふうにされております。

○塩川委員　そのようにＡＩによるバイアスの指摘があるところです。 　実際、アメリカのアマゾンは、開発したＡＩを活用した人材採用システムに女性を差別する機械学習の結果が判明をし、運用を取りやめたという例もあります。ＡＩが学習したデータが男性が大半である過去十年間の応募者データであり、男性の応募者の方が有望、女性は低く評価すると学習してしまったために起こったと報じられています。 　また、ＡＩには、判断の過程や根拠が不透明であるブラックボックス化という問題もあります。 　お尋ねしますが、ＡＩ事業者ガイドラインでは、ブラックボックス化の事例としてどのような事例を紹介していますか。

○渡邊政府参考人　お答え申し上げます。 　ＡＩ事業者ガイドライン、これは総務省と経済産業省が策定しているものでございますけれども、これの本体というよりは別添になりますけれども、別添に記述がございますので、読み上げをさせていただきます。 　「ＡＩの判断のブラックボックス化に起因する問題も生じている。とあるクレジットカードにおいて、同じ年収を有する男性及び女性に対して、女性の方が利用限度額が低いとの報告がＳＮＳ上で広がった。この問題に対し、金融当局が調査を実施し、クレジットカードを提供した企業に対してアルゴリズムの正当性の証明を求めた。しかし、企業はアルゴリズムの具体的な機能及び動作について説明することができなかった」という記述がございます。

○塩川委員　説明することができなかった。ＡＩの利用には、バイアスやブラックボックス化という差別や不利益につながる深刻な問題があるということであります。 　国内でも、既にＡＩによる人事評価が問題となっています。 　その一つが日本ＩＢＭでありまして、日本ＩＢＭが人事評価と賃金決定にＡＩを導入したことに対して、同社の労働組合でありますＪＭＩＴＵ、労働組合ＩＢＭ支部が、ＡＩの学習データやＡＩが表示するアウトプットの内容などの開示と説明を求めたところ、同社はこれを拒否しました。 　労働組合は、不当労働行為である不誠実交渉だ、支配介入に当たるとして、二〇二〇年に東京都労働委員会に救済を申し立てました。四年の交渉を経て、二四年八月、ようやく事業者側がＡＩによる評価項目を全開示することなどで和解をしたということであります。 　労働組合は声明で、社会の様々な領域でＡＩの利用が進む一方、社会に残る差別をＡＩが学習して再現したり、判断過程がブラックボックス化して理解不能に陥るなどの弊害が指摘されている、企業が人事管理にＡＩを利用する場合、公正性と透明性の確保が課題となるが、法規制は進んでおらず、個々の労働者の努力には限界があると指摘をしています。 　また、組合の中央執行委員長は東京新聞のインタビューに、当時はＡＩが何を考慮するのか全く明らかにされず、どのような根拠で判断するかも見えない、そしてその結果も知らされないという状態だった、もしかしたら組合員であることが影響するかもしれないと問題点を指摘しておりました。 　ここでお尋ねしますが、ＡＩによる評価、分析は、バイアスがかかるという問題や、その過程や根拠がブラックボックスである問題があります。採用選考や人事評価などにＡＩを用いる事業者に対し、ＡＩのデータセットやアルゴリズム、ＡＩによる評価結果やその根拠を開示する義務を課すべきではありませんか。

○渡邊政府参考人　お答え申し上げます。 　本法案では、ＡＩのデータセットですとかアルゴリズム等の開示を求める規制は想定をしておりません。 　他方で、本法案に基づいて国が指針を整備していく予定でございますけれども、そのときに、広島ＡＩプロセスの国際指針等の国際規範に準拠するということを考えております。 　それによりますと、ＡＩのライフサイクル全般、このライフサイクルというのは開発から活用までの全ての段階ということでございますけれども、そこにおけるリスクを特定して軽減するため適切な措置を講じるということが指針の中には書いてございまして、その適切な措置には多様なテストというのが含まれまして、そのテストのために、ＡＩ開発者はデータセット等に関するトレーサビリティーを可能にするよう努めるべきという記述がこの国際指針の中にございます。この趣旨を、是非、私どもとしては、指針の中に反映していきたいと思います。 　指針には罰則はございませんけれども、先日来の御審議のとおり、違法行為に対して適用される既存の法律と今回のＡＩ法案とを組み合わせて対応してまいりたいというふうに考えております。

○塩川委員　指針でという話ですけれども、それでいいのかという問題であります。 　この日本ＩＢＭのケースでは、労働組合の皆さんが頑張って、四年間の運動を通じて和解に至ったけれども、ほかの事例もそうなるとは限りません。この日本ＩＢＭの問題でも、背景にはアメリカの本社が進める三千九百人の人員削減の計画があるんです。ＡＩがリストラツールに使われる懸念もあります。そこに法的規制がないのでは労働者の権利を守ることはできないのではないのか、このことが問われていると思います。 　大臣にお尋ねします。 　ＥＵではＡＩ法を作り、雇用や人事、採用選考などでＡＩを利用することをハイリスクと位置づけ、第三者機関による適合性審査などを義務づけております。日本企業がＥＵで活動する場合には、当然、ＡＩ法に基づきこの適合性審査などを受ける義務を負うわけで、日本ではそれがないという点でのダブルスタンダードになるわけです。ＥＵでできることは是非この日本でもやってもらったらいいじゃないか、国内でもＥＵと同等の義務づけを求める、そういう措置が必要ではないでしょうか。

○城内国務大臣　お答えします。 　私も、塩川委員御指摘のとおり、こういったＡＩが巨大企業の経営者の安直なリストラツールになるようなことがあってはならないというふうに思います。 　それを踏まえてお答えしますが、ＥＵのＡＩ法では、確かに、御指摘のとおり、ＡＩをリスクに基づき四つのランクに分けまして、最上位から二段階目にハイリスクなＡＩシステムを設定いたしまして、この段階のＡＩシステムを扱う事業者には基準遵守義務が課されている状況というふうに伺っております。 　先ほどの今井委員からの御指摘も踏まえて御答弁したことと重なりますけれども、雇用や人事、採用選考の在り方につきましては、我が国においては、ＡＩに特化したものではないものの、厚生労働省のガイドライン等において一定の考え方が示されております。その上で、例えば男女雇用機会均等法では、雇用管理の各ステージにおきまして性別を理由とする差別が禁止されているなど、既存法による一定の取組もございます。 　ここがちょっと重要だと思うんですが、国によってやはりその歴史や文化、そういった社会的背景などが異なるため、その結果、各国の制度体系というのは全部一緒ではなくて異なっているということでありますので、繰り返しになりますけれども、我が国としては、既存法、そしてソフトローを適切に組み合わせてリスクに対応することを基本としながら、本法案の第十六条にございます情報収集や調査、指導、助言、情報提供等を通じて必要な対応を図っていくということを考えております。

○塩川委員　人権で国によって違いがあってはならないと思います。 　ＡＩによるプロファイリングやスコアリングが、バイアスやブラックボックス化の問題があり、差別や不利益をもたらす危険があるわけです。分野によっては、禁止することも含めて、ＡＩによる評価を拒否する権利、評価を開示し、その根拠を説明する義務、第三者機関による審査と監視などの規制、不利益を受けた際の救済措置などが必要だということを申し上げておきます。 　続いて、著作権保護についてお聞きします。 　二〇一八年の著作権法改正に盛り込まれた権利制限規定によって、ＡＩの学習目的であれば、原則、著作物の収集を権利者の許諾なく行うことが認められております。このため、ＡＩ事業者によって、ネット上で公表されている新聞記事やイラストなどの著作物が権利者の許諾なく収集される事態となっております。 　文化庁に聞きます。 　日本新聞協会は、二〇二五年一月に、新聞協会はＡＩ事業者に対し、報道コンテンツを生成ＡＩに利用する場合は許諾を得るよう繰り返し求めているが、改善が見られないままサービスは拡大の一途をたどっていると意見を出しております。政府としてはどのように対応したでしょうか。

○中原政府参考人　文化庁におきましては、クリエーター等の権利者からの懸念のお声を受けまして、ＡＩと著作権の関係につきまして議論を行いまして、令和六年三月に、ＡＩと著作権に関する考え方についてを取りまとめたところでございます。特に、ＡＩと著作権に関するクリエーター等の権利者の懸念を払拭する観点から、ＡＩ学習のための著作物の利用であっても、いわゆる著作権法第三十条の四の要件を満たさず、権利者から許諾を得ることが必要な場合があり得ることなどをお示ししております。 　文化庁におきましては、この考え方につきまして、セミナーなどを通じて周知啓発を行うとともに、文化庁において設けられております相談窓口等を通じた著作権侵害に対する具体的な事例の集積を行っているところでございます。 　こうした周知啓発や事例の集積、そしてＡＩやこれに関する技術の発展、諸外国における検討状況などの進展等を踏まえながら、必要に応じた検討を続けてまいりたいと存じます。

○塩川委員　周知啓発でいいのかという問題であります。 　新聞協会からは、この間の政府の対応について、現状では機能しているとは言い難い、そもそも現行の法体系が生成ＡＩ時代に沿ったものとは言い難いとの指摘がされております。ですから、新聞協会は、ＡＩ事業者による自主的な取組や、ガイドライン等のソフトローでは対応し切れない状況を打開するため、著作権法の改正を含め、生成ＡＩ時代に沿った法整備を出すべきだと指摘をしております。 　無断学習を認める著作権法を改正し、事前に権利者の許諾を得る、こういったことを必須とする、そういった改正が必要ではありませんか。

○中原政府参考人　ＡＩと著作権に関する考え方を発出以降、先ほど御説明を申し上げました相談窓口などの設置のほかに、令和六年四月以降は、関係当事者間の適切なコミュニケーションを推進しまして、ＡＩの適正な開発及び利用の環境を実現する観点から、ＡＩの学習における望ましい著作物の利用方法などについて関係当事者間で情報共有を図る場を創設しまして、情報交換などにも取り組んでおります。こうした中で、民間事業者の取組の例としても、クリエーターがＡＩを活用して創作活動を行う例や、権利者への対価還元に向けた取組も出てきているところでございます。 　そして、先ほどの相談窓口に寄せられた例としましては、自身が作成したイラストがＡＩを利用して改変されたですとか、学習用データとして収集されて、いわゆる海賊版サイトに自身の画像が無断で転載されたなどといった御相談をいただいておりまして、これらは考え方において想定されていたものでありまして、著作権侵害として対応可能な例であるというふうに考えております。 　まずは、こうした周知啓発や事例の集積、ＡＩやこれに関する技術の発展、そして諸外国における検討状況などの進展等を踏まえながら、必要に応じた検討を続けてまいりたいと存じます。

○塩川委員　コミュニケーション、情報共有といっても、それ自身が、相手の事業者がそれを受けない、特に海外の事業者はそういう対応を行わないという実態があるわけで、新聞協会の指摘を重く受け止めるべきであります。 　前回の個人情報の問題でも同様でしたが、ＡＩの研究開発、活用を推進する法案を出す一方で、著作権や個人情報の問題があれば、結局、当事者が裁判をやってくれということでは、政治の責任を果たしているとは言えないということです。 　チャットＧＰＴ―４ｏの画像生成機能でのジブリ風の加工の話も、著作権法違反に当たる可能性がある、こういう問題もありますし、俳優や声優の声が本人の同意なしに生成ＡＩによって加工され、利用されている実態もありますが、声は著作権の対象外ということで事実上放置されているということもあります。これに対して、俳優、声優の方たちからは、声の肖像権の設立を求める声明も出されております。 　大臣にお尋ねします。 　知的財産を保護せず、生成ＡＩの推進だけを推し進めれば、コンテンツ再生産のサイクルは機能しなくなる。例えば、報道機関が縮小すれば市民の知る権利が後退することにつながるように、この問題は、権利者の問題にとどまらず、市民の権利や文化に取り返しのつかない不利益をもたらす、こういう問題だという認識はお持ちでしょうか。

○城内国務大臣　塩川委員御指摘のとおり、ＡＩの研究開発や活用の推進を図っていく中にあっても、やはり知的財産が適切に保護されることで新たなコンテンツが継続的に創作される環境を実現することが、知る権利あるいは文化の発展を守っていく上で極めて重要であります。 　その上で、例えば、信頼できるＡＩ開発者の下に良質なデータが集められ、それを用いてより高度なＡＩが開発、提供されることで、新たなコンテンツ創作活動につながる好循環を実現することが理想だと考えております。 　このため、令和六年五月に公表いたしましたＡＩ時代の知的財産権検討会の中間取りまとめでは、そのような好循環を生み出すための方策として、法、技術、契約、この三つの手段の適切な組合せにより、ＡＩに関する懸念や知的財産権の侵害リスクに対応していくことが必要である旨が示されているところであります。 　政府としても、新たなコンテンツの創作活動につながる、今申し上げました好循環が生み出せるよう、各主体が適切に対応していくことを求めてまいります。

○塩川委員　法、技術、契約、これでは対応ができていないという現状があるということであります。 　著作者の保護のためにも、市民の権利や文化を守るためにも、ＡＩ事業者に責任を果たさせる法整備が必要だと考えます。現状では、著作権法には、著作者が自らの著作物が学習データに使われているのかを確認する開示請求権も明記されておりません。 　最後に大臣にお尋ねしますが、この法案で、ＡＩ事業者に対しデータセットの開示を義務づけるなど、法整備を行う必要があるのではありませんか。

○城内国務大臣　お答えします。 　知的財産としての適切な保護や対価還元の要否を権利者において確認するために、学習いたしましたデータセットにどのような情報を用いているかについて、ＡＩ事業者からの開示が必要となる場合があることは認識しているものであります。 　データセットを含めたＡＩの透明性確保の在り方は非常に重要な観点であると考えておりますので、本法案第十三条に基づきましてＡＩの適正な研究開発及び活用のために新たに策定する指針におきまして、データセットに係る情報提供などＡＩに関する透明性を確保するための内容を、ここにしっかりと盛り込んでまいる考えであります。 　いずれにしましても、しっかりと対応してまいります。

○塩川委員　プロファイリング、スコアリング、また著作権保護の立場からも、ルール作り、法整備が必要だということを申し上げて、質問を終わります。

○大岡委員長　次回は、来る十八日金曜日午前八時五十分理事会、午前九時委員会を開会することとし、本日は、これにて散会いたします。 　　　　午後四時四分散会