参院本会議で5月16日、「人口知能関連技術の研究開発及び活用の推進に関する法律案」について代表質問が行われ、会派を代表して杉尾秀哉参院議員が登壇しました。予定原稿は以下の通りです。
2025 年 5 月 16 日
立憲民主・社民・無所属
杉尾秀哉
立憲民主・社民・無所属の杉尾秀哉です。ただいま議題となりました『人工知能関連技術の研究開発 及び 活用の推進に関する法律案』いわゆる『AI 新法』について、会派を代表して質問します。
【AI の進化とシンギュラリティ】
「人類の知能をしのぐ機械が発明までこなす」。1965 年にイギリスの数学者、アービング・ジョン・グッド氏は、高度な AI の登場を、こう予言しました。それからちょうど 60 年。同氏が指摘した世界は着実に実現に近づきつつあります。この所、ＡＩに関するニュースを目にしない日はないと言っても過言ではありません。そもそも、AI が私たちの仕事や生活を大きく変えようとしているきっかけとなったのは、まるで人間のように答えてくれる対話型ＡＩ「Chat GPT」の登場でした。2022 年 11 月の事です。
さらに今年に入り、低コストで高性能な中国発のＡＩ「ディープ・シーク」が発表され、世界中に衝撃が走りました。ＡＩは上手に使えば、あらゆる人間の営みを効率化できる一方、使い方を間違えると人類の脅威ともなりうる。まさに「天使」か「悪魔」か？その急速な進化の前に、我々はＡＩにどう向き合えばいいのか？今、根源的な問いを突き付けられていると言ってもいいでしょう。
ＡＩが人間の知能を超える瞬間を｢シンギュラリティ=技術的特異点｣と言いますが、アメリカの発明家にして思想家でもある レイ・カーツワイル氏は、20 年前に出版した著書でこの言葉を世に知らしめたうえで、「2045 年にシンギュラリティが起きる」と提唱しました。人類の歴史における転換点。いわゆる「2045 年問題」です。
ところが、ここに来てシンギュラリティはもっと早いと指摘する専門家が増えています。Q1.このシンギュラリティについて、政府は、いつ頃到来し、また社会や経済にどんな影響を与えると予測しているのか？城内大臣、お答えください。
【過去のＡＩ戦略を検証する必要性】
日本のＡＩ研究の第一人者、東京大学大学院の松尾豊教授によれば、ＡＩはすでに日本最難関と言われる東京大学理科Ⅲ類の入学試験を突破できるレベルにあり、「早ければ2030年頃にもシンギュラリティが到来する可能性がある」のだそうです。これほどまでに急激なＡＩの進化の一方で、我が国の取り組みはどうだったのでしょうか？
政府は2016年の「第５期科学技術基本計画」や、2019年の「ＡＩ戦略 2019」などで、ＡＩを「特に速やかな強化を図る基盤技術」と位置づけ、「研究開発体制の強化方針」を繰り返し示して来たにもかかわらず、2023 年の国内でのＡＩに関する民間投資は世界 12 位で、しかも、2024 年情報通信白書によると、生成ＡＩの個人利用率で中国 56％、アメリカ 46％、イギリス 39％などに対し、日本はわずか 9％と、極めて低い水準にとどまっています。
Q2 では、なぜ我が国が、これほどまでに AI の分野で世界に後れをとってしまったのか？
Q3.また、石破総理が言うように「世界で最も AI を開発・活用しやすい国」を目指すと言うのなら,
これまでの政策がなぜ功を奏しなかったのか、十分に検証した上で、実効性が高い方策を講じるべきではないか？
Q4.さらに、AI の民間投資や、利用率、AI 関連予算など、日本が遅れているこれらの指標で、今後、具体的な数値目標や達成時期などを設定し、公表すべきではないでしょうか？いずれも、城内大臣の答弁を求めます。
なお、デジタル敗戦に続き、ここで日本が AI 分野でも今までの遅れを挽回できなければ、「もう後がない」という位の覚悟で政策を強力に推進すべきであると申し添えます。
【ＡＩ新法の基本理念】
ここからは本法案について伺います。過去、各省庁などで取りまとめられたガイドラインには、「人間の尊厳が尊重される社会」とか「多様な背景を持つ人々が多様な幸せを追求できる社会」など、いずれも普遍的な価値が明示されていますが、本法案には一切そうした記述はありません。
Q5.しかし、何と言っても日本初の AI 関連法制ですから、「我々が目指すべき社会」と、その実現のために「AI をどう利用するのか」ということこそ、法案の基本理念に書き込まれるべきではないでしょうか？
さらに、2023 年 G7 広島サミットの成果として策定された、世界初の AI に関する包括的ルール「広島 AI プロセス」の国際規範に盛り込まれた「人間中心の原則」こそ「核心中の核心」です。欧米諸国のルール作りに共通するのは、いかに AI 社会で人間の「自己決定権」を確保するのかという「人間中心主義」の理念ですし、国内でも例えば鳥取県が策定した「AI（ええ愛）ガイドライン」でも、「人間主導の原則」が高らかに謳い上げられています。
Q6.こうしてみれば、個人の尊厳や民主主義を支える理念としての「人間中心主義」を、本法にも明記すべきと考えますが、いずれも城内大臣に、これまでよりも踏み込んだ答弁を求めます。
本法案が目指す方向性は「イノベーションの促進」と「リスク管理」のバランスを取る事でしょう。例えば、悪質な AI に対し国が調査できる権限や、国の施策への事業者の協力など、一定の法的規制は掛けられていますが、一方で罰則規定の導入が見送られており、「規制と推進のバランス」に最大限配慮した事が伺えます。
ところが、他国の状況を見ると去年春成立した EU の AI 法では、許容できるリスクを 4 段階に分け、リスクの程度に応じて規制など対応を行う、罰則付きの「リスクベース・アプローチ」が採用されていたり、また、去年暮れ成立した韓国の AI 基本法でも、透明性や安全性確保の義務規定を設けるなど、より規制に踏み込んだ内容となっています。
他方、アメリカでは、トランプ政権が AI 規制の緩和を進めており、各国のアプローチは大きく異なります。こうした複雑な情勢の下でQ7.果たして我が国の AI 法案が他国のモデルとなりうるのか私には甚だ疑問ですし、そもそも、石破総理が「世界のモデルとなる AI 制度」と胸を張る根拠は示されていません。お答え下さい。
Q8.また、EU 流の「リスクベース・アプローチ」は一定の合理性を持つと考えますが、なぜ本法案はそうした考え方を取らなかったのか？城内大臣、合わせてお答えください。
【ＡＩ利用による様々なリスクへの対応】
続いて、ＡＩの利用により生じる様々なリスクへの対応を中心に質問していきます。まず、ＡＩと著作権をめぐる問題ですが、インターネット上の情報を含む著作物を学習データとして利用する事について日本新聞協会は、「情報源として報道コンテンツを無断で利用しており、著作権侵害に該当する可能性が高い」として、生成ＡＩ時代に即した新たな法整備を求めています。
さらに、生成ＡＩの登場で、文章や音楽はもとより、極めてリアルな画像や動画などの作成さえも容易に可能になっていることから、日本音楽著作権協会や日本民間放送連盟など「言論表現」に関わる様々な団体から、法改正も含めた検討の必要性が指摘されています。
Q9.そこで、こうしたＡＩによる著作権侵害に対する認識と今後の対応について、あべ文科大臣に基本的な考え方と、対策の検討状況を伺います。とりわけ、生成 AI の進歩で世界的に大きな社会問題となりつつあるのが、いわゆるディープフェイク・ポルノによる被害です。個人の同意なく作成・拡散されるディープフェイク・ポルノは、深刻な人権侵害を引き起こしており、とりわけ学校の同級生など身近な人をターゲットにした被害は広がる一方です。例えば、アメリカでは 18 歳未満の 8 人に 1 人が、「自分か、あるいは身近な人が被害に遭った事がある」という調査結果もあります。
Q10.こうした状況を受け、海外では法制化に向けた動きが進んでいますが、日本でも被害者の迅速な保護や救済はもちろんのこと、実効性のある法規制の検討が早急に必要ではないでしょうか？鈴木法務大臣に今後の対応方針を伺います。
Q11.また、この問題で最近、私は、現行の児童ポルノ禁止法では規制の対象とならない、架空の人物を描いた猥褻な AI 生成物についても「速やかな対策を講じて欲しい」という切実な訴えを受けました。鈴木大臣に、この問題も併せて検討するよう求めます。お答え下さい。
もちろん、AI は万能ではありません。例えば、ＡＩを搭載したシステムの誤作動や、意図しない挙動により、物理的な損害や身体への危害が生じる可能性も否定できません。
最も深刻なのは、軍事活用で AI の自律的判断による「誤爆」が起きるケースですが、今後は身近な生活においても、AI 技術を使った自動運転車やロボットなどが様々な場面で誤作動を起こし、結果として深刻な被害を生む可能性が高まる事態も予想されます。
Q12.そこで、城内大臣に。AI システムの安全性確保について、今後どのような基準を設け、どのように監督を行っていくのか、現時点での考え方をお聞かせください。
では、実際にＡＩシステムの誤作動等により損害が引き起こされた場合、その責任は誰が負うことになるのでしょうか？
Q13.ＡＩでは、開発者、システムの提供者、利用者など複数の主体が関与するため、責任の所在を明確にすることが困難なケースも十分に考えられます。そうしたＡＩによる損害発生時の責任の所在は、どのような考え方に基づき対応がなされるのか、政府としての認識を城内大臣にお尋ねします。
ある世論調査を見ると、生成 AI の利用や普及拡大で国民が不安に思う事は、「社会の分断」「人間の制御が及ばなくなる」「雇用が失われる」というのが上位の３つでした。ちなみに、AI による労働代替によって生じる影響について大和総研が調査し、去年 11 月に公表した分析によると、生成ＡＩの普及により、我が国のＧＤＰは 16.2％押し上げられると試算され、また労働者全体の失業者数の減少と、賃金水準の上昇というプラスの影響がもたらされるとしています。
そうした一方で、労働者を職業グループで分けた場合、プログラマーや一般事務など、仕事の主要部分が生成ＡＩにより自動化や代替されやすい職業グループについては、失業者数が 7.0％上昇し、賃金水準が 7.3％低下すると推計されています。
Q14.このように、今後、生成ＡＩの普及が進めば、生産性向上によるGDPの押上げが期待される反面、労働者の二極化を生み、国内の経済格差の拡大や社会の分断を招くことが懸念されますが、これに対する政府の認識と対応について城内大臣の答弁を求めます。
【法案に規定された「国民の責務」】
最後に、本法案において、「国の責務」「地方公共団体の責務」「研究開発機関の責務」「活用事業者の責務」と並んで、「国民の責務」が規定されたことについて伺います。
我々は、「国民の責務」の具体的内容や範囲などが不明確であるうえ、主に年代間のデジダルデバイドの深刻な現状に鑑み、「国民の責務」を「国民の努力」とするよう衆院段階で修正案を提出しました。ところが、残念ながら「党利党略」もあったのか、賛成少数で否決されています。
AI 新法にも近いサイバーセキュリティ基本法など、他の法律では「国民の努力」と規定しているのに、なぜ本法案は「責務」という強い表現を使用したのか？これについて衆議院での審議で政府側は、「AIに対する正しい理解と関心を深めていただくことが不可欠で、国や地方公共団体が実施する施策への国民の理解、協力が必要不可欠であるという観点から『責務』という文言を用いている」などと答弁しました。しかし、この説明は余りに不十分、かつ極めて曖昧なもので、未だ強い違和感が拭えません。
Q15.先に述べたように、AIの利用に不安を抱く国民が多くいる中、「責務」という強い言葉で規定すること自体、無用な懸念を生じさせるだけではないでしょうか？にもかかわらず、他の法律とは異なり、あえて「国民の責務」と規定した理由について、改めて城内大臣の明快な答弁を求めます。
AIというテクノロジーの｢進化｣は、果たして｢人々を幸せにする｣のか？まさに、AIの｢真価｣が問われる中で、本法案は、その究極の目的に近づくための｢小さな一歩｣に過ぎません。
また、本法案には「実効性に乏しく、中途半端だ」という批判が根強くあり、今後、AI の悪用による深刻な事案が相次げば、「強制力」を伴う規制法の導入を検討せざるをえない場面が来ることも十分に予想されます。
その際、我々に求められるのは、情報に対する｢リテラシー｣や「倫理観」であり、社会全体で協力して、「持続可能」で「公平公正」な未来を築くためのビジョンではないでしょうか？
そのためにも、我々立憲民主党は、「人間中心のAI」の旗を高く掲げつつ、時代や状況の変化に応じて果断に法制度の見直しを行う必要性を指摘し、代表質問を終わります。
ご清聴ありがとうございました。
以上