ことばで探す › 衆議院 第217回
会話型生成AIに起因する心理的依存及び社会的影響に関する質問主意書
衆議院 第217回 第209号お答えすることは困難 ×4趣旨が明らかではない ×6検討してまいりたい ×2
質問本文
生成AI、とりわけ自然言語による対話が可能な会話型生成AI(ChatGPT、Gemini、Character.AI等)は、その利便性と親和性から、青少年を含む幅広い層に急速に普及している。
一方で、これらのAIとの過度な対話がいわゆる「AI中毒」やいわゆる「AI誘発性心理反応」と呼ばれる状態を引き起こす事例が、国内外において報告されている。たとえば、米国ではいわゆるチャットボットに深く依存した未成年者が自殺に至った事例が報道されており、また、発達障害傾向のある少年が会話型生成AIとのやり取りを通じて自傷行為に至ったとする訴訟も提起されている。いずれも会話型生成AIの発言内容が重大な影響を及ぼしたとされており、民間AI事業者の責任のあり方が問われていると承知している。
また、台湾や中国でも、孤独感を抱えた若者がAIチャットに没入し、実社会との接点を失う例が報告されており、心理的・社会的な孤立や逸脱的行動の誘発といった深刻な懸念が示されていると考える。
なお、本年、人工知能関連技術の研究開発及び活用の推進に関する法律が成立したが、同法は民間事業者に対して努力義務を課すにとどまり、罰則規定を含まない、いわゆるソフトローとしての性格を有していると承知している。AIが急速に社会に浸透しつつある現状において、このような法制のままで国民の安全と人権を守れるのか、再考を要すると考える。
以上の状況を踏まえ、次の事項について質問する。
一 実態把握と省庁連携について
1 現在、政府は会話型生成AIとの過度なやり取りに起因する心理的依存の実態をどのように把握しているかを示した上で、年齢別、性別、職業別などを含めた統一的な全国調査を今後実施する予定はあるか回答されたい。
2 この問題に関して、厚生労働省、文部科学省、総務省、消費者庁など関係府省庁の間で定期的な連絡会議や政策協議の枠組みは存在するか。存在しない場合、今後設ける予定はあるか回答されたい。
二 利用者に対する法的責任と開発企業・プラットフォームの規律について
1 会話型生成AIによって生成された発言が誤情報、性的・暴力的内容、人権侵害的言説などに該当し、それが利用者に精神的なダメージや社会的影響を与えた場合、開発企業や運営主体に対して、民事的・刑事的責任を問うことは現行法制上どこまで可能か。とりわけ、(1)成年の利用者に対する影響の場合と、(2)未成年の利用者に対する影響の場合とで、政府はそれぞれどのように責任のあり方や制度的限界を認識しているか。
2 成年と未成年の違いを踏まえた上で、必要な制度整備についてどのように構想しているか。
3 アプリケーションを配信・仲介するプラットフォーム事業者(Google、Apple Storeなど)が、問題ある生成AIアプリを野放しにしている場合、その責任や監督のあり方をどのように考えるか。
三 国際的ルールと比較法的観点からの評価について
1 欧州連合で策定されたいわゆるAI法や、米国・中国におけるAI規制との比較において、日本のAI規制の立ち位置と課題をそれぞれどのように認識しているか。
2 AIについての国際的なガイドライン策定への日本政府の関与状況と、国内法制への反映予定をそれぞれ明らかにされたい。
四 教育・啓発及び専門家との連携体制について
1 学校教育におけるいわゆるAIリテラシー教育の現状と今後の拡充方針について、政府の具体的な取組をそれぞれ示されたい。
2 保護者が子どものAI利用を適切に把握し、親子間の対話を促すための啓発活動や支援ツールの整備について、政府は今後どのように推進するか。
3 精神科医、公認心理士、教員、ICT専門家などによるガイドライン策定、相談体制、医療連携の必要性について、政府としての対応方針をそれぞれ示されたい。
五 政府の立法姿勢とソフトローに関する認識について
1 人工知能関連技術の研究開発及び活用の推進に関する法律は努力義務を課すものであり、法的拘束力を有する規制ではない。同法が会話型生成AIに起因する心理的依存や社会的孤立、対人関係能力の低下などの社会的影響に対して、どれほどの実効性を持ち得ると考えるか。
2 会話型生成AIによる精神的被害や社会的孤立など深刻な影響が確認された場合、罰則を含む法的拘束力のある規制への転換を検討する考えはあるか。
六 社会的影響と不安定化リスクについて
1 AIへの過度な依存が、社会的孤立、実社会との断絶、対人関係能力の低下、犯罪への誘導など、社会不安の増大に結びつくおそれがあるとの指摘があるが、政府はどのように認識しているか。
2 こうしたAIとの擬似的交流の拡大が、家族関係や地域社会のつながりに与える影響について、政府としての調査・分析及び対策の必要性をそれぞれどのように評価しているか。
右質問する。
政府答弁書
一及び六について
お尋ねの「会話型生成AIとの過度なやり取りに起因する心理的依存」並びに「AIへの過度な依存が、社会的孤立、実社会との断絶、対人関係能力の低下、犯罪への誘導など、社会不安の増大に結びつくおそれがあるとの指摘」及び「こうしたAIとの擬似的交流の拡大が、家族関係や地域社会のつながりに与える影響」の意味するところが必ずしも明らかではないため、お答えすることは困難であるが、人工知能関連技術(人工知能関連技術の研究開発及び活用の推進に関する法律(令和七年法律第五十三号。以下「AI法」という。)第二条に規定する人工知能関連技術をいう。以下同じ。)を過度に用いることによる人の心身への影響その他の人工知能関連技術の活用が社会に及ぼす影響については、必要に応じ、関係府省庁が連携しつつ、情報収集を行うとともに、その結果を踏まえ必要な対応を検討してまいりたい。
二について
お尋ねの「会話型生成AIによって生成された発言が誤情報、性的・暴力的内容、人権侵害的言説などに該当し、それが利用者に精神的なダメージや社会的影響を与えた場合」、「必要な制度整備」及び「問題ある生成AIアプリを野放しにしている場合」の意味するところが必ずしも明らかではないため、お答えすることは困難である。
三について
お尋ねの「日本のAI規制の立ち位置と課題」及び「AIについての国際的なガイドライン策定」の意味するところが必ずしも明らかではないため、お答えすることは困難であるが、政府としては、AI法第十三条及び第十七条に規定されているとおり、人工知能関連技術の研究開発及び活用に関する国際的な規範の策定に積極的に参画するとともに、国際的な規範の趣旨に即した指針の整備その他の必要な施策を講ずることとしており、他国の動向も踏まえながら、必要な施策を検討してまいりたい。
四の1について
お尋ねの「AIリテラシー教育」の意味するところが必ずしも明らかではないが、例えば、小学校学習指導要領(平成二十九年文部科学省告示第六十三号)、中学校学習指導要領(平成二十九年文部科学省告示第六十四号)及び高等学校学習指導要領(平成三十年文部科学省告示第六十八号)(以下「小学校学習指導要領等」という。)において、情報モラルを含む情報活用能力の育成を図ることとしている。また、文部科学省において、「初等中等教育段階における生成AIの利活用に関するガイドライン」(令和六年十二月二十六日公表)を策定し、その周知を行っているところである。
さらに、小学校学習指導要領等に示す情報活用能力の向上を図るための今後の方策については、中央教育審議会における審議を踏まえつつ、検討することとしている。
四の2及び3について
お尋ねの「保護者が子どものAI利用を適切に把握し、親子間の対話を促すための啓発活動や支援ツールの整備」及び「精神科医、公認心理士、教員、ICT専門家などによるガイドライン策定、相談体制、医療連携」の意味するところが必ずしも明らかではないため、お答えすることは困難であるが、AI法第十五条において「国は、国民が広く人工知能関連技術に対する理解と関心を深めるよう、人工知能関連技術に関する教育及び学習の振興、広報活動の充実その他の必要な施策を講ずるものとする。」と規定されていることを踏まえ、子供を含む国民の人工知能関連技術の適正な利用に関する普及啓発等に努めてまいりたい。
五について
お尋ねの「会話型生成AIに起因する心理的依存や社会的孤立、対人関係能力の低下などの社会的影響」及び「会話型生成AIによる精神的被害や社会的孤立など深刻な影響」の意味するところが必ずしも明らかではないが、AI法については、AI法附則第二条において、「政府は、人工知能関連技術の研究開発及び活用の推進に関する諸施策についての国際的動向その他の社会経済情勢の変化を勘案しつつ、この法律の施行の状況について検討を加え、必要があると認めるときは、その結果に基づいて所要の措置を講ずるものとする。」と規定されているとおりである。
この答弁書に出てくる定型句
お答えすることは困難 ×4趣旨が明らかではない ×6検討してまいりたい ×2
語の一致で数えたものです。答弁の評価ではありません。同じ型の答弁が過去にどれだけあるかは、型を押すと出ます。
似た質問主意書
件名と質問本文の冒頭の意味が近いものを、前もって計算しておいた表から近い順に8件並べました(multilingual-e5-large)。同じ言葉を使っていなくても出ます。論点が少しずれていることもあります。