１.「ＡＩ時代の子どもの安全対策について」【令和７年第４回定例会一般質問】

【令和７年１１月第４回定例会一般質問】

1.「ＡＩ時代の子どもの安全対策について」（質問数３＋再質問１）

＊全文を掲載しておりますが、最後の《まとめ》をご覧いただくことで、内容を簡潔にご理解いただけます。

＜質問全文＞

◆十一番（若林りさ　議員）　日本維新の会の若林りさです。以下、通告に基づき質問いたします。
ＡＩ時代の子どもの安全対策について伺います。
ＡＩ技術の急速な普及は、生活を便利にする一方で、子どもたちに新たなリスクをもたらしています。特に深刻なのが、生成ＡＩを悪用したディープフェイク画像の拡散です。卒業アルバムや学校行事の写真一枚から、未成年が自分や同級生の画像を使って性的な偽画像を作成する事例が報告されています。さらに、実在する子どもの写真を無断で使った偽画像の拡散や、ＡＩによるなりすまし詐欺も増えており、人間関係や安全への影響が懸念されています。
こうした状況を受け、本年九月には政府がディープフェイク対策の工程表を策定し、二〇二六年度に具体的な対策を打ち出す予定です。しかし、被害は日々拡大しており、国の対策を待っている余裕はありません。基礎自治体として、また、教育現場を所管する立場として、できることから着手すべきです。
そこで伺います。ＡＩ技術が子どもたちに及ぼすリスクについて、区として現状をどのように把握し、課題認識をお持ちでしょうか。特にディープフェイクやなりすまし被害の実態について、区内の学校現場で把握している事例があれば併せてお聞かせください。
ＡＩによるリスクに対応するには、子どもがＡＩの基本や情報の真偽を見抜く力、個人情報を守る力など、デジタル時代のリテラシーを体系的に学ぶ教育が求められます。
区では二〇一三年からネットリテラシー醸成講座を実施し、来年度からは指針に基づいた運用を開始すると伺っていますが、現状では対象が小学六年生と中学一年生に限られています。しかし、生成ＡＩは低学年の子どもでもスマートフォンやタブレットを通じて簡単にアクセスできる状況にあるため、被害のリスクは全学年に及んでいます。また、アンケート調査でも、携帯電話やスマートフォンを使い始める時期は小学四年生が最も多いことが示されており、発達段階に応じた継続的な教育が必要です。
そこで伺います。現在策定中の指針に基づくＡＩリテラシー教育の具体的な内容と実施時期はいつでしょうか。また、対象学年を小学六年生と中学一年生に限定している理由と、今後、対象学年を現在よりも拡大し、将来的には全学年を視野に入れた取組へと発展させる考えがあるのか、併せてお聞かせください。特に発達段階に応じて体系的に学べるカリキュラムとして構築することが重要と考えますが、区の見解を伺います。
さらに、子どもたちへの教育と並行して、周囲の大人が生成ＡＩのリスクを理解し、適切に対応できる体制づくりも急務です。生成ＡＩ技術は日々進化しており、保護者や教職員が最新の動向やリスクを把握することは容易ではありません。
そこで、併せて伺います。保護者や教職員に対して、生成ＡＩのリスクや最新事例に関する研修、啓発の現状と今後の計画をお聞かせください。

→《区の答弁》

◎宇都宮　教育総合センター長　私からは、ＡＩ時代の子どもの安全対策について三点御答弁申し上げます。
まず、ディープフェイクやなりすまし被害の実態についてです。
議員御指摘のとおり、生成ＡＩやインターネットは学習に欠かせない便利なツールですが、一方、使い方を誤ると、個人情報の流出や見知らぬ人との関わり、詐欺被害といった犯罪と結びつくリスクもあると認識しております。
現在、学校のｉＰａｄに関する被害報告はありませんが、ネットリテラシー醸成講座時に実施したアンケートでは、中学生の約九割がスマートフォンを所有し、各種サービスの利用を始めていることから、個人のスマートフォンでトラブルに巻き込まれることがないよう、啓発と指導に努めております。
次に、ＡＩリテラシー教育についてです。
教育委員会としても、今年度中にデジタル・シチズンシップ教育指導用指針の策定をし、デジタル社会との適切な向き合い方や情報活用能力の育成について指導してまいります。
ネットリテラシー醸成講座は、スマートフォンの使用率が高まる小学校六年生と中学校一年生を対象に実施しておりますが、その後の中学校技術・家庭科の中で、フェイクニュースや風評被害の影響、知的財産権の侵害、個人情報の保護等の問題を具体的に取り上げ、安全な情報活用や情報発信することの責任等について学習しております。
今後も、次期学習指導要領を見据えながら、体系的なカリキュラムを検討してまいります。
最後に、生成ＡＩに関する研修、啓発の現状についてでございます。
保護者及び教職員に向けたネットリテラシー醸成講座では、偽情報等の拡散についての話題を扱うなど、日常生活に即した指導を行っております。
今後も、生成ＡＩとどのように向き合うかなど、講座内容を時勢に合わせてアップデートをしてまいります。
以上です。

＜再質問＞

◆十一番（若林りさ　議員）　ＡＩの子どもへのリスクについてですけれども、学校のｉＰａｄでは被害報告はないとの御答弁でしたが、実態把握が不十分な可能性があります。トラブルの実態調査と発生予防のためのネットリテラシーのアンケートを実施すべきと考えますが、いかがでしょうか。

◎宇都宮　教育総合センター長　教育委員会といたしましては、インターネットトラブルや被害に遭わないよう、誤った使用をしないことを啓発することが大切であるというふうに考えています。そうしたネットリテラシーが講座を通じどのように理解できているか、ネットリテラシー醸成講座のアンケートなどを活用し、把握する方法を検討してまいります。
以上です。

◆十一番（若林りさ　議員）　検討するとのことで、前向きな御答弁と受け取ります。
以上で質問を終わります。

＝＝＝＝＝＝＝＝＝＝＝

《まとめ》

AIの普及により、子どもたちを取り巻くリスクが大きく変化しています。私は、生成AIを悪用したディープフェイク画像やなりすまし被害が現実に起きていることを踏まえ、区として実態を正確に把握し、早急に対策を講じるべきと指摘しました。また、スマートフォンの利用が低年齢化している現状から、現在の小6・中1に限定した教育では不十分であり、全学年を視野に入れた体系的なAIリテラシー教育の必要性を訴えました。さらに、保護者や教職員への理解促進も不可欠と提起しました。

これに対し区は、学校のiPadでの被害報告はないとしつつ、中学生の多くがスマートフォンを利用している現状を踏まえ、トラブル防止に向けた啓発や指導を行っていると答弁しました。さらに、今年度中に指針を策定し、デジタル・シチズンシップ教育を進めるとしています。

私は、実態把握が不十分である可能性を踏まえ、アンケート等による把握強化の必要性を再度指摘しました。区は、既存の講座アンケートの活用などを含め、実態把握の方法を検討していく考えを示しました。