生成AIの導入・活用に向けた実践ハンドブック

1 生成 AI の導入・活用に向けた 実践ハンドブック 令和７年（2025 年）３月 こども家庭庁 2 変更履歴 履歴ID 更新日付 更新者 更新内容 1.0.0. 2025 年３月 31 日 こども家庭庁 初版として作成 3 目次 1. はじめに ................................................................. 4 1.1. ハンドブック作成の背景 ......................................................................... 4 1.2. ハンドブック作成の趣旨・目的 .................................................................. 4 2. ハンドブックの使い方 ................................................... 5 2.1. ハンドブックの位置づけ .......................................................................... 5 2.2. ハンドブックの構成及び活用方法 .............................................................. 5 2.3. ハンドブックの留意事項 ......................................................................... 5 3. 基礎編 .................................................................. 6 3.1. 生成 AI について ............................................................................... 6 （1） 生成 AI とは ................................................................................................. 6 （2） 生成 AI の利活用が期待される領域 ...................................................................... 7 （3） こども・子育て分野での利活用可能性 ................................................................... 10 （4） 生成 AI 利活用における注意点 ......................................................................... 15 （5） 規制やガイドラインの動向 ................................................................................. 18 3.2. 生成 AI の導入.................................................................................. 22 （1） 生成 AI 導入の流れ ...................................................................................... 22 （2） 企画検討フェーズ .......................................................................................... 23 （3） 導入準備フェーズ .......................................................................................... 29 （4） 導入・運用フェーズ ........................................................................................ 33 （5） 法令・ポリシー等への対応事項 ........................................................................... 37 4. 事例編 ................................................................ 42 ＜別添＞ ・生成 AI 等技術の利活用動向に係る調査報告書 ・実証結果報告書 4 1. はじめに 1.1. ハンドブック作成の背景 近年、少子高齢化の進行や働き方の多様化に伴い、こども・子育て分野における支援の充実が求められている。こう した中で、こどもや若者の視点に立ち、こどもにとって最善の利益を第一に考え、こどもや子育てに関わる当事者の意見を 政策に反映する社会ビジョン「こどもまんなか社会 1」の実現に向けて、デジタル技術を積極的に活用していく必要がある。 このような背景のもと、こども家庭庁では、こども・子育て分野における生成AI 利活用等に係る調査研究の一環とし て、生成 AI の導入実証事業を実施し、地方公共団体（以下「自治体」という。）や保育施設等における先進的な 取組事例を収集・分析するとともに、実証を通じて得られた知見を体系的に整理した。 1.2. ハンドブック作成の趣旨・目的 本ハンドブックは、自治体及び保育施設や子育て関連事業者（以下「関係機関等」という。）がこども・子育て分野 の業務において生成 AI 利用等を適切に進められるよう、生成 AI を活用する際の基本的な考え方及び実践的な方 策を示すものであり、各関係機関等の実情に応じた柔軟な解釈と運用を想定している。 自治体及び関係機関等における生成 AI の適切な活用を通じて、こども・子育て世帯の利便性向上や現場の業務 負担軽減を図り、もって「こどもまんなか社会」の実現に資することを目的とする。 また、生成 AI の利活用においては、生成 AI の出力を参考にしつつも最終的な判断と責任は人間が持つという姿勢 のもと、生成 AI の利活用がこども・子育て分野に関わる人々にとっての利益に繋がることを期待したい。 1 こども家庭庁ウェブサイト「こども大綱の推進」（https://www.cfa.go.jp/policies/kodomo-taikou） 5 2. ハンドブックの使い方 2.1. ハンドブックの位置づけ 本ハンドブックは、こども・子育て分野における生成AI活用の基本的な考え方と実践的なアプローチを示すものとして、 令和７年３月末日時点の知見に基づき作成したものである。なお、本ハンドブックは生成 AI 導入検討における参考 の一つとして位置づけられるものであり、自治体や関係機関等に対して一律の規制や義務づけを実施するものではな く、各機関の実情に応じた柔軟な解釈及び運用を想定しており、生成 AI 活用の指針として参照されることを期待して いる。 2.2. ハンドブックの構成及び活用方法 本ハンドブックは、基礎編及び事例編で構成される。 基礎編では、主に制度主管課等に所属するこども・子育てに関わる自治体の職員向けに、生成 AI の基礎知識や 導入に係る実務的な留意事項を中心に解説する。生成 AI の導入については自治体が主導的な役割を担うことを想 定し、現場職員が把握すべき基礎的事項を体系的に整理している。 事例編では、主に自治体及び関係機関等の現場職員向けに、実証事業を通じて得られた具体的な生成 AI の 活用事例（ユースケース）を紹介する。 生成 AI の活用を検討している機関等においては、事例編により具体的な活用イメージを把握した上で、基礎編によ り導入プロセスを確認することで、業務改善の端緒として活用されたい。 既に生成 AI を活用している組織においては、基礎編による知見の深化及び事例編による他組織の事例参照を通じ て、更なる利活用の推進に活用されたい。 図表 1 ハンドブックの構成 2.3. ハンドブックの留意事項 本ハンドブックは、こども・子育て分野における生成 AI の利活用に関する基本的な考え方及び留意事項を示すもので ある。生成 AI の利活用に当たっては、個人情報保護に関する法令等を遵守することを前提とする。 なお、本ハンドブックは法的助言を提供するものではなく、法的その他いかなる意味においても拘束力・強制力を 持つものではない。実証事例等を参考に生成 AI を導入する際には、関連省庁・機関が公表している最新の情報を参 照の上、各機関で判断されたい。 6 3. 基礎編 3.1. 生成 AI について 3.1 章では、生成 AI の基本概念や利活用が期待される領域、利活用における注意点、そして関連する規制・ ガイドラインの動向について紹介する。 ＜要約＞  生成 AI とは、膨大なデータから学習した統計的パターンに基づき、テキストや画像、音声等を生成する技術で ある。  文章生成では情 報収集・要約・アイデア出し・資料作成、画像では画像作成・識別、音声では音声生成・文 字起こし等、多岐にわたる活用方法が期待されている。  特に、こども・子育て分野では、AI チャットボットによる相談支援、教育コンテンツの作成、文書の作成、多言語 対応、日誌・連絡帳の作成等、業務の効率化や職員等の負担軽減を通じて、こどもや 保護者との関わりに十 分な時間を確保することに寄与することが期待されている。  一方で、回答 プロセスの不透明性、誤情報の生成、個人情報や機密情報の取扱い、著作権侵害のリスク、 差別や偏見の助長といった課題も存在する。これらの課題に対応するため、人間による確認プロセスの導入や 適切なリテラシー向上が求められている。  また、国内外 での規制やガイドラインの整備も進んでおり、各自治体・保育施設等はこれらを参照しながら、生 成 AI の適切な利活用方法を検討することが求められる。 （1） 生成 AI とは 生成 AI とは、膨大な量のデータから学習した統計的なパターンに基づき、入力された文脈に応じた回答を生 成する大規模言語モデルを基盤とし、テキスト、画像、音声等を生成することができる人工知能技術である。 また、生成 AI を利用したサービスは一般的には対話型の入出力機能を備えており、利用者は指示文（プロン プト）に条件を記載することで、それに応じた文章や画像、音声等を生成することができる。 図表 2 生成 AI の特徴 7 （2） 生成 AI の利活用が期待される領域 生成 AI は、様々な業務への利活用が期待できる技術である。以下に利活用が期待される領域例を示す。 なお、動画生成に関する生成 AI の利活用方法については、本事業 2開始時点では動画生成に関するサービス が提供されて間もなく事例が限られているため、本ハンドブックでは対象外とする。 また、生成 AI の利活用にあたっては、本ハンドブックの「3.1.(4)生成 AI 利活用における注意点」や「3.2.(5)法 令・ポリシー等への対応事項」を参考に適切な利用方法やリスク管理について検討することが望ましい。 図表 3 生成 AI の利活用が期待される領域 ア 文章の生成における利活用方法 文章に関する生成 AI の機能は、以下の領域において利活用が期待される。 ① 情報収集 生成 AI は大量の情報を効率的に集約し、回答を生成することが可能であるため、インターネットで公 開されている情報の収集・整理等に利活用が期待される。 また、インターネットに公開されていない情報を生成 AI で活用する場合には、ファインチューニング 3によ る学習方式や RAG（検索拡張生成）4による参照方式の対応が必要である。 情報の信頼性 を確認︕ 利活用の際には、AI による情報の検索結果と法令・通達・ガイドライン等の公式資料と照らし合 わせ、内容の真偽を人の目で確認することで、収集した情報の信頼性を担保することができる。 2 こども・子育て分野における生成 AI 利用等に係る調査研究事業 3 汎用的な生成 AI モデルに対して特定のタスクや目的に合わせて固有のデータを追加学習させる手法のこと 4 利用者からの質問や指示に対して、 固有のデータを検索して回答を生成する手法のこと 8 ② 要約 生成 AI は文章の文脈を理解し、重要なポイントを抽出して簡潔に整理することが可能であるため、 文章の要約作業において利活用が期待される。 要約内容の整合性 を確認︕ 人が生成 AI による要約結果を最後に検証することで、要約内容の信頼性・正確性を担保する ことができる。原文の主張や意図が適切に反映されているか、重要な情報の欠落がないか、文脈に 沿った要約となっているかを確認することが望ましい。 ③ アイデア出し 生成 AI は大量のデータを学習しており、入力した内容に対して関連する提案や回答を返すことが できるため、アイデアの検討において利活用が期待される。 提案内容の適合性 を確認︕ 法令や条例等を参照しながら、人が生成 AI によって提示されたアイデアの適合性を確認するこ とが望ましい。また、生成 AI が提案するアイデアは参考として捉え、最終的には人間による総合的 な判断のもと活用することが望ましい。 ④ 資料作成 生成 AI は大量のデータを学習し、そのパターンを理解することでコンテンツを作成する機能を有しており、 説明資料や広報資料等における文章作成作業において利活用が期待される。 また、文章作成にあたっては、作成したい文章のテーマや目的、文脈を明確にして生成 AI への指示文 （プロンプト）を作成する必要がある。 作成資料の正確性 を確認︕ 資料の内容の正確性に加えて、組織の文書作成ルールに沿った出力結果になっているか、利用 シーンに合わせて適切な文体や用語の使用となっているか等、人の目で確認することが望ましい。 イ 画像に関する利活用方法 画像に関する生成 AI の機能は、以下の領域において利活用が期待される。 ① 画像作成 生成 AI は、膨大な数の画像データを学習し、その中からパターンや特徴を抽出して画像を生成する機 能を有しており、各種説明資料や広報資料等におけるイラストやイメージ画像の作成が期待される。 9 また、画像生成にあたっては、生成 AI に絵柄や描画する対象物等について具体的な条件を示す指示 文（プロンプト）を作成する必要がある。 他者の知的財産権を侵害していないか を確認︕ 生成 AI が生成した画像を外部に公開する前に、著作権や商標権等の知的財産権を侵害して いないか、生成されたイラストに不自然な表現がないか、人の目で確認することが望ましい。 ② 画像識別 生成 AI は膨大な数の画像データを学習し、その中から特徴やパターンを抽出することで、異なる画像 の中から共通する特徴を把握することが可能である。このことから、人間が目視で特定の人やモノが映って いる画像を分類する作業や紙の書類や画像に含まれる文字情報をデジタルデータに変換する作業等を自 動化して支援することが期待される。 他者の権利への配慮 を実施︕ 生成 AI へ入力する画像においては、肖像権等の他者の権利に配慮する必要がある。 特に個人が識別できる写真等を入力する場合は、本人や保護者等の同意を得る等、適切な 対応が求められる。 生成AI による誤認識を踏まえた運用計画 を確認︕ 生成 AI が 100％の精度で被写体を認識できないことを念頭に、生成 AI の画像識別結果をそ のまま採用するのではなく、人間による確認を入れたうえで運用することが望ましい。 ウ 音声の生成における利活用方法 音声に関する生成 AI の機能は、以下の領域において利活用が期待される。 ① 音声生成 生成 AIはテキストを機械的に音声変換する音声合成技術を使って、生成された文章を人間に近い声 の抑揚で読み上げることが可能である。このことから、文章の読み上げや動画のナレーションでの活用、コー ルセンターにおける自動応答等会話を伴う作業の省力化等が期待される。 10 なりすましへの対策 を実施︕ 音声生成技術は、実際には発言していない内容をあたかも本人が話したかのように模倣し不正 に利用されるケースがある。自治体・保育施設等の業務上で利用する場合は、なりすまし対策とし て、無関係の第三者が自治体・保育施設等を装った偽サービスが存在することに対して注意喚起 を行うと同時に、公式のサービスを周知するための取組みが必要である。 ② 音声の文字起こし 生成 AI は音声認識技術により、音声の波形を読み取ることで発言内容を文章に書き起こすことが可 能である。このことから、会議内容の議事録への書き起こしやコールセンターにおける相談内容の書き起こ し等、会話内容の記録を自動化することが期待される。 文字起こし内容の正確性 を確認︕ AI による音声の文字起こしは精度が 100％ではないことを念頭において、文字起こしされた内 容の誤字や固有名詞の誤認識等を中心に人の目で確認することが望ましい。 （3） こども・子育て分野での利活用可能性 こども・子育て分野においては、その業務特性を踏まえ、事務作業に係る負担の軽減を通じて、こども及び保護 者との関わりに十分な時間を確保することができるようになる等、生成 AI の効果的な利活用が期待される。そこで、 本節では、当該分野に特化した利活用の意義及び具体的な利活用方法を示す。 自治体及びこども・子育て関連施設等においては、以下に示す内容を参考としつつ、地域や団体の実情等を勘 案し、業務の特性を踏まえた効果的な利活用方策について検討することが望ましい。 なお、生成 AI の導入検討にあたっては、適切な利活用方法やリスク管理について事前に検討する必要がある。 詳細は「3.1.(4)生成 AI 利活用における注意点」及び「3.2.(5)法令・ポリシー等への対応事項」を参照されたい。 ア 保育・子育て相談支援における AI チャットボットの利活用 自治体の窓口相談業務等において、職員の業務支援及び保護者の利便性向上を目的として、AI チャット ボットによる一次対応の支援が期待される。AI チャットボットは、24 時間 365 日の相談対応が可能であり、多 言語対応や非定型な文章による柔軟な回答が可能である。これにより、相談対応の充実及び窓口相談業務 の負担軽減を図ることが期待される。 11 図表 4 保育・子育て相談支援における AI チャットボットの利活用のイメージ 利用者にAI チャットボットの注意点 を明示︕ AI チャットボットは誤った情報を提供する可能性があるため、利用者に対して事前にその注意点 等を明示することが望ましい。 回答案の正確性 を確認︕ 重要な判断を要する相談については、生成 AI に全てを任せるのではなく、人の目で回答案の正 確性を確認することや、職員が相談者への対応を引き取る等、柔軟に対応することが望ましい。 イ こどもの保育・教育におけるコンテンツの生成 こども・子育て現場におけるコンテンツ制作業務（学芸会の台本作成、教材の作成等）において、生成 AI によるコンテンツ作成支援が期待される。 生成 AI に詳細な条件（対象年齢、題材等）を指示することで、発達段階等に応じたコンテンツの生成が 可能である。例えば、「３歳児向けの絵本」、「和文及び英文にて作成」、「パンダを主人公とする」等の条件を 指示文（プロンプト）として設定することで、要件に合致したオリジナルの絵本を作成することが可能である。こ れにより、こどもの発達段階等に応じてカスタマイズしたコンテンツ作成が容易になり、制作物に関する多様なアイ デアの創出、作業効率の向上及び品質の改善が期待される。 12 図表 5 こどもの保育・教育におけるコンテンツの生成のイメージ 出力コンテンツの適切性 を確認︕ 生成 AI によって出力されたコンテンツの内容には、こどもにとって不適切な内容が含まれる可能 性があるため、必ず職員の目で内容を確認した上で採用することが望ましい。 他者の著作権を侵害していないか を確認︕ 生成 AI が作成したコンテンツが、既存の著作物と類似している可能性がある。生成 AI への入 力情報に特定のキャラクター名等固有名詞等を含めないようにするほか、独自のイラストや音楽等 のコンテンツを作成する際は、特に著作権の侵害とならないよう注意が必要であるため、利用前に 職員の目で生成されたコンテンツを確認する工程を設けることが望ましい。 ウ 自治体やこども・子育て現場の職員の文書作成支援 自治体やこども・子育て現場にて作成する文書（補助金/助成金関連書類、保育所等設置認可関連書 類、保護者へのお知らせ等）の作成業務への活用が期待される。文書に記載したい情報を事前に取りまとめ、 作成文書の形式や文体を指示として生成 AI へ入力することで、文書に記載する文章案を生成することができ る。これにより、職員はその内容の確認や修正業務に注力することが可能となり、事務作業の効率化や品質の 向上が期待される。 13 図表 6 自治体やこども・子育て現場の職員の文書作成支援のイメージ 職員のリテラシー向上による情報管理 を徹底︕ 個人情報や非公開情報等の要機密情報を入力した場合、生成 AI がその情報を学習すること によって、外部利用者の質問の回答に使用されるリスクが存在する。そのため、利用者の入力した 情報を生成AIの学習に使用しない旨を利用規約等に明示しているサービスを選定することが重要 である。 また、職員が AI サービスの特性と情報管理の重要性を理解できるよう、職員のリテラシー向上を 目的とした研修の実施や運用ルール・マニュアルの整備等も重要である。 エ 多言語対応による外国人家庭への支援 自治体やこども・子育て現場での外国人家庭からの窓口相談や外国人向けの情報発信業務等において、 翻訳作業や外国人向けの情報の要約作業での生成 AI の活用が期待される。生成 AI の利用により外国語 話者とのコミュニケーションが円滑になることで、外国人家庭に対する多言語対応等の業務の効率化及び品質 の向上を図ることが可能である。 14 図表 7 多言語対応による外国人家庭への支援のイメージ 出力文章の正確性 を確認︕ 重要な情報を伝える文章については、生成 AI の翻訳結果をそのまま採用するのではなく、職員 が誤った翻訳が生成されていないかを確認することが望ましい。 ただし、どこまで丁寧に確認するかは、その文書の重要性や読み手の属性等を総合的に職員で 判断した上で運用することが求められる。 オ 写真記録をもとにした日誌・連絡帳の文言作成 保育施設等の職員が日常的に作成する保育日誌や連絡帳において、記載文章案の生成による負担軽減 が期待される。生成AI は文章による指示のみならず、画像を入力することで画像から読み取った情報を文章で 出力することも可能であることから、保育日誌、連絡帳の作成業務の効率化及び品質向上が期待される。 図表 8 写真記録をもとにした日誌・連絡帳の文言作成のイメージ 15 個人情報の適切な取り扱い方法 を確認︕ 保育日誌や連絡帳には個人情報が含まれることが想定されるため、利用者の入力した情報を 生成 AI の学習に使用しない旨を利用規約に明示しているサービスの選定や、生成 AI に個人情 報を漏洩しないための職員研修の実施や運用ルールの整備・徹底等の対策が必要である。 （4） 生成 AI 利活用における注意点 生成 AI は、業務の効率化等に資する一方で、その特性から適切な管理及び運用が必要である。そのため、各 自治体やこども・子育て施設等においては、特に運用・管理部門が生成 AI について適切な知識を習得することが 重要である。運用にあたっては、生成 AI の利用に関するルール・マニュアルの整備や研修の実施を行うことが必要で ある（詳細は「3.2.(3)導入準備フェーズ」を参照のこと。）。 また、保育施設等の職員が生成 AI の使い方について質問がある場合に対応できるよう、既存のデジタル関連 部門や組織の情報担当者等、現在の体制を活用した相談体制を整えることが望ましい。新たに専門窓口を作ら なくても、生成 AI の利活用に係る相談先や不適切な使用に係る問合せ先を明確にする等、各自治体の規模や 状況に応じた柔軟な対応方法を検討することが重要である。また、個別の課題については以下の課題を十分に認 識した上で、必要な対策を講じることが重要である。 ア 技術的課題 ① 生成AI 回答プロセスの不透明性 生成 AI は内部構造が非常に複雑であるため、生成 AI が特定の回答に至った経緯が不透明である。 したがって、生成 AI の出力した回答をそのまま利用することで不正確な回答や判断に繋がってしまい、組 織の信用低下を招くリスクがある。 このため、生成 AI が出力した回答については、判断根拠となる資料を生成 AI に明示させる指示を生 成 AI に入力する指示文（プロンプト）に記載する等して、当該資料の妥当性やその内容に基づいて正 しく判断されているかを確認する必要がある。 生成 AI に自治体における子育て世帯向けの支援内容について質問したところ、「児童手当は子育 て世帯が求める代表的な公共の支援施策の一つです。この制度は 0 歳から中学生までの子供を持 つ家庭に対して、定期的に金銭を支給するものです。」という回答が出力されたが、根拠が不明瞭で あった。 「根拠となる資料を提示してください。」という指示文（プロンプト）を生成 AI に入力し、提示された 参考資料の妥当性や参考資料の内容を適切に参照して回答が生成されているかを確認する。 課題例 対応例 16 ② 誤情報の生成（ハルシネーション） 生成 AI は入力された指示文（プロンプト）を基に確率的に関連性の高い文章や単語を出力するた め、一見すると正しい情報のように見えるが実際には存在しない情報や誤った事実を回答することがある （ハルシネーションと呼ばれる。）。 このため、生成 AI が出力した内容については、必ず情報の正確性や真偽性を確認する必要がある。 「乳児は何歳からを指しますか。」と生成 AI に質問したところ、「2 歳未満のこどもを指します。」と回答 されたが、母子保健法等の公的な定義では乳児は「1 歳未満のこども」を指しており、生成 AI の回答 は誤った情報であることが判明した。 公式資料等、正確性が担保されている情報（法令、通達、ガイドライン等）を基に真偽を確認する。 「幼児向け食物アレルギー検査の公的助成制度について教えて。」と生成 AI に質問したところ、「幼児 アレルギー検査支援法」に基づく助成制度をいくつか回答されたが、このような法律や助成制度は存在 せず、生成 AI が作り出した架空の情報であることが判明した。 生成 AI が提示する法律や制度に関する情報については、必ず行政機関の公式ウェブサイト等の信頼 できる情報源で法律や制度の存在を確認する。 「日本の子育て支援施設の数を教えてください」と生成 AI に質問したところ、具体的な数字と施設の 内訳が回答されたが、調査したところその数値は実際の公表データとは異なっており、生成 AI が独自に 作り出した情報であることが判明した。 生成 AI が提供する統計データや具体的な数値情報については、必ず行政や関連機関の公式ウェブ サイト、公表されている最新の統計資料等で正確な情報を確認する。 イ 個人情報・要機密情報の取扱いに関する課題 生成 AI の利用時に入力する情報の取扱いには留意が必要であり、製品・サービスごとに定められた利用規 約やプライバシーポリシーの内容を精査した上で利用することが求められる。特に生成 AI に入力した情報が今 後の生成 AI モデルの学習に利用されるかどうかは必ず確認する必要がある。利用者が生成 AI に入力した情 報がそのまま次期の生成 AI モデルの学習に利用される場合は、入力した情報が外部に漏えいするリスクがある ため、入力して問題のない情報かどうかを確認の上で利用する必要がある。 自治体や保育施設等で利用する場合は、一般の利用者と比較して、機密性の高い情報や個人情報を業 務上取り扱う必要があるため、利用に際してはさらに注意が必要となる。特にこども・子育て分野で利用する場 合は、こどもや保護者の個人情報を取り扱う可能性があり、外部に流出した場合の影響が大きくなることに留 課題例① 対応例① 課題例② 対応例② 課題例③ 対応例③ 17 意されたい。製品・サービスによっては、事前に利用者が自分のデータを AI の学習に使用されないようにするため の設定を行うことができる場合もあるので十分確認されたい。 また、上記のようなリスクがあるため、生成 AI の利用にあたっては関係法令等に従って、広く関係部署と協議 の上、運用ルール等を利用開始前に定めることが重要である。 実証における具体的な対応策については、「3.2.(5)法令・ポリシー等への対応事項」を参照されたい。 ウ 知的財産権等への対応に関する課題 生成 AI の生成物は、特に画像について、著作権をはじめとした知的財産権等に配慮する必要がある。 例えば、非営利目的かつ授業に必要な範囲で、公表されている著作物を複製したり発信したりすることは著 作権法上認められている 5が、そのような条件を満たさない場合に、生成 AI により既存の著作物と似た生成画 像が出力され、その生成画像をそのまま利用するような場合には著作権侵害となるリスクがある。生成 AI の生 成物を外部に発信する目的で利用する場合は、あらかじめ類似した文章や画像がないか確認する作業の実施 が望ましい。 実証における具体的な対応策については、「3.2.(4)法令・ポリシー等への対応事項 ウ.著作権への対応」 及び「3.2.(4)法令・ポリシー等への対応事項 エ.肖像権・パブリシティ権等への対応」を参照されたい。 エ そのほかの課題 ① 差別や偏見の助長 生成 AI の出力は学習データに基づき生成されるため、学習データにおける偏り等が出力結果に反映さ れることで、特定の属性（人種、性別、文化等）に対する偏りが生じるおそれがある。 このため、生成 AI による生成物を組織外部に向けて提示・発信する際には、事前に出力内容を確認 し、差別や偏見を助長する内容が含まれていないかを確認したうえで、適切に修正することが必要である。 園の広報用資料のイラストを生成 AI で作成した際、保育士が女性のみで描かれ、男性の保育士が 記載されていなかった。 対外的に広報物を提示する前に職員にてイラストを確認し、生成 AI の指示文（プロンプト）において 女性保育士と男性保育士の両方を描くように指定し、再出力を行った。 ② 生成 AI 成果物確認のための利用者の知識向上 生成 AI は業務支援ツールとして有用である一方で、その出力内容をそのまま利用するのではなく、利 用者自身が内容の適切性を判断することが必要不可欠である。 5 著作権法第 35 条 課題例 対応例 18 このため、生成 AI の利用においては、利用者自身が成果物の妥当性を判断する力を習得することが 必要であることを念頭に置く必要がある。 従来の業務手順や判断基準への理解が不足している状況で、新人職員が業務上の不明点を全て 生成 AI に質問しており、生成 AI の出力の妥当性について確認が不十分な状態で生成 AI の回答を 基に業務を行っている。 生成 AI が補助的なツールである旨を周知した上で、従来の業務知識の習得を基本とした上で補完 的に活用するよう指導する。また、生成 AI 利活用に関する研修を実施し、当該団体の実態に合わせ た適切な使用方法を指導する。 （5） 規制やガイドラインの動向 生成 AI の適切な利活用を推進するために、国内外では様々な規制やガイドラインの整備が進められている。 各自治体等は適宜以下の指針等も参照し、適切な利活用方法を検討することが求められる。特に「ア 分野共 通の指針(国内)」については導入前に参照することを推奨する。 なお、以下に示す指針等の更新版のほか、新たに策定される指針等についても適宜情報を収集し、必要に応 じて参照した上で、生成 AI の利活用を行うことが望ましい。 ア 分野共通の指針（国内） 生成 AI の適切な利活用を推進するため、国内の関係機関等においては以下の表のとおり、分野問わず生 成 AI の利活用にあたって考慮すべき事項に関する指針等の整備が進められている。 図表 9 国内における生成 AI の一般的な利活用における指針 所管省庁 組織 取り組み/成果物 概要 公表時期 デジタル庁 デジタル社会推 進会議幹事会 ChatGPT 等の 生成 AI の業務 利用に関する申 合せ(第２版) 省庁において各府省庁のセキュリティポリシ ーに従って個別にリスク管理を行っているこ とを前提とした上で、関係省庁において生 成 AI を活用する際に注意するべきポイント を整理した文書。 2023 年９月 15 日 総務省 情報流通行政 局 情報流通振 興課 生成 AI はじめ の一歩～生成 AI の入門的な 使 い 方 と注意 点～ 今後の生活の中で生成AI を活用しうる国 民向けに、 生成 AI の基礎知識、生成AI の活用場面や入門的な使い方、生成 AI 活用時の注意点を紹介する教材を掲載し た文書。 2024 年４月 12 日 課題例 対応例 19 所管省庁 組織 取り組み/成果物 概要 公表時期 総務省 経済産業 省 ― AI 事業者ガイ ドライン（第 1. 1 版） AI の安全安心な活用を促進するため、国 内における AI ガバナンスの統一指針を示 し、AI 活用事業者が国際動向を踏まえた リスクを認識し、ライフサイクル 全体で必要 な対策を自主的に実行できるよう支援する 文書。 2025 年 3 月 28 日 経済産業 省 商務情報政策 局 情報技術利 用促進課 生成 AI 時代 の DX 推進に 必要な人材・ス キルの考え方 2024 ～変革のための 生成 AI への向 き合い方～ 日本の一般企業向けに、生成 AI を適切 に利用するための人材やスキルの考え方に ついて、現時点で考えられる対応を取りまと めた文書。 2024 年６月 経済産業 省 商務情報政策 局 情報経済 課、商務情報 政策局 情報産 業課、経済産 業省 製造産業 局 AI の利用・ 開 発に関する契約 チェックリスト 幅広い読み手・利用場面を想定し、AI 技 術を用いたサービスの契約実務に関するチ ェックリストとして、法的リスクやデータの不適 切な利用を避けるための具体的なチェック ポイントを取りまとめた文書。 2025 年２月 18 日 イ 分野別の指針（国内） 生成 AI の適切な利活用を推進するため、国内の関係機関等においては以下の表のとおり、分野ごとの利 用シーンやリスクに応じた生成 AI 活用の指針を整備している。各自治体等は、生成 AI の利活用を検討する 際は、該当する分野の指針を参考に、具体的なリスク対策や活用方法を検討することが望ましい。 図表 10 国内における生成 AI 利活用におけるユースケースやリスクごとの指針 所管省庁 組織 取り組み/成果物 概要 公表時期 デジタル庁 ― テキスト生成 AI 利 活用における リスク への対策ガイドブッ ク（α版） 政府情報システムへの生成 AI 導入に 関わる行政職員を対象に、テキスト生 成 AI 利活用における リスクに焦点をあ て、提供形態と 利活用方法で 分類。 想定リスクとリスク軽減策を具体的に示 した文書。 2024 年５月 29 日 経済産業 省 商務サービス グループ文化 創造産業課 コンテンツ制作のた めの生成 AI 利活 用ガイドブック コンテンツ制作において生成 AI を利活 用する際の、法的留意点及び 対応策 を検討した成果をまとめた文書。コンテ ンツ制作へ生成 AI の利活用を促進す るため、特にゲーム・アニメ・広告の各産 業における利活用ケースを調査。知的 2024 年７月５日 20 所管省庁 組織 取り組み/成果物 概要 公表時期 財産権等の権利や利益の保護に配慮 した、コンテンツ制作における生成 AI の 適切な利活用の方向性を示す。 文化庁 著作権課 AI と著 作権 に関 するチェックリスト＆ ガイダンス 「 AI と著作権に関 する考え方につい て」等で示された考え方の解説資料と して、生成 AI の利活用における、著作 権に関するリスクを低減させるための 取 組や、自らの権利を保全、行使するた めの取組を、ステークホルダごとに整理し た文書。 2024 年７月 31 日 内閣府 知的財産戦 略推進事務 局 AI 時代の知 的財 産権検討会 中間 とりまとめ 主に生成AIと知財をめぐるリスクへの対 応と、AI 技術の進展を踏まえた発明の 保護の在り方について、必要な対応方 策を検討するための 検討会の 報告文 書。生成 AI と知財をめぐるリスクについ て、法律、技術、契約の視点から対応 策を示す。 2024 年５月 文部科学 省 初等中等教 育局 初等中等教育段 階における生成 AI の利 活用 に関 するガイドライン （Ver.2.0） 学校教育関係者を対象に、学校現場 における生成 AI の適切な利活用を実 現するために、生成 AI の概要や基本 的な考え方、押さえておくべきポイントを まとめた文書。 2024 年 12 月 26 日 ウ 分野共通の指針（海外） 生成 AI の適切な利活用を推進するため、海外の関係機関等においても、分野問わず生成 AI の利活用に あたって考慮すべき事項に関する指針等の整備が進められている。各国際機関等で策定された主な指針や法 令は以下の表のとおりである。 なお、これらには従来型の AI（データの分析や予測、分類等）に関する内容も含まれているが、生成 AI の 活用においてもその基本的な考え方は参考になるため、利活用方法の検討において必要に応じて参照された い。 図表 11 海外における生成 AI の一般的な利活用における関連資料 組織 取り組み/成果物 概要 公表時期 G7 全ての AI 開発者向け広島 プロセス国際指針 2023 年 10 月 30 日に公表された「AI 開 発者向けの国際指針」を基に、高度な AI シ ステムの設計・開発・導入・提供及び利用に 関わる全ての関係者が、適宜適用すべき12 項目を示した文書。 2023 年 10 月 30 日 OECD AI 原則 AI技術が社会に与える影響を管理し、AIを 信頼できる形で発展させるための 基本的な 2019 年５月 22 日 21 指針。特に、AI の倫理的な使用、社会的 責任、プライバシーの保護、人権の尊重、透 明性、説明責任、持続可能性、そして公平 性に関する原則が重要である。 EU EU AI 規制法 リスクベースのアプローチによって AI をリスクの 程度で分類し、その程度に応じた規制が適 用される制度。また、EU 域内に所在してい ない日本企業であっても、EU 域内で AI シス テムを上市する等のプロバイダー に該当する 場合、本規制の適用を受ける。 2024 年７月 12 日 エ 分野別の指針（海外） 生成 AI の適切な利活用を推進するため、海外の関係機関等においても、以下の表のとおり、分野ごとの利 用シーンやリスクに応じた生成 AI 活用の指針を整備している。 図表 12 海外における生成 AI 利活用におけるユースケースやリスクごとの指針 組織 取り組み/成果物 概要 公表時期 UNICEF Policy Guidance on AI for Children 政府及び民間部門における AI ポリシーとその実 践において、AI システムがこどもの権利をどのよう に促進又は損なう可能性があるかについて周知 する指針。 2021 年 11 月 世界経済 フォーラム Artificial Intelligence for Children テック企業や保護者に向けて、こどもや青少年向 けの AI 製品の購入と使用に関する意思決定を 支援する文書。 2022 年３月 29 日 Thorn, All Tech Is Human Safety by Design for Generative AI: Preventing Child Sexual Abuse 生成 AI の活用によるこどもへの性的被害を防ぐ ために、設計開発の初期段階に限らず、機械学 習のライフサイクル全体 でセーフティーバイデザイ ンを意識すべきということを示したガイドライン。 2024 年４月 22 3.2.生成 AI の導入 3.2 章では、実証を通じて得られた知見に基づき整理した自治体及びこども・子育て関連施設における生成 AI 導 入の具体的なプロセスと関係する法令や組織のポリシー等への対応方法について紹介する。 ＜要約＞  生成 AI 導入の具体的なプロセスは 3 つのフェーズに分けられる。  企画検討フェーズでは 、現状分析による課題把握から始まり、目的の明確化、解決策の検討、製品・サー ビス選定、導入計画の具体化までを進める。特に、現場職員の声を丁寧に聞き取り、こどもに対する生成 AI の影響を考慮して検討することが重要である。  導入準備フェ ーズでは、実装環境の構築、製品・サービスの調達、職員への研修実施、マニュアル整備等、 実務的な準備を行う。こどもの安全や個人情報保護を最優先した環境構築や、現場職員の ICT リテラシ ーに配慮した研修設計が求められる。  導入・運用フェーズで は、本格運用開始後の課題対応、利用促進施策の実施、効果測定と継続的な改 善を行う。効果測定には定量的・定性的な指標を組み合わせ、結果に基づいてシステムや業務フローの見 直しを継続的に行うことが重要である。  個人情報保護法や地方公共団体に おける情報セキュリティポリシー、著作権法といった法令・ポリシー等への 適切な対応も不可欠である。なお、本章の指針は実証事例を踏まえており、各組織の状況に応じてカスタマイ ズすることを想定している。 （1） 生成 AI 導入の流れ 生成 AI 導入に向けては、以下に示す 3 つのフェーズにおける作業項目や留意点等を確認されたい。各自治体 及びこども・子育て関連施設等においては、本フェーズに沿って生成 AI の導入に向けて取り組んでいただくことを想 定しているが、各取組や留意事項は本事業の実証事例を踏まえて記載しており、各組織の状況に応じて作業 項目の整理をされたい。 図表 13 生成 AI 導入の流れ 23 （2） 企画検討フェーズ 企画検討フェーズでは、現状分析による課題把握から始まり、導入目的の明確化、解決策の検討と情報収 集、そして具体的な計画策定を進める。特にこども・子育て分野では、こどもの権利を守ることやこどもに関する個 人情報の適切な取り扱い、現場の保育士等の専門性を踏まえた導入計画が求められる。 ア 現状分析・課題の把握 現状分析による業務課題の整理においては、現場の職員や専門知識を持つ関係者（自治体のデジタル 関連部門等）からの意見・情報収集が重要である。こども・子育て支援に携わる職員に加え、保育士や児童 福祉司といった第一線で支援に当たる専門職の声を丁寧に聞き取ることで、表面的には見えない課題や懸念 点を把握できる。特にこどもや保護者に対して、生成 AI の活用がどのような影響をもたらすかを多面的に検討 することが重要である。 なお、課題の把握には、現場職員へのヒアリングやアンケート調査を通じた実態調査が効果的である。また、 業務の実態を示すデータ（業務処理時間のログやシステムのエラー率、残業時間の記録等）の分析により、 客観的な課題及び原因の可視化が可能となる。 実証における自治体では、業務課題の把握にあたり、関連部署の職員へのアンケート調査やヒアリング調 査、事業者からの情報収集等に取り組む事例が確認された。  アンケート調査の実施  制度所管課でこども・子育 て関連部署の職員に向け、広くアンケートを実施した。アンケート対象者 は生成 AI や ICT に関する知識にばらつきがあったが、事前に課題に関する仮説や業務イメージを 整理し、回答者の知見の程度によらず回答可能な設問設計を行ったことで、業務課題を具体的に 把握することができた。この結果、現場の状況や潜在的なニーズを定量的に把握することができた。  ヒアリング調査の実施  事務作業の負担 を課題としているこども・子育て関連部署の職員に対し、日々の業務で感じている 課題や、生成 AI に対する期待感について聞き取りを行った。この結果、文書作成業務や情報整 理作業における具体的な効率化ポイントを特定することができた。  育児経験を有す る職員から、保護者の視点に基づく子育て世帯特有の課題について個別に意見 の聞き取りを行った。この結果、行政サービスの利用者である保護者が実際に直面する情報アクセ スの課題や相談ニーズ等を明らかにすることができた。  事業者からの情報収集  既存の行政システム等に関与する協力事業者に対して、生成 AI 技術の活用事例や他組織にお ける導入事例に係る情報提供依頼を行い情報収集した。この結果、こども・子育て分野特有の要 件を踏まえたシステム連携の可能性や技術的制約等、実装に向けた具体的な課題と解決策を特 定することができた。 実証での取組み例 24 イ 解決策の検討 解決策の検討においては、特にこどもの発達支援や保護者対応等の配慮が必要な業務については、生成 AI をどこまで活用するかの線引きを慎重に行う必要がある。また、専門的判断が求められる業務は、生成 AI が支援する形であっても最終判断は専門知識を持つ人間が担うことが望ましい。 また、課題解決に向けた生成 AI の活用について、以下の 4 つの手順で検討する。 図表 14 解決策の検討手順 ① 目標の明確化・事例等の情報収集 課題のある現行業務について、あるべき姿や到達目標を明確化する。そのうえで、他団体における生成 AI 導入事例や民間事業者が提供するソリューションに関する情報収集を行う。実証における具体的な事 例については本ハンドブック「第４章︓事例編」及び別添「実証結果報告」にまとめているため、参照され たい。 ② 生成 AI 活用が適しているかの見極め 特に生成 AI 導入の検討においては、課題が生成 AI で解決可能なものかを見極めることが重要である。 分析した課題や要因について、収集した情報等を基に、生成AI による解決可能性を評価する。この評価 では、生成 AI の特性との適合性、技術的な実現可能性、導入による効果の見込み等を総合的に検討 する。これにより、課題の発生要因が生成 AI で解決可能なものであるか否かを見極めることができる。 なお、こども・子育て分野では、住民（保護者等）向けのサービス提供を目的とするのか、職員の業務 支援を目的とするのかによって、必要な機能や考慮すべきリスクが大きく異なる点に留意が必要である。 住民向けサービスの場合は、幅広い利用者層に対応するためのわかりやすいインターフェースや多言語 対応等が求められる一方、専門知識の少ない利用者による誤解や誤用のリスクへの対策が不可欠となる。 これに対し、職員向け業務支援では、業務ワークフローとの連携や専門的な行政用語・法令への対応力、 内部情報との連携機能が重視され、職員の専門性を補完し業務効率を高める設計が求められる。このよ うに対象者によって求められる機能要件や安全対策は大きく異なるため、導入目的を明確にした上での 設計が重要である。 実証においても、住民向けに生成 AI サービスを展開する場合は、利用者に対する注意喚起を入念に 行った。具体的には、入力時に個人情報を含めないよう明示的な警告を表示したり、誤った情報が含ま れる可能性（ハルシネーション）について事前説明を徹底したりする等の対策を講じた。 目標の明確化・事例等 の情報収集 生成 AI 活用が 適しているかの見極め 生成 AI を活用した 具体的な解決策の検討 生成 AI 導入範囲 の検討 実施 内容 現行業務の課題と目標を明確にし、 他団体の導入事例やソリューション 情報を収集する 課題が生成AIで解決可能かを、 技術的実現性や導入効果の観点か ら総合的に評価する 保育や行政サービスの質の維持・向 上を前提に、実際に利用する職員 目線で具体的な解決策を設計する 業務フローと照らし合わせて人間判 断が必要な領域とAI支援が効果的 な領域を区分する Step 1 Step 2 Step 3 Step 4 25 ③ 生成AI を活用した具体的な解決策の検討 生成 AI が適していると判断された業務について、具体的な解決策を設計する。こども・子育て分野にお いては、保育や行政サービスの質の維持・向上を前提としつつ、業務効率化による地方自治体や保育士 等の負担軽減、保護者向けサービスの向上等の観点から検討を進める。 例えば、実証においては、「導入のしやすさ、職員目線での取り組みやすさ」や「課題解決時の効果の大 きさ」といった軸で課題解決策を検討している団体が多く見られた。 また、実際に生成 AI を利用する職員目線で協議することで、運用上の懸念や導入効果の予測を踏ま えた、現実的な施策案を検討することができる。実証団体の中には、首長・部局長級、課長・係長級、現 場担当職員の三層に分けてそれぞれの立場で検討を行うことで職員目線の協議を実現する、制度所管 課にて検討した解決策を導入現場の職員に確認・選択してもらうといった、実際に運用する職員の視点が 抜けないように工夫している事例が見られた。また、生成 AI についての知見不足を補うため、既存の取引 事業者や個人的に生成 AI を利用している職員に情報提供を求めるといった取組みも見られた。 ④ 人間による判断部分の検討 ③で解決策を検討した後に、地方自治体や保育士等の実際の業務フローや利用者視点のフロー等と 照らし合わせ、生成 AI の導入範囲の検討を行う。 具体的には、対象となる業務について、人間による判断が不可欠な領域と生成 AI による支援が効果的 な領域を明確に区分することが重要である。 また、職員の人材育成方針や現場の ICT 利活用状況を考慮し、段階的な導入アプローチが推奨され る。特に初期段階においては、比較的リスクの低い業務から着手し、効果検証を行いながら範囲を拡大し ていく方法が有効である。 26 下記は課題の特定後、解決策及び導入範囲を検討した例である。また、同じ課題に対して、生成 AI 固有 のリスクを考慮せずに考案した活用例を非推奨例として示している。 住民の子育て支援制度情報へのアクセス支援・円滑化 こども・子育て支援に関する情報検索チャットボット 【理由】 従来の情報検索システムと比較した場合、生成AI を搭載したチャットボットは利用者目線で検索の利便性 向上が期待できるため。 【導入範囲】 生成される回答の精度を考慮し、導入初期は庁内での利用やテスト利用者として協力いただく一部の住 民への試行実施を行い、ノウハウを蓄積し、改善を重ねながら段階的に拡大する。 メンタルヘルス・育児相談チャットボット 【理由】 保育士や心理カウンセラー等の有資格者が実施すべき相談対応は、相談者の心理状態や背景にある複 雑な状況を適切に理解し、専門的な判断を伴う支援が求められるため。 なお、実証にて検証した「実証事例⑧保育施設等職員のカウンセリング支援」では、上記を踏まえ、有資格 者が実施すべきと考えられるカウンセリング行為は行わず、生成 AI との対話を通じて悩みの言語化を行うこ とを目的とし、必要に応じて人間のカウンセラーへのエスカレーション等を想定する等、非推奨のパターンになら ないよう運用を工夫している。（詳細は「第４章︓事例編」を参照。） こども・子育て関連の広報物作成に関する業務負担の軽減 イラスト素材・文章案の生成 【理由】 AI による生成物は、人間のチェックを前提とした下書きとして活用することで、倫理的な問題や著作権等に 関する問題を防ぎながら業務効率化を実現することが可能なため。 【導入範囲】 導入は組織内関係者向け資料から試行的に開始し、ノウハウを蓄積しながら利用対象の広報物を段階的に 拡大する。 広報物の直接公開 【理由】 AI が生成した広報物をそのまま利用・公開することは、文章や素材に含まれる倫理的な問題や権利侵害の リスクを見落とす可能性が高く、住民への誤った情報発信につながるおそれがあるため。 課題 推奨される活用 非推奨の活用例 課題 推奨される活用例 非推奨の活用例 27 ウ 製品・サービスの検討 具体的な製品・サービスの検討にあたっては、生成 AI に関連するサービスを提供する事業者への情報提供 依頼（RFI）や、見積・提案依頼（RFP）の実施が考えられる。 なお、製品・サービスを利用するにあたっては、組織固有のネットワーク環境やセキュリティポリシー等による制 約が予想されるため、デジタル関連部門等と連携して、検討段階から条件等を確認しておく必要がある。 実証で利用した具体的な製品・サービスについては、本ハンドブック「第４章︓事例編」及び別添「実証結 果報告」に記載がある。 なお、製品・サービスの検討パターンに関わらず、個人情報の取扱いや情報セキュリティに関しては事業者との 協議を行い、対応方針の擦り合わせを行うことが望ましい。具体的な確認事項については、「3.2.(5)法令・ポ リシー等への対応事項」を参照されたい。 ＜新規に導入検討する場合＞ 1. 組織内部で課題・解決イメージを検討し、要件を整理する 2. 上記の検討結果から調達仕様や選定要領を作成する 3. 情報提供依頼（RFI）や、見積・提案依頼（RFP）を通じて、事業者から提案を受ける 4. 事業者の提案内容を比較し、必要に応じて候補事業者に、要件の詳細や環境やポリシー等に係る 制約について確認する 5. 庁内で検討の上、調達手続きを行う。 ＜現行システムのAI 機能の活用を検討する場合＞（新規システムの調達が不要な場合※） 1. 現行システムに搭載された AI 機能について、その機能等仕様内容を確認する 2. 業務における AI 機能の利活用例等を参考に、活用方針等を計画する （必要に応じて、事業者に要件の詳細や、環境やポリシー等に係る制約について確認する） 3. 利用を開始する ※ 随意契約を推奨するものではない エ 導入計画の具体化 生成 AI の導入計画の具体化においては、関連する他部署・他機関との連携を行い、役割分担や導入スケ ジュール、実施体制、必要な予算等を整理し、組織全体での合意形成を図る必要がある。特に、生成 AI の 利用主体が保育施設の場合、保育の質の維持・向上に資する導入となるよう、自治体における こども・子 育て関連部署との連携が重要である。また、情報セキュリティの観点等から、デジタル関連部門との連携も 重要である。 さらに、生成 AI の安全かつ効果的な利用のためには、各自治体において生成 AI 利用における責任者を明 確に設置し、全ての利用に対して事前承認プロセスを設ける必要がある。なお、承認後も継続的に利用状況 や出力結果をチェックする管理体制を構築し、定期的な見直しを行うことが重要である。 実証における検討パターン例 28 実証では、利用部署、契約関連部署、デジタル関連部門等、関係部署の役割分担を明確にした。特に保 育施設への導入を検討する場合は、各施設の特性（認可・認可外の別、ICT 環境の整備状況等）を考慮 しつつ、自治体が主体となり、保育施設側の対応事項を整理することとした。 また、導入現場の職員に対し、既存の運用への影響や対応事項について説明を行い、業務プロセスの変更 が生じる場合は、導入前に必ず調整の上、周知することとした。なお、詳細は下記の取り組み事例を参照され たい。 実証ではこども・子育て部門が導入主体となり、他部署と適宜連携を図りながら生成 AI 導入を進めてお り、主に下記の管轄部署との連携が多く確認された。実際の導入検討においては、自治体によって連携が 必要な観点は異なるため、あくまでも参考とされたい。  デジタル関連部門（DX 担当課、ICT 担当課、情報システム課 等）︓ネットワーク環境等の整備 についての助言、セキュリティ・個人情報に関するポリシー等についての助言・確認、生成 AI に入力す る情報の機密性に関する確認・助言 等  契約関連部門（契約課 等）︓利用規約の確認、調達仕様書についての助言 等  政策関連部門（政策室 等）︓庁内の 類似施策における 知見提供、実証計画 の確認・助言 等 保育施設等で実証する事例では、自治体が主導的な役割を担い、現場での運用方法や必要な対応 事項を整理して取り組んだ。 ①実証開始前 参加施設の責任者や職員に対して実証の目的や期待される効果等について説明会を実施し、理 解を得たうえで導入現場となる施設を選定した。生成 AI の導入を進めるにあたり、施設間で ICT 機 器等の整備状況にばらつきがあることや、生成 AI に対する各施設の考え方が異なることを踏まえ、自 治体が保育施設等の立地や設備を考慮して候補施設を選定した事例があった。 ②導入先選定後 確実な協力体制の構築、円滑な生成 AI 導入・運用の実現のため、生成 AI を利用する保育施 設等の職員に向けた説明会を実施した。事業の目的・意義や、新たに導入される生成 AI の機能につ いて説明した。説明を実施するにあたり、なるべく専門用語を使わずに説明したり、デモンストレーション を実施してより具体的な利用イメージを伝えたり、事前に理解を得るようにした。 ③実証開始後 保育施設等職員に向けて、操作研修の実施やヘルプデスクや問合せフォームの設置、操作説明マ ニュアルの作成・共有等の取組みが見られた。保育施設等職員が積極的に生成 AI を利用することは 効果測定等にも必須であるため、利用開始後も自治体もしくは事業者から支援ができる状況を用意 するようにした。 実証における庁内連携の取組み事例 実証における保育施設等との連携の取組み事例 29 （3） 導入準備フェーズ 導入準備フェーズでは、実際の導入に向けた実務的な準備として、実装環境の構築、製品・サービスの調達、 利用者への研修、運用ルールの整備を体系的に進める。特にこども・子育て分野では、不適切なコンテンツの防 止策や利用状況のモニタリングによるこどもの安全確保や個人情報保護を最優先とした環境構築、こども・子 育て現場職員の業務特性やICT リテラシーに配慮した製品サービスの調達や研修実施等が求められる。 ア 実装環境の構築 情報セキュリティの観点を含め多角的な視点で生成 AI の実装環境を検討し、構築する必要がある。以下 は実証における構築手順となるが、詳細については、「3.2.(5)イ 情報セキュリティ」を参照されたい。 こども・子育て分野では、こどもの発達記録や家庭状況等のセンシティブな情報を扱うため、セキュリティ対 策には万全を期す必要がある。また、こどもにとって不適切なコンテンツの防止策として、有害表現のフィルタリン グ機能の設計を検討することも重要である。また、こどもの安全を確保するための適切なモニタリング体制として、 生成 AI が提示するコンテンツを監視する仕組みや、不適切と思われる内容が検出された際のアラート機能等 も想定される。 実証では、ネットワークの制約のため、インターネット接続を通じた生成 AI の利用が困難な事例があったが、 既存の情報セキュリティポリシーの確認に加え、CIO 補佐官との連携やデジタル関連部門への事前相談を通じ て環境要件を整理した上で、実証用端末を用意し、安全な専用回線（閉域接続）でクラウドサービスにつな がる独立した環境を構築して、システム機能を実装した。これにより、一部情報の手入力等が発生する懸念は また、導入後も積極的に活用してもらうための機運醸成やより効果的な利用方法の模索・周知を 目的に、職員向けの勉強会を実施した。動画形式の教材を用いる等、効果的にノウハウ共有を行 い、利活用の更なる促進に繋げた。 ①保育 施設等における生成AI 導入に向けた同意取得 施設ごとに説明会を実施し、導入される生成 AI 製品・サービスの概要と留意事項について丁寧な説 明を実施した。特に、個人情報の提供については想定されるリスクと対策を提示した。また、説明会実施 後書面でも同意の有無を確認するようにした。１家庭でも不同意が回答された場合は、導入先施設の 選定のやり直しや、導入計画の縮小を検討するようにした。 ②住民が生成AI サービスを利用する際の注意喚起 例えば生成 AI チャットボットによる情報検索等のサービスを住民が直接利用する場合は、誤った情報 を生成 AI が回答してしまう可能性や個人情報等の機密性の高い情報について入力しないよう注意を 促す必要がある。具体的には、利用開始画面への注意事項の掲載や、自治体の Webサイト上での周 知等が考えられる。 実証においては住民の利用は自治体主催のイベント内での限定利用に留まったため、実際に自治体 職員が立ち会うことで利用上の注意を喚起した。 実証における保護者との連携の取組み事例 30 あるが、自治体におけるポリシー整備や環境整備が間に合わない場合の手法の一例となった。ただし、自治体 内のデジタル関連部門とは本方法をとるにしても、ポリシー等に抵触していないかどうかをよく確認を行う必要が あることに留意する。 図表 15 実証環境のイメージ また、導入事業者への依頼事項や役割分担を詳細に定め、実装時の責任範囲を明確にすることや、セキュ リティ対策として、システムへのアクセス制御方法やデータ管理の方針を整理することも重要である。 こども・子育て分野の専門用語登録変換機能 こども・子育て分野特有の専門用語や略語、独自表現が含まれる指示文（プロンプト）を生成 AI に 入力した場合、生成AIが指示内容を正確に理解できず、誤った回答をする事例が確認された。この問題 に対し、事業者と協議し、単語登録変換機能（専門用語と一般的な表現の対応付け）を実装環境に 組み込んだことで、生成 AI の理解精度が向上し、誤回答の発生が大幅に減少した。 イ 製品・サービスの調達 製品・サービスの形態によって契約方式は異なるが、生成 AI システムを一からカスタマイズして構築するケー スや既存のサービスに生成 AI 機能が組み込まれた形のサービス・製品を調達するケース等がある。それぞれの 形態に応じて調達仕様書を作成する必要がある。 生成 AI システムを構築する場合は、事業者に環境構築や運用支援等を委託することが可能である。保 育・子育て分野特有の要件として、保育や自治体の子育て業務に関する専門知識を有する運用支援体制 や、保育施設・自治体子育て部門向けのヘルプデスク対応等を含めることが望ましい。この場合、調達仕様 書を通じて必要な要件を明確に示すことが重要である。 また、実証で特に注意したポイントとして、生成 AI のモデルによっては入力情報が海外にあるサーバに保管さ れる場合もあるため、リージョン（サーバが設置されている地理的な地域）を確認した。さらに、サービス提供者 がログを保存したり、入力情報が学習に使われたりすることがあるため、これを回避するための手続（オプトアウト 申請等）の有無を確認した。詳細については「3.2.(5) 法令・ポリシー等への対応事項」を参照されたい。 実証における実装環境例 31 ウ 導入前準備 生成 AI の導入に先立ち、現場職員への研修、リハーサルを実施する。こども・子育て分野では、不適切なコ ンテンツからの保護や個人情報の適切な取扱いを通じたこどもの安全の確保や保護者対応を最優先としな がら、以下①～③に挙げるような円滑な導入を実現するための準備が必須である。 準備不足は、リリース時のトラブルにも繋がる。実証におけるトラブル事例については「3.2.(4)導入・運用フェ ーズ」を参照されたい。 ① 研修 こども・子育て分野では、保育士や児童福祉司等様々な専門職が従事しており、自治体の現場職員 含め ICT リテラシーにも差があることを考慮した研修設計が必要である。 研修プログラムでは、ICT の基礎的な知識、生成 AI の基本的な仕組みと特徴、生成 AI 特有の注意 点や使用上の留意事項、そして効果的な指示文（プロンプト）の作成方法について説明するほか、基 本的な操作について具体的な業務での利用イメージが湧くよう実践形式での練習を行う等するとよい。基 礎的な知識を習得するだけでなく、実践も行うことで、職員による生成 AI のより効果的な活用が期待で きる。 また、利用の際に安心して生成 AI サービスを利用できるように、生成 AI の利活用に係る相談先や不 適切な使用に係る問合せ先も併せて案内できると望ましい。 研修の実施主体は、自治体のデジタル推進部門と子育て担当部門が連携して実施するケースや、 協力事業者に依頼するケース、また両者が連携して実施するケース等様々である。いずれの場合も、 こども・子育て分野の特性を踏まえた内容と分かりやすさを重視した工夫が見られた。  子育て担当部門と協力事業者が連携し、保育施設を訪問して実施する研修 説明会の際は市職員と協力事業者で訪問し、専門用語を避けた平易な説明や具体的なユー スケースのデモンストレーションを行い、AI の利用イメージを明確化した。また、実証の目的や意義、 ユースケースのコンセプト、保育施設における協力範囲の想定についても丁寧に説明を行い、実証 への協力の理解を得られた。  複数自治体が共同で実施する生成AI 活用勉強会 個々の業務の仕方や考え方等に合わせて、生成AI 機能の使い分け等を習得することが重要で あるとの考察から、単に利用方法を説明するのではなく、動画素材も活用して具体的な使用例とそ の結果を示した。その結果、参加者の生成 AI ツールに対する不安や抵抗感を軽減することがで き、スムーズに実証に取り組むことができた。  他団体における生成AI の活用事例の収集・共有 保育職員それぞれの業務特性に合わせた生成 AI 活用スキルの習得を促進するため、同一ユー スケースを実証する複数団体から文章生成 AI 活用事例を収集し、実証に参加する全ての保育 施設と共有した。 実証における研修例 32 ② マニュアル 研修の実施と併せて、職員が生成 AI サービスの利用時に常に参照できるよう、操作説明や画面UI の 説明、留意点（生成 AI の出力情報を二次利用する場合の責任等）等をまとめた手引きをマニュア ルとして作成することが望ましい。 また、こども・子育て分野では、こどもや保護者の個人情報等、高い機密性を要する情報を取り扱うこと が多いため、どのような情報を AI に入力してよいか、具体的な判断基準を示すことが求められる。そこで、 マニュアルには、個人情報や要機密情報の取扱い、関係法令や組織の情報セキュリティポリシー等に関連 する運用ルール等も盛り込む必要がある。 なお、保育施設等に向けたマニュアル等を整備する場合は、施設ごとに ICT リテラシーや ICT 機器の 整備・活用状況が異なることに留意する必要がある。  実際の操作画面を掲載し、各画面の機能説明や操作手順、利用フローを視覚的にわかりやすく 解説  実際の利用イメージを持ちやすくするため、生成 AI の出力結果の具体例を掲載  デジタル庁「ChatGPT 等の生成 AI の業務利用に関する申合せ（第２版）」を参考に、テキス ト生成 AI チャットの利用上の注意事項や留意点を記載  システム概要︓サービスの概要、サインイン・ログイン 方法、画面の構成と操作方法、画面遷移 等  利用手順︓必要なデータ・情報の準備方法、生成AI への指示入力方法、データ登録の手順、 出力結果の確認 等  利用例︓入力する指示文（プロンプト）や出力結果サンプル 等  基本ルール︓生成 AI の利用に関する方針や取決め（アカウント管理やシステムの利用範囲、 利用端末や利用環境等） 等  利用時の注意事項︓生成 AI の特性（ハルシネーションが起こりうること等）に関する説明、出 力結果の検証方法、誤った情報が含まれていた場合の対処法、緊急時の対応手順 等  よくある質問（FAQ）︓事前に想定される利用者からの質問と回答 等  問合せ先︓トラブル発生時の報告先やシステム操作に関する問合せ先  参考情報︓効果的な活用事例、指示文（プロンプト）集 等 ③ リハーサル こども・子育て分野の現場特有の状況として、こどもの様子を観察しながら生成 AI を利用する場合がある ことや、保護者対応の際に迅速な情報確認が求められること等を想定したリハーサルも重要である。このリハー サルでは、研修で学んだ内容を踏まえ、職員が利用する際に生成 AI が期待通りの動作をするかを検証する ことが主な目的であり、実際の業務を想定した利用環境下で行うことが望ましい。 特に、こども・子育て分野の現場では有害コンテンツの表示の防止や発生時の対応や保護者への連絡等、 即時の対応が必要な場面も多いため、システムトラブル時の代替手段についても事前に確認しておくことが求 実証におけるマニュアル作成のポイント マニュアル構成例 33 められる。また、生成 AI の出力結果を人間がどのように確認・判断するかのプロセスも明確にしておく必要があ る。 （4） 導入・運用フェーズ 導入・運用フェーズでは、こども・子育て現場における生成 AI の導入・運用、効果測定と継続的な改善を進 める。 ア 導入・運用 円滑な運用のため、導入初期は生成 AI の業務での活用範囲や利用者を限定する等して段階的に導入を 進めることが重要である。特に、運用開始直後は、現場からのフィードバックを迅速に収集し、初期の課題に対 応することが重要である。 実証では、相談記録を作成するために生成 AI を導入し、利用の度に利用者である保育施設等職員にアン ケートの回答を依頼していた。その結果、「相談の音声記録から文字起こしを作成する際に、固有名詞の間違 い等が多発している」や「文字起こし記録から要約を作成するように指示しても、実際の内容と異なる要約結果 が生成される」といった具体的なフィードバックが寄せられたため、直ちに生成 AI の再調整や指示文（プロンプ ト）の修正を通じて対応した。このように、導入前の準備では実際のデータを用いての検証は難しく、運用を 開始してから顕在化する問題も多いため、この段階での現場の声に基づく迅速な調整が、利用定着への鍵 となる。 同時に、情報システムに関するトラブルにも迅速に対応できる体制を整えることも重要である。デジタル関 連部門と連携する等して主管課が中心となってトラブル対応を行うことで、現場の不安を解消することがで きる。特にこども・子育て分野では、こども・保護者への影響を考慮し、必要に応じてサービスの一時停止を含め た迅速な対応が求められる。 34 実証において確認されたトラブルと対応事例は以下のとおりである。 組織の環境・ネットワーク上の制約に関するトラブル  運用開始後、実際に業務で利用している情報を入力したところ、生成 AI が処理できずエラーが発生し た。  コンテンツフィルターが生成 AI の利用を妨げていることが判明した。  解決策として、コンテンツフィルターの解除もしくはフィルタリング設定の見直しを実施した。  生成 AI チャットの利用時に、質問は入力できるが、回答が表示されない。  組織で導入していた仮想ブラウザが生成 AI の正常な動作を妨げていた。  解決策として、生成 AI 利用のための端末を用意し、仮想ブラウザを導入していない専用端末と して設置した。 現場における生成AI 利用率の伸び悩み  運用開始後、現場職員による生成AIの利用がなかなか行われず、利用率が伸び悩んだ。理由は様々 であり、既存の運用を変更することに抵抗を示すケースや、生成 AI の利用に慣れていないために利用を ためらうケース等があった。  現場に操作等の相談を受けるための担当者を配置したり、運用開始後も定期的に操作支援を行 った。  利用率の高い組織の現場職員から好事例とその指示文（プロンプト）を収集し、勉強会を開催 し、他組織の現場職員に展開した。  定期的に生成 AI の利用を現場職員に対して口頭で呼びかけ、業務に組み込むように促した。  相談対応時の録音等、関係者に同意を取る必要があったユースケースにおいては、録音への抵抗感か ら実証がなかなか進まなかった。  同意取得に向けて、録音された音声データがどのように利用されるのか、何の目的で録音を行うの か、丁寧に説明した。 イ サービス利用促進に向けた取組み 生成 AI の効果を適切に評価するためには、十分な利用データの蓄積が重要である。利用実績が少ない場 合、サービスの効果測定や改善点の特定が困難となり、結果として適切な改善施策を講じることができない。 そのため、サービス開始時から積極的な利用促進に向けた取り組みを実施することが望ましい。例えば、自 治体内の広報媒体（ウェブサイト、広報誌、SNS）を活用し、サービスの概要や具体的なメリット、実際の利 用シーンを示すことで、利用者の関心を高めることが可能である。 利用促進と同時に、利用による利点、利用方法、リスクやデメリットを軽減又は回避するための対策の明示 が求められる。 ①生成AI 利用者（自治体・保育施設等職員）に向けた説明の実施  こども・子育て分野における生成 AI 利活用の必要性について図解を用いて説明  日々の業務を行う中で、積極的に生成 AI の利用を呼びかけ、実証への協力を要請 ②生成AI 利用者（自治体・保育施設等職員）に向けた利用補助 トラブル事例 実証における利活用促進に向けた取り組み 35  業務担当職員に業務効率化の観点で利用してもらえるよう、生成 AI をどのように利用すれば期待 する出力結果が得られるかといったノウハウを共有し、少ない作業工数で成果を出せるよう支援  研修・マニュアルだけでは操作に慣れることは難しいという職員の意見を踏まえ、実証の主管課担当 者が操作補助等で支援  利用率が伸びない施設に対して、利用率が高い施設で用いられている利用例や指示文（プロンプ ト）例を提供 ③生成AI 利用者（こども・保護者）に向けた利用補助  自治体主催のイベント内で生成 AI サービスを住民向けに体験してもらう際に、操作補助や質疑応 答に対応できるよう、自治体職員や事業者を補助役として配置 ウ 効果測定・改善・見直し 運用と並行して、当初設定した目標に対する達成度を定量的・定性的に評価し、システムの改善や運用 方法の見直しを継続的に行うことが重要である。 ① 効果測定・分析 実証においては、短期的な業務改善効果を把握するための指標として KPI（Key Performance Indicator︓重要業績評価指標）を、長期的な目標達成度を把握するための指 標として KGI（Key Goal Indicator︓重要目標達成指標）をそれぞれ定めた。 指標は定量的な指標と定性的な指標を設定し、これらを組み合わせることで、より包括的な効果測 定を可能とした。 定量的な指標は数値やデータで測定することができ、客観的な評価であるため、生成 AI 導入前後の 差分の比較や、継続的な生成 AI 利活用による利用状況の変化等を分析することができる。実証では 利用者に対するアンケートや生成 AI システムでモニタリングしたデータから測定した。なお、生成 AI システ ムのモニタリングによるデータ収集はあらかじめ各種データの収集頻度やデータの取得方法について、取得 するデータに偏りがないよう事業者と運用前に協議しておく必要がある。 一方、定性的な指標は数値ではない言葉や文章で表現される質的な情報であり、主観的な評価で あるため、数値のみでは分析できない利用者からのサービスへの意見や住民からの所感等を取りまとめる ことができる。実証では利用者に対するアンケートやヒアリングにて測定した。 36 下記は実証における効果測定指標の例である。実証では、保育記録作成時間の削減率といった定 量指標や、生成 AI 導入による業務改善に対する職員満足度といった定性指標を組み合わせた効果 測定が行われた。 ①定量的な指標  業務時間の削減率  相談１件あたりの対応時間の短縮時間  住民向けイベントの参加者数の増加数 ②定性的な指標  職員・住民からのサービス満足度の向上  広報物の閲覧数及びポジティブな評価の増加  保護者から保育施設等に対する好意的なコメントの増加 ①定量的な指標  こども・子育て相談窓口に対する住民からの満足度の増加  こども・子育て支援制度・イベントの利用率の増加  保育施設等職員の離職率の低下 ②定性的な指標  住民向けイベントの成功事例の増加  自治体のこども・子育て支援制度への住民からの評価の向上  自治体及び保育施設等職員の仕事に対するモチベーションの増加 上記のような効果測定指標として取得したデータを用いて、生成 AI 導入による効果を分析・評価する。 実証における効果測定の分析・評価結果の詳細については、本ハンドブック「第４章︓事例編」におけ る各事例紹介及び別添「実証結果報告」を参照されたい。 分析結果を評価する際は、先入観やバイアスに繋がる情報や仮説を排除し、複数人の視点から評価 結果を作成することが望ましい。 ② 改善・見直しの実施 生成 AI をより効果的に利活用するために、①で測定した結果を運用やシステムの改善・見直しに繋げ ることが重要である。特に、設定した目標値よりも結果が下回った場合はその要因について、収集したデー タ等から分析することが重要である。実証で確認できたケースや考え得るケースについて、以下例示する。 なお、こども・子育て分野おける保育士等や地方自治体の負担軽減、保護者向けサービスの利便性 向上等の観点から、生成 AI の適切な活用を検討することが重要であり、分析の結果、費用対効果の点 から効果を見込むことが難しいと判断したケースについては、各自治体や保育施設等の実態に照らし合わ せ、その継続可否について適宜判断をしていくことが求められる。 実証におけるKPI の例 実証におけるKGI の例 37 ①生成AI システム・アプリケーションの見直しが必要なケース システムの利便性や出力結果への不満については、事業者との協議の上で、生成 AI の改修作 業を行うことで改善できる場合がある。 画面 UI の改善要望や、利用時に感じた不便な点については、利用者に対するアンケート等を通 じて定性的な情報として取得・分析できる。 一方、生成 AI の出力結果に対する不満は生成 AI の回答に対する「Good/Bad」等の評価機 能、指示文（プロンプト）の難易度は同じ指示文（プロンプト）の再試行回数や会話の中断率と いった利用者の行動データを通じて、出力結果に対するフィードバック結果として定量的な情報を取 得・分析できる。改修や機能追加について事業者と協議する際には、どの程度の改善効果が生まれ るかといった費用対効果も考慮の上、検討する必要がある。 ②BPR の視点から業務フロー等の見直しが必要なケース 既存の業務内容を単純に生成 AI で代替したことで、人（職員）が作業するよりもサービスの品 質が低下した場合は、従来の複雑な業務フローの見直しを行うことが考えられる。 生成 AI を既存の業務フローにそのまま追加したことで、入力作業と確認・修正作業が二度手間と なり、かえって業務負担が増加した場合は、生成 AI が担当すべき業務領域の見直しを行い、生成 AI にはアイデア出しを担当させ、残りの作業は職員が文章の成形やイラストの検索を行う、といった調 整を検討できる。 ③現場でのICT 活用の浸透や職員の生成AI 活用におけるスキル向上が必要なケース 特に短期間で効果測定を実施した場合は、現場の ICT 環境や利用する職員のスキルによって、 期待した作業時間の削減や満足度の向上を見込めないことがある。この場合は、活用がうまく進んで いる好事例を紹介して心理的なハードルを下げ、段階的に職員向けの研修やマニュアル整備に取り 組むことで、長期的な視点から改善を見込める可能性がある。 実証では生成 AI への指示文（プロンプト）の入力の仕方で出力結果の精度が大きく変わったと いう声もあり、システムによる改善だけでなく、職員間で効果的な質問例を共有することを通じて、指 示文（プロンプト）入力のコツを習得すること等が対応として考えられる。 （5） 法令・ポリシー等への対応事項 生成 AI の導入にあたっては、関係する法令や組織のポリシー等を網羅的に確認し、必要な対応を行う必要が ある。本事業の実証で確認された留意事項を中心に、代表的な対応事項を以下に示す。 なお、法制度や規制等は今後も整備が進められることが予想されるため、最新の動向を注視し、随時運用方 針の見直しを行うことが重要である。特に、新たな規制や禁止事項が設けられた場合には、速やかに対応できる 体制を整えておくことが望ましい。 実証を通じて整理した改善・見直しパターン例 38 ア 個人情報等の取扱い 生成 AI で個人情報を取り扱う場合は、個人情報の利用目的を特定するとともに、生成 AI サービスにおけ る個人情報の取扱い範囲を明確化する等して、適切な対応を取る必要がある また、上記法令等を踏まえた上で保育施設・地方自治体等の判断のもと、利用者に対して生成 AI の利用 目的や取扱う情報の範囲、安全管理措置等について、丁寧に説明することが重要である。そして、その他の個 人情報の取扱いについては、個人情報保護法をはじめ、個人情報保護委員会が定める各種ガイドライン（個 人情報の保護に関する法律についてのガイドライン等）を確認されたい。 ※以下、実証の中で個別に整理し、実施した事項を例として挙げている。  生成 AI の導入対象に決定した保育施設等において、児童の保護者に向けた説明会を実施した。特 に、生成 AI の導入に伴う個人情報の取扱いについて説明を行い、後日保護者から同意書の提出を してもらうことで、同意を確認した。  音声データのように個人情報の特定・削除が難しいインプット情報を用いる場合は、音声データをテキス ト化したものに対してマスキング処理を実施し、その後生成 AI に入力させた。  カメラの設置や撮影した映像の分析を実施する実証事例においては、保護者から同意を取得した上で 実施した。  個人情報をはじめとする自治体における要機密情報（自治体機密性２又は３に該当する情報）は 国内のデータセンター利用を原則とした。  生成 AI に入力した情報やその出力結果が生成 AI モデルの学習に使われる規約になっていないか、生 成 AI モデルの規約を確認した。生成 AI が入力情報及び出力結果を学習する規約となっていた場合 は、その学習を拒否する申請手続きを行うことで、要機密情報が生成 AI モデルの学習を通じて流出し ないよう防ぐことで対応した。 イ 情報セキュリティの徹底 自治体の情報セキュリティについては、総務省より「地方公共団体における情報セキュリティポリシーに関する ガイドライン」が示されている。実証ではクラウドサービスで生成 AI が提供されていたため、特にクラウドサービスに 関する項目について参考にした。また、生成 AI 特有の留意事項については、デジタル庁「ChatGPT 等の生成 AI の業務利用に関する申合せ（第２版）」も参照し、適切な対応を図る必要がある。 この他、各自治体で独自に定めている情報セキュリティ関するポリシーやルール（以下、「ポリシー等」とい う。）についても整合性を確認する必要がある。一方、生成 AI の利用については各自治体等で明示的にポリ シー等が定められていない場合が想定されるため、この場合は関係部署に確認の上、全庁的な検討体制を構 築し、運用方針を決定することが重要である。 実証における取り組み① 実証における取り組み② 実証における取り組み③ 39 また、要機密情報を扱う場合には、データやログの保存方法についても検討が必要であり、ログを暗号化して 保存し事業者内で適切に管理する方法や、利用者側で復号キーを管理する方法等、セキュリティレベルに応じ た多様な対策を選択することも重要である。  自治体の CIO 補佐官やデジタル関連部門に協力を依頼し、助言・レビューを受ける  協力事業者との協議の中で、機密性の高い情報の取扱いに係る対応策（マスキング処理等）の提 案を受ける  他の自治体で策定している生成 AI 利用時の手引きを参照の上、留意事項を洗い出す  デジタル関連 部門、協力事業者、制度所管課の３者で協議し、ポリシー等の条文について１件ずつ 解釈の確認や適用範囲の検討を行う  ISMAP に登録済み の クラウドサービスの利用及び自治体における要機密情報を扱う場合は、国内サ ーバの利用に限定した環境を構築し、外部への情報流出を防ぐため、オプトアウト申請（後述）を実 施の上で利用した。  生成 AI 利用時には個人情報一切入力しないよう、運用ルールを徹底した。  入力が予想される情報をデジタル関連部門に確認してもらった上で、生成 AI への入力が望ましくない 情報を事前に洗い出した。 実証では下記 3 つのセキュリティポイントの確認を行った。これらのポイントは実証時点で自治体向けに示され ていたデジタル庁「ChatGPT 等の生成 AI の業務利用に関する申合せ（第２版）」等を参考とし、特にリス クが高い項目として実証の中で個別に整理を行い、重点的に確認を行ったものである。 例えば、生成 AI 事業者の多くは、サービス改善のために利用者の入力内容を収集・分析しているが、セキュ リティやプライバシー上の懸念がある場合（特に自治体等が要機密情報を扱う場合）、このデータ収集をオプ トアウト 6する選択肢を提供していることがある。オプトアウトは通常、サービス契約時に特別な条項として盛り込 むか、または事業者に対して正式な申請書を提出することで行うことが一般的である。 なお、下記 3 つのセキュリティポイントは一例にすぎず、これらだけを確認すれば十分というわけではない。生成 AI の安全な利用には、デジタル部門と連携した網羅的なセキュリティリスクの評価と多層的な対策が重要であ る。 6生成 AI サービス利用時に入力情報が提供事業者に保存されたり学習データとして利用されたりすることを拒否 する選択肢のこと 実証における検討方法 実証における対応策例 40 図表 16 生成 AI を調達する際に特に確認した 3 つのセキュリティポイント また、実証においては、内閣サイバーセキュリティセンターの「政府機関等のサイバーセキュリティ対策のための 統一基準群」等を参考に、情報の機密性に応じた適切な取扱区分を実証の中で個別に整理し、運用を行っ た。  セキュリティ上の懸念を最小限に抑えながら、生成 AI の活用ができるよう、要機密情報（自治体機密 性２・３情報）については 国内のデータセンターを利用することを原則とした。また、利用者が 入力した 情報が生成 AI サービス提供者側に保存されたり、モデルの学習データとして利用されたりすることを防ぐ ため、データ利用の拒否（オプトアウト）の申請等の必要な手続きを実施した。  生成 AI モデルによっては最新のモデル等が海外のデータセンターのみで提供されているケースがあったた め、情報セキュリティを踏まえたモデル選択を行うことで対応した。 また、保育施設等における生成 AI の導入については、自治体の施策として実施する場合、当該自治体の 情報セキュリティポリシー等に沿った対策を徹底したうえで、生成 AI 固有のリスクについても検討・対策する 必要がある。この場合、自治体は責任を持って保育施設等に対して具体的な運用ルールや遵守すべき事項、 留意点等を明確に示す必要がある。 ウ 著作権への対応 生成 AI の利用に当たっては、著作権の保護に十分な注意を払う必要がある。特に、画像生成 AI の利用 において、著作権に配慮した上で利用する必要がある。実証時点では、文化庁「AI と著作権に関する考え方 について」等の関連指針を参考にしつつ、下記の「実証における対応方法」のとおり予防的な対応を行った。  生成されたイ ラストが既存の著作物に類似してしまうリスクに対して、固有名詞を含まないプロンプトを作 成することで対応した。これにより、既存の著作物に似たイラストが生成される可能性を低減することがで きた。 実証における対応方法 実証における対応方法 41  生成さ れた画像 について画像検索を行い、類似の著作物が存在するかどうかを確認することで、著作権 侵害のリスクを最小限に抑えることができた。 エ 肖像権・パブリシティ権への対応 生成 AI の利用に当たっては、肖像権及びパブリシティ権の保護にも十分な注意を払う必要がある。 肖像権とは、「みだりに自分の肖像や全身の姿を撮影されたり、撮影された写真をみだりに公開されない権 利」7 であり、パブリシティ権とは、「人の肖像や氏名が持つ、商品の販売等を促進する顧客吸引力を排他的に 利用する権利」8である。 生成 AI の利用においては他人の肖像を入力情報に含める、又は指示文（プロンプト）に著名人等の固有 名詞を含めて生成したイラスト等が実際に当該著名人等の容ぼう等に類似する場合には、肖像権・パブリシテ ィ権の侵害に当たる可能性がある。  生成 AI への指示文（プロンプト）の中に同意を得ていない他人の写真や著名人を示す内容を含めず に利用することを徹底し、さらに生成されたイラスト等を資料に採用する前に人の目で確認した。これによ り、権利侵害のリスクに事前に気づくことができた。 オ サービス形態に係る留意事項 サービス形態に係る留意事項については、デジタル庁「ChatGPT 等の生成 AI の業務利用に関する申合せ （第２版）」等を参考にされたいが、今後も内容の更新がある可能性があるため、最新の動向を注視し、必 要に応じて運用の見直し等を行うことが必要である。 当該申合せによると、生成 AI のサービス形態の種類としては約款型クラウドサービスによる生成 AI と約款型 クラウドサービスでない形態による生成 AI がある。約款型クラウドサービスは不特定多数の利用者に対して提 供する、定型約款や規約等への同意のみで利用できるクラウドサービスとされており、こちらに区分される生成 AI では要機密情報の取扱いができない。一方、約款型クラウドサービスでない形態による生成 AI の利用につ いては、適切なリスク分析を行った一部の機密性２情報まで取扱いができるとされている。  自治体における要 機密情報（政府基準における機密性２情報相当の情報）の利用が想定されたた め、約款型クラウドサービスでない形態のサービスにて各団体実証を行った。 7 最大判昭和 44 年 12 月 24 日（昭和 40 年（あ）第 1187 号）刑集 23 巻 12 号 1625 頁〔京都府学 連事件〕 8 最判平成 24 年 2 月 2 日（平成 21 年（受）第 2056 号）民集 66 巻 2 号 89 頁〔ピンク・レディー事件〕 実証における対応方法 実証における対応方法 42 4. 事例編 ４章では、こども・子育て分野における生成 AI 利活用の推進に向けて、自治体及び保育施設等の皆様が生成 AI 導入・活用を検討する際の参考となるよう、本事業における実証事例（ユースケース）を紹介する。 なお、本章については、別冊の「生成 AI の導入・活用に向けた実践ハンドブック事例編」を参照されたい。 図表 17 実証事例（ユースケース）一覧