生成AIサービスの利用に関する注意喚起等について

生成 AI サービスの利用に関する注意喚起等 令和５年６月２ 日 個人情報保護委員会 生成 AI サービス（質 問・作業指示（プロンプト入力）等に応えて文章・画像等を 生成する AI を利用したサービス）については、「G7 広島首脳コミュニケ」（令和５ 年５月 20 日）において、「我々が共有する民主的価値観に沿った、信頼できる人工 知能（AI）という共通のビジョンと目標を達成するために、包摂的な AI ガバナンス 及び相互運用性に関する国際的な議論を進める。」、 「国や分野を超えてますます顕 著になっている生成 AI の機会及び課題について直ちに評価する必要性を認識し、 （略）」とされているとおり、世界的な関心が高まるとともに、利活用の機会及び課 題の両面からの評価が求められている。その一環として、例えば、個人情報の適正な 取扱いやプライバシー保護の観点からの考慮の重要性も指摘されている。これらの 経緯及び状況を踏まえ、各国において対応を検討する動きがある。 我が国において も、現在、生成AI サービスが普及していることを踏まえ、当委員 会として、個人情報の適正な取扱いによる個人の権利利益の確保の要請と、新たな 技術に基づく公共的な利益（イノベーションの促進、生産性の向上、教育効果の向 上、気候変動問題等の国際社会の課題の解決等を通じて、多様な社会的・経済的利益 の増進に寄与する可能性）の要請とのバランスに留意しつつ、生成 AI サービスの利 用に関する注意喚起等を行うこととした。 下記（１） 及び（２）において、個人情報取扱事業者及び行政機関等 1における生 成AIサービスの利用に際しての個人情報の取扱いに関する注意点を取りまとめたの で、個人情報取扱事業者及び行政機関等において、生成 AI サービスを利用する際に は、これらも参考に、個人情報の保護に関する法律（平成 15 年法律第 57 号。以下 「個人情報保護法」という。）の規律に従って、個人情報を適正に取り扱っていただ きたい。 また、下記 （３）において、一般の利用者における生成 AI サービスの利用に際し ての個人情報の取扱いに関する留意点 を取りまとめたので、参考としていただきた い。 なお、生成 AI サービスの利用に関 する注意喚起等と併せて、生成 AI サービスで 1 行政機関、地方公共団体の機関（議会を除く。）、独立行政法人等（個人情報保護法別表第 ２に掲 げる法人を除く。）及び地方独立行政法人（地方独立行政法人法第 21 条第１号に掲げる業務を主た る目的とするもの又は同条第２号若しくは第３号チに掲げる業務を目的とするもの を除く。 ） をいう。 以下、本文において同じ。 （別添１） ある ChatGPT を開発・提供する OpenAI, L.L.C.及び OpenAI OpCo, LLC（以下、併せ て「OpenAI」という。）に対しては、別添２のとおり、要配慮個人情報の取得及び利 用目的の通知等についての注意喚起を行ったことに加え、今後、新たな懸念事項を 認識した場合には、必要に応じ追加的な対応を行うとしたところである。 当委員会は、個人情報の適正な取扱いが確保され、個人の権利利益が保護される よう、生成 AI サービスの開発・利用状況を引き続き注視していく予定であり、今後、 追加の注意喚起等を実施する可能性もある点に留意されたい。 （１） 個人情報取扱事業者における注意点 ① 個人情報取扱事業者が生成 AIサービスに個人情報を含むプロンプトを入力す る場合には、特定された当該個人情報の利用目的を達成するために必要な範 囲内であることを十分に確認すること。 ② 個人情報取扱事業者が、あらかじめ本人の同意を得ることなく生成 AI サービ スに個人データを含むプロンプトを入力 し、当該個人データが当該プロンプ トに対する応答結果の出力以外の目的で取り扱われる場合、当該個人情報取 扱事業者は個人情報保護法の規定に 違反することとなる可能性がある。その ため、このようなプロンプトの入力を行う場合には、当該生成 AI サービスを 提供する事業者が、当該個人データを機械学習に利用しないこと等を十分に 確認すること。 （２） 行政機関等における注意点 ① 行政機関等が生成 AIサービスに個人情報を含むプロンプトを入力する場合に は、特定された当該個人情報の利用目的のための必要最小限の利用又は提供 であることを十分に確認すること。 ② 行政機関等が、生成 AI サービスに保有個人情報を含むプロンプトを入力し 、 当該保有個人情報が当該プロンプトに対する応答結果の出力以外の目的で取 り扱われる場合、当該行政機関等は個人情報保護法の規定に 違反することと なる可能性がある。 そのため、このようなプロンプトの入力を行う場合には、 当該生成 AI サービスを提供する事業者が、当該保有個人情報を機械学習に利 用しないこと等を十分に確認すること。 （３） 一般の利用者における留意点 ① 生成 AI サービスでは、入力された個人情報が、生成 AI の機械学習に利用さ れることがあり、他の情報と統計的に結びついた上で、また、正確又は不正確 な内容で、生成AI サービスから出力されるリスクがある。そのため、生成 AI サービスに個人情報を入力等 する際には、このようなリスクを踏まえた上で 適切に判断すること。 ② 生成 AI サービスでは、入力されたプロンプトに対する応答結果に不正確な内 容が含まれることがある。例えば、生成 AI サービスの中には、応答結果とし て自然な文章を出力することができるものもあるが、当該文章は確率的な相 関関係に基づいて生成されるため、その応答結果には不正確な内容の個人情 報が含まれるリスクがある。そのため、生成 AI サービスを利用して個人情報 を取り扱う際には、このようなリスクを踏まえた上で適切に判断すること。 ③ 生成 AI サービスの利用者においては、生成 AI サービスを提供する事業者の 利用規約やプライバシーポリシー等を十分に確認し、入力する情報の内容等 を踏まえ、生成 AI サービスの利用について適切に判断すること。 以 上