AIの利用・開発に関する契約チェックリスト

AIの利用・開発に関する 契約チェックリスト 令和7年2月 1 チェックリストを踏まえた対応 インプット提供に関する留意点 インプットが汎用的なAI学習目的に利用される場合 ユーザへのサービス提供に必要な範囲でのみAI学習目的に利用される場合 インプットがAI学習目的に利用されない場合 開発型に関する留意点 インプットの取扱い アウトプットの取扱い 個人情報保護法に関する留意点 国内の第三者への個人データの提供に該当する場合 外国にある第三者への個人データの提供に該当する場合 個人情報保護法27条及び28条の適用関係の整理 セキュリティに関する留意点 対象システムのセキュリティ水準 監査条項等 ログの保存 規約改定に関する留意点 目次 2.1 2.2 AIの利用・開発に関する契約チェックリスト チェックリスト策定の背景・目的及び想定読者1 チェックリストの対象とするAI関連サービスのユースケース2 AI利活用の流れ 主なAIユースケースと契約類型 04 07 3.1 3.2 3.3 3.4 チェックリストの対象者及び読み方 チェックリストの対象となる条項 AI利活用チェックリスト インプット AI利活用チェックリスト アウトプット 09 10 12 19 チェックリスト3 チェックリストを活用する上での留意点4 4.1 4.2 4.2.1 4.2.2 4.2.3 4.3 4.3.1 4.3.2 4.4 4.4.1 4.4.2 4.4.3 4.5 4.5.1 4.5.2 4.5.3 4.6 24 26 28 30 30 31 31 31 33 33 35 37 39 40 41 41 41 02 2 1 チェックリスト策定の背景・目的及び想定読者 AI1に関連する技術は日々進化している。AI利活用の機会がさらに拡大することにより、産業 におけるイノベーションの促進や社会的な課題の解決にも寄与することが期待されている 。こ れに伴い、AI技術の利活用に関する契約を締結する場面も増加している。 経済産業省が2018年に公表し、2019年に一部改訂した「AI・データの利用に関する契約ガイ ドライン」（契約ガイドライン）2は、いわゆる識別系AIの分野において、AIモデル3（学習済 みモデル）が実用化段階に入ったという当時の市場環境を前提に策定されたものである 。契約 ガイドラインAI編では、AIモデルの開発に焦点を当てて関連する概念を主に整理するとともに 、 データ編では、産業データの取扱いに関する基本的な考え方を主に整理している。 もっとも、2022年頃より、基盤モデルに代表される生成AI技術を用いたサービスが急速に普 及し始め、AIモデルの開発だけでなく、その利活用の局面における契約の重要性も、以前より さらに高まっている。 また、特に事業活動においてAI技術を用いたサービスの利活用を検討する事業者の増加が顕 著である一方で、AIの技術や法務に必ずしも習熟していない事業者が導入を検討するケースも 増えている。このような状況下で、AI技術を用いたサービスの利活用を行う際の契約実務に関 し、以下のような懸念が挙げられている。 ⚫ AIの利活用に関する契約に伴う法的なリスクを十分に検討できていない可能性 ⚫ 保護されるべきデータや情報が予期せぬ目的に利用され 、また第三者に提供される等 、 想定外の不利益を被る可能性 本書は、契約ガイドライン公表後におけるこのような市場環境の変化を踏まえて 、AI利活用 の実務になじみのない事業者を含め、我が国の事業者が実務上用いやすい形式のチェックリス トを取りまとめたものである。チェックリストは、当事者間の適切な利益及びリスクの分配を 目指し、ひいてはAIの利活用を促すことを目的として、特に以下の方針により策定された。 ⚫ AI技術を用いたサービスの利用者が 、サービスの提供者に対して提供するデータの利 用範囲や契約上のベネフィット （サービスの水準、AI生成物の利用条件等）について 十分な検討を行うために必要な基礎的な知識を提供すること ⚫ 提供されるデータの不適切な利用等を避けられるよう 、利用者において 、契約時に チェックするべきポイント（チェックポイント）を具体的に記載すること ⚫ 次に示す幅広い想定読者や利用場面を念頭に置き 、AI利活用の契約実務に有益な参考 資料とすること 1 チェックリスト策定の背景・目的及び想定読者 1.現時点で確立した定義はないが、チェックリストでは、事業者ガイドライン（下記注4）8頁と同様、「AIシステム」（活用 の過程を通じて様々なレベルの自立性をもって動作し学習する機能を有するソフトウェアを要素として含むシステム ）自体 又は機械学習をするソフトウェア若しくはプログラムを含む抽象的な概念を指す。 2.経済産業省「AI・データの利用に関する契約ガイドライン 1.1 版」（2019年12月） 3.AIシステムに含まれ、学習データを用いた機械学習によって得られるモデルで 、入力データに応じた予測結果を生成するも のを指す。（事業者ガイドライン（下記注4）9頁） 3 1 チェックリスト策定の背景・目的及び想定読者 主な想定読者 AIの知見 契約実務の知見 主な利用場面 社内法務部・ 顧問弁護士 等 AI利活用のケースは 未経験だが 、条文 レベルの検討が可能 AI利活用による競争力向上とリスク管理 の両立を図る観点から、契約上の留意点 を網羅的に検討 AI利活用の実務経験 は問わないビジネス部門 担当者 等 契約の項目立てまで は理解できるが 、 条文レベルの自力 での提案は困難 初期的に論点を把握し 、社内法務部 ・ 顧問弁護士等と連携・相談 4 2 チェックリストの対象とするAI関連サービスのユースケース 2.1 AI利活用の流れ 2024年に公表された「AI事業者ガイドライン」（事業者ガイドライン）4では、AIモデル（学 習済みモデル）を構成要素とする「AIシステム」の開発及び利用に携わる「AI開発者」「AI提 供者」「AI利用者」の各当事者の役割が整理されており、チェックリストも、その整理におお むね依拠している。 チェックリストが対象とする「AIシステム」は次のとおりである（図1）。 2 チェックリストの対象とするAI関連サービスのユースケース 4.総務省、経済産業省「AI事業者ガイドライン（第1.01版）」（2024年11月22日） 図1 AIシステム概要 AIモデル ※AIモデル以外のサブシステムや別のAIモデルが並列稼働・連携することもある AIの開発・提供・利用の各プロセスにて更新 AIシステム※ インプット センサ （カメラ、マイク 等） テキスト （プロンプト） 他ウェブ掲載情報 等 アウトプット アクチュエーター 情報端末 （PC、スマートフォン等） 出典： 事業者ガイドライン別添（付属資料） 6頁 AIモデル開発時 AIシステム実装時 用途に合わせた性能改善 等 実装システムのアウトプットに 適したAIの出力の調整 等 求めるアウトプット取得の ための追加調整 等 AIサービス利用時 ファイン チューニング 転移学習 強化学習 In-context Learning （プロンプトエンジニ アリング、メモリ、 RAG、ツール拡張） … 目的に適う手法で 改善・調整 5 また、チェックリストでは「AI開発者」「AI提供者」「AI利用者」を次の意味で用いる（図 2）。 加えて、事業者ガイドラインでは、AIシステムの開発から利用に至るまでの一連の流れを整 理した上で、①「AI提供者からAI利用者にAIシステムが提供されるケース 」（システム提供 型）と、②「AI提供者がAIシステムを運用しAI利用者がAIサービス6を利用するケース」（サー ビス提供型）が区別されている（図3）。チェックリストでは、これら①②を総称して、「AI関 連サービス」と呼ぶことがある。②のみを指すものではない点に留意されたい。 2 チェックリストの対象とするAI関連サービスのユースケース 図2 各当事者の定義 5.事業者ガイドライン上、「AI利用者」は全てのユーザを意味する概念ではないことには注意が必要である 。「業務外利用者 （事業活動以外でAIを利用する者又はAIを直接事業で利用せずにAIシステム・サービスの便益を享受する、場合によっては 損失を被る者）」は、AI利用者に該当しない（事業者ガイドライン4頁）。もっとも、チェックリストは、事業者によるAI利 活用の場面を対象としているため、「AI利用者」に該当するケースがほとんどであると考えられる。 6.AIシステムを用いた役務を指す。AI利用者への価値提供の全般を指しており、AIサービスの提供・運営は、AIシステムの構 成技術に限らず、人間によるモニタリング、ステークホルダーとの適切なコミュニケーション等の非技術的アプローチも連 携した形で実施される。（事業者ガイドライン9頁） AI提供者が意図している適正な 利用を行い、環境変化等の情報を AI提供者と共有し正常稼働を継続 すること又は必要に応じて提供 されたAIシステムを運用する役割 、 又は、AIの活用において業務外 利用者に何らかの影響が考えられ る場合は 、当該者に対する AIに よる意図しない不利益の回避 、AI による便益最大化の実現に努める 役割を担う、事業活動において 、 AIシステム又はAIサービスを利用 する事業者 AI利用者 出典: 事業者ガイドライン5頁 AIシステム検証、AIシステムの他 シ ス テ ム と の 連 携 の 実 装、 AIシステム ・サービスの提供 、 正常稼働のための AIシステムに おけるAI利用者側の運用サポート 又はAIサービスの運用自体を担う 、 AIシステムをアプリケーション 、 製品、既存のシステム 、ビジネス プロセス等に組み込んだサービス としてAI利用者、場合によっては 業務外利用者5に提供する事業者 AI提供者 AIモデル・アルゴリズムの開発 、 データ収集 （購入を含む ）、 前処理、AIモデル学習及び検証を 通して AIモデル 、AIモデルの システム基盤 、入出力機能等を 含むAIシステムを構築する役割を 担う 、AIシステムを開発する 事業者 （AIを研究開発する事業者 を含む） AI開発者 6 2 チェックリストの対象とするAI関連サービスのユースケース 図3 AIシステムの開発及び利用に携わる各当事者の役割とAI関連サービス 出典: 事業者ガイドライン6頁 データ前処理・ 学習 開発 システムへの 実装 提供 利用 AI提供者からAI利用者にAIシステムが 提供されるケース AIシステム提供 運用支援 適性利用・運用 AI利用者にAIシステムを納品し、適正利用のための注意喚起等 の運用支援を行う AI開発者・AI提供者が意図する適正利用を継続する 。AI提供者 からの注意喚起を参考に AIシステムを正常稼働させる運用を 行う AI提供者がAIシステムを運用しAI利用者が AIサービスを利用するケース AIサービス提供 運用 適性利用 AIシステムを正常に稼働させ、AI利用者にAIサービスを提供する AI開発者、AI利用者が意図する適正利用を継続する データ 収集 前 処理 AI モデル 学習• 作成 AI ﾓﾃﾞﾙ 検証 AI ｼｽﾃﾑ 検証 AI 組込• 連携 学習用のデータを収集する 収集したデータをAIモデル作成に適用させるための処理を行う データを学習させたAIモデルを作成する トライアルを通して作成したAIモデルの有用性を検証する AIモデルをシステムに導入して検証を行う 既存/新設のシステムにAIシステムを組み込む。他のシステム と連携させる 1 2 本チェックリストにおける「AI関連サービス」（①②を含む） 1 2 3 4 5 6 7 8 7 8 1 2 3 4 5 6 7 8 7 8 AI開発者 AI提供者 AI利用者 7 2.2 主なAIユースケースと契約類型 チェックリストでは、事業者ガイドラインの整理を前提に、サービス提供型に相当する【類 型1：汎用的AIサービス利用型】、システム提供型に相当する【類型3：新規開発型】、そして、 その中間に位置する【類型2：カスタマイズ型】の3つのAI関連サービスのユースケース類型を 想定する。なお、下記のユースケース例は一例であり、これらに限られるものではない。 【類型1：汎用的AIサービス利用型】 事業者A（AI利用者）が、事業者C（AI開発者・AI提供者）が提供する汎用的AIサービスを利用 するケース。 【類型2：カスタマイズ型】 事業者A（AI利用者）が、事業者B（AI提供者）が事業者A向けに改良・調整したAIサービス（カ スタマイズサービス）を利用するケース。カスタマイズサービスは、事業者C（AI開発者・AI提 供者）が開発し、提供する汎用的AIサービスに対して、事業者Bが開発した付加的な機能（非AI モデル）を組み合わせたものである。 2 チェックリストの対象とするAI関連サービスのユースケース ユースケース例 小売事業者・製造事業者・サービス事業者A（AI利用者）が、マーケティングの一環で、顧 客の来店・購入履歴（氏名・年齢等の情報や、実際に購入した商品・サービスの履歴が含 まれたもの）を、大規模言語モデルを用いた AIサービスのプロンプトとして提供し 、嗜好 や注意点の分析についてのアウトプットを求めるために、事業者C（AI開発者・AI提供者） と契約する。 ユースケース例 小売事業者・製造事業者・サービス事業者A（AI利用者）が、ユーザエクスペリエンス改善 のため、AIチャットボットサービスの提供事業者B（AI提供者）に対して、自社の業態や製 品・サービスに特化したカスタマイズサービスの提供を求める 。この際、提供事業者は、 汎用的AIサービスの提供事業者C（AI開発者・AI提供者）との間の契約に基づき基盤モデル を利用し、モジュールやデータベース等を新規に開発する。 図4 汎用的AIサービス利用型 契約事業者A 事業者C 図5 カスタマイズ型 汎用的AIサービスカスタマイズサービス 事業者A 事業者B 契約 契約 事業者C 8 【類型3：新規開発型】 事業者A（AI利用者）が、事業者C（AI開発者・AI提供者）と提携して独自の AIシステムを開 発・利用するケース。 チェックリストでは 、これらの AI利活用の場面で通常取り扱われる契約条件について 、 チェックポイントを抽出・整理する。具体的には、AIシステムの開発を伴わない既存のAIサー ビスを利用する契約類型（利用型契約）と、何らかのソフトウェア、データベース、モジュー ルやシステムの開発を伴う契約類型（開発型契約）が想定される。その大まかな特色は次のと おりである。 利用型契約： 【類型1：汎用的AIサービス利用型】が想定する汎用的AIサービスを利用する契約 ⚫ 生成AIサービスに代表される幅広い利用者への汎用的 AIサービスの提供が想定されて おり、その契約における条項が広く検討対象となる。 開発型契約： 【類型2：カスタマイズ型】や【類型3：新規開発型】等の開発が伴う契約 ⚫ 新たなソフトウェアやデータベース 、モジュールやシステム等の開発要素が加わる点 が、利用型契約との違いであるが 、特有の要素は必ずしも多くない 。したがって、汎 用的AIサービス利用契約の一般的な条項に加え 、開発型契約としての要素や留意事項 を必要に応じて加味することで 、各類型における主な検討対象となる契約条項がおお むねカバーされると考えられる。 2 チェックリストの対象とするAI関連サービスのユースケース ユースケース例 製造事業者A（AI利用者）が、自社製品の制御プログラムや稼働データを基に、製品の異常 を早期に検知するためのシステムを開発事業者C（AI開発者・AI提供者）と提携して開発・ 利用する。 図6 新規開発型 契約 事業者A 事業者C 9 3 チェックリスト 3.1 チェックリストの対象者及び読み方 上記のようなユースケースを想定するに当たり留意すべき点として 、契約上、AI開発者・AI 提供者・AI利用者が果たす役割はAI関連サービスの種別に応じて異なり得ることが挙げられる。 例えば、【類型2：カスタマイズ型】において提供されるカスタマイズサービスは 、他者が 提供する汎用的AIサービスを組み込んだサービスである場面を想定している 。カスタマイズ サービスを提供する事業者B（AI提供者）は、①カスタマイズサービスの利用者である事業者A （AI利用者）との関係ではサービスの提供者（ベンダ）として関与するが、②汎用的AIサービ スを提供する事業者 C（AI開発者・AI提供者）との関係では 、汎用的AIサービスの利用者 （ユーザ）になる（図7）。 したがって、チェックリストの用語上、AI関連サービスを提供する者を「ベンダ」、これら を利用する者を「ユーザ」と定義する7。 チェックリスト上、幾つかの項目にはアイコンが付されており、これらの項目については、 チェックリストを活用する上での留意点 （下記4参照）においてより詳細な留意事項を解説し ているため、参照されたい。なお、上記2.2に記載のとおり、チェックリストは利用型契約と 開発型契約の両方を対象とするが、利用型契約を検討するユーザは、開発型契約に関連する項 目（チェックリスト上、 アイコンが付された項目）を参照せずとも、主な契約条件をひと とおり検討することが可能である。 3 チェックリスト 7.AI関連サービスの提供を受けるエンドユーザ（AI利用者）はもちろんのこと、エンドユーザに対してサービスを提供するAI 提供者も、他の事業者の基盤モデル等を利用する際には 、「ユーザ」としてチェックリストを参照することが可能である 。 なお、上記2.1で述べたとおり、AI関連サービスには、AIシステムを開発して提供することも含まれる。 図7 カスタマイズ型における主体の立場の入れ替わり （サービスの提供者） ベンダユーザ 1 2 ユーザ （汎用的AIサービスの利用者） ベンダ 事業者A カスタマイズサービス 汎用的AIサービス 事業者C事業者B インプット提供に関する留意点（下記4.2参照） 開発型に関する留意点（下記4.3参照） 個人情報保護法に関する留意点（下記4.4参照） セキュリティに関する留意点（下記4.5参照） 10 3.2 チェックリストの対象となる条項 チェックリストは 、AI関連サービスの利用に際して 、ユーザがベンダに対し 「インプット （A）」を提供し、ベンダがサービス内容に応じた「アウトプット（B）」を出力・提供する場 面を想定している。ベンダがユーザから提供されたインプットを用いて 、アウトプット以外の 処理成果（「インプット処理成果（A-6）」）を創出することや、ユーザがアウトプットを処理 することにより何らかの処理成果（「アウトプット処理成果（B-6）」）を得ることも想定され る。 ⚫ インプット（A）：プロンプト、学習用の生データ 等 ⚫ アウトプット（B）：分析結果・コンテンツ等のAI生成物、AIシステム等の成果物 等 ⚫ インプット処理成果（A-6）：学習用データ、中間生成物、派生的知的財産 等 ⚫ アウトプット処理成果（B-6）：AI関連サービスが出力するコンテンツを自ら加工した もの 等 これらのAI関連サービスに関連する情報の取扱いに関するルールをチェックする場合 、一般 論としては、インプット及びアウトプットに関連して次の各点をチェックすることが望ましい （図8）。 ⚫ 契約の対象となる情報や成果物を 「特定（A-1、B-1）」することが重要である 。上記 の想定の下では、インプット及びアウトプットとして具体的に何を想定するかが重要 である。 ⚫ インプットを提供する立場からは 、相手方への「提供（A-2）」に関する条項、イン プットの「使用・利用（A-3）」に関する条項（使用・利用に加えて、管理や消去等も 対象となる）、そして、相手方から自身以外の者8への「外部提供（A-4）」に関する条 項をチェックすれば、相手方によるインプットの取扱いをおおむねチェックできる。 ⚫ アウトプットを受け取る立場からは、自身への「提供（B-2）」に関する条項、アウト プットの「使用・利用（B-3）」に関する条項（使用・利用に加えて、管理や消去等も 対象となる ）、自身から相手方以外の者への 「外部提供 （B-4）」に関する条項を チェックすれば、アウトプットの取扱い時の留意事項をおおむねチェックできる。 ⚫ 対象となる情報が知的財産権の対象である場合等 、インプットやアウトプットに何ら かの権利が観念できるならば 、「帰属（A-5、B-5）」に関する条項もチェックするこ とが特に望ましい。 ⚫ 「インプット処理成果 （A-6）」、「アウトプット処理成果 （B-6）」についても、イ ンプット及びアウトプットに準じて、その取扱いをチェックすることが重要である。 3 チェックリスト 8.図8には示していないものの、ベンダがユーザの求めに応じて、ユーザが提供したインプットを提供する場合も外部提供の一 例として想定される。 11 チェックリストの対象となる条項に関する留意点は以下のとおりである。 ⚫ チェックリストでは、AI利活用に関する契約のうち 、データの適切な利用とリスク分 配の観点から特に留意すべきと思われる条項を主に取り上げている 。しかし、リスク 判断の観点からは、取り上げられていない条項についても 、十分に検討することが望 ましい。典型的には、AI関連サービス等に関する保証 ・補償条項、責任限定条項、解 除条項、準拠法・紛争解決条項等が挙げられる。 ⚫ チェックリストは国内法に準拠した内容とし 、外国法についての情報提供を意図した ものではない 。ただし、チェックポイントの検討に際しては 、外国法準拠の場合で あっても確認することが有益な内容となるように配慮している。 ⚫ 特に利用型契約に顕著であるが 、ベンダが提供する契約の構成や規定 ・表現ぶりは各 社各様である。そのため、チェックリストでは、具体的な条項例を特定するのではな く、その内容面から特に検討が必要と思われる条項についてチェックポイントを設け ている。 3 チェックリスト 図8 チェックリストの対象となる条項 ユーザ 第三者ベンダ 使用・利用使用・利用 インプット処理成果 アウトプット処理成果 アウトプットB 使用・利用A-3 A-6 B-6 インプットA 特定A-1 権利帰属A-5外 部 提 供 A-4 外 部 提 供 外 部 提 供 外 部 提 供 B-4特定B-1 権利帰属B-5 使用・利用B-3 特定 権利帰属 特定 権利帰属 提 供 A-2 提 供 B-2 12 AI利活用チェックリスト セキュリティに関する留意点（下記4.5参照） インプット提供に関する留意点（下記4.2参照） 個人情報保護法に関する留意点（下記4.4参照） 開発型に関する留意点（下記4.3参照） インプット ベンダへの提供A-2 A-2-1 提供義務・条件 ｜ユーザがベンダに対してインプットを提供する義務の有無、及び その内容を定める条項 ユーザがベンダに対し、インプットを提 供する義務を負うか ユーザの提供義務がある場合、いかなる 提供条件（提供時期、頻度、態様その他 の条件）が課せられるか ユーザがベンダに対し 、提供するイン プットの内容（性質、量、粒度その他の 内容）について、満たすべき条件がある か ユーザのサービス利用目的に照らして、 上記内容は許容できるか • 契約の定めの有無にかかわらず 、適用法令 に明白に反する情報の提供は避ける • 他者との契約に抵触し得る情報や自社の秘 密情報等を提供する場合 、その許容性につ いては慎重に検討する 事実上取り得る対応（契約締結断念を除く） 特定A-1 v A-1-1 定義｜インプットの定義を定める条項 • 提供情報がインプットの定義に合致するか を、情報提供の前に確認する • インプットの定義に該当しない情報は 、ベ ンダが自由に利用可能であることを前提に 、 不必要な情報は提供しない 事実上取り得る対応（契約締結断念を除く） インプットの定義は、ユーザがベンダに 対し提供する情報のうち、契約上保護す ることが必要な情報を含んでいるか インプットの定義に疑義はないか ユーザのサービス利用目的に照らして、 上記内容は許容できるか チェックポイント チェックポイント • この条項により契約による規律の対象となるインプットの範囲が定まる 。インプットの定義に合致しない場合 、 適用法令による制限がない限り、ベンダがインプットを自由に利用できる可能性がある。 • ユーザからベンダに提供する情報は 、「秘密情報」「インプット」「技術情報」「ノウハウ」「フィードバッ ク」「プロンプト」等と呼ばれることがある。 備 考 • 開発型契約で定められることがあり、利用型契約で定められることは必ずしも多くない。 備 考 13 セキュリティに関する留意点（下記4.5参照） インプット提供に関する留意点（下記4.2参照） 個人情報保護法に関する留意点（下記4.4参照） 開発型に関する留意点（下記4.3参照） AI利活用チェックリスト インプット • 保証・情報提供義務を遵守できない情報は 提供しない • 保証・情報提供義務を遵守するため 、提供 情報の収集等の過程から取扱体制を再検討 する（必要に応じて同意取得等のクリアラ ンスを確保する） 事実上取り得る対応（契約締結断念を除く） A-2-2 保証・情報提供｜ベンダがユーザに対して インプットに対する一定の保証・情報提供を求める条項 ユーザがベンダに対し、インプットに関 する保証・情報提供をする義務を負うか ユーザによる保証・情報提供が求められ る場合、どのような保証・情報提供が求 められるか（知的財産権の非侵害、適用 法令遵守等を超える保証等を求められる か） 保証・情報提供義務に違反した場合、ど のような効果が生じるか ユーザのサービス利用目的に照らして、 上記内容は許容できるか チェックポイント • 第三者の知的財産権の非侵害や個人情報保護法等の適用法令の遵守に関する保証が求められることが少なくな い。 • 契約上、一定の仕様が合意される場合には、その内容を充足することが求められる場合がある。 備 考 14 セキュリティに関する留意点（下記4.5参照） インプット提供に関する留意点（下記4.2参照） 個人情報保護法に関する留意点（下記4.4参照） 開発型に関する留意点（下記4.3参照） AI利活用チェックリスト インプット 使用・利用A-3 A-3-1 利用目的｜ベンダによるインプットの利用目的を定める条項 • ベンダによるサービス提供目的以外の利用 の可能性がある場合、不必要な情報を提供 しない。特にベンダが自己の学習にデータ を用いる旨の定めがある場合 、そのような 利用が許容可能かは慎重な判断を要する • 個人データの提供が伴う場合 、ベンダ による自己目的利用や突合が認められる場 合には委託として整理できず第三者提供に 該当し、本人の同意が必要となる可能性が あることを踏まえて、個人データの取扱い スキームを整理する（下記4.4参照） 事実上取り得る対応（契約締結断念を除く） インプットの利用目的が定められてい るか ユーザのサービス利用目的に照らして 、 上記内容は許容できるか チェックポイント • 利用条件で目的外利用禁止義務が定められる場合、利用条件の範囲が明確にされることになる。 備 考 A-3-2 利用条件｜ベンダによるインプットの利用条件を定める条項 事実上取り得る対応（契約締結断念を除く） ベンダによるインプットのサービス提供 目的以外の利用が認められているか ベンダによる利用が認められる場合、ど のような利用条件（利用目的、利用範囲、 対価の有無、その他の条件）が課せられ ているか。特に自社技術開発や学習目的 等のサービス提供目的以外の目的で利用 することが許容されているか ユーザのサービス利用目的に照らして、 上記内容は許容できるか チェックポイント • 例えば、ベンダは、AI関連サービスの提供目的以外の目的でインプットを利用しないことを目的外利用禁止義 務として定めることが少なくない。 備 考 • A-3-1を参照 15 セキュリティに関する留意点（下記4.5参照） インプット提供に関する留意点（下記4.2参照） 個人情報保護法に関する留意点（下記4.4参照） 開発型に関する留意点（下記4.3参照） AI利活用チェックリスト インプット • 管理体制・セキュリティ体制が十分な水準 にない場合、不必要な情報は提供しない • 個人データの委託を伴う場合 、ベンダ に及ぼすことが可能な監督権限が 、委託と して処理するために十分な水準にあるかを 検討する（水準を満たさない場合には第三 者提供等として処理することを検討す る。）。また、外国への個人データの移転 が伴う場合、個人情報保護法上の「提供」 の有無にかかわらず保有個人データに関す る情報提供等が必要になり得ることに留意 する（下記4.4参照） • 個人情報の提供を伴う場合 、ベンダに よる個人情報の漏洩が生じた際はユーザに よる監督機関への報告義務等が課せられる 場合があるため 、特に注意する （下記4.4 参照） 事実上取り得る対応（契約締結断念を除く） A-3-3 管理・セキュリティ｜ベンダによるインプットの管理・セキュリティ体制 （セキュリティ水準を含む）を定める条項 ベンダがインプットを管理する義務を負 うか ベンダが管理義務を負う場合、いかなる 水準の管理が求められるか ベンダによる管理体制について、ユーザ による監査・情報提供依頼が認められる か ユーザのサービス利用目的に照らして、 上記内容は許容できるか チェックポイント • 契約で明示されていない管理水準であっても 、業界水準に照らして体制構築義務が黙示の義務を構成する可能 性がある（下記4.5参照）。 備 考 16 セキュリティに関する留意点（下記4.5参照） インプット提供に関する留意点（下記4.2参照） 個人情報保護法に関する留意点（下記4.4参照） 開発型に関する留意点（下記4.3参照） AI利活用チェックリスト インプット 外部提供A-4 A-4-1 ユーザへの提供｜ベンダがインプットをユーザに対して提供する義務を定める条項 • 提供するインプットのバックアップが必要 な場合、別途、自社での対応を検討する • 適用法令に基づき、契約外の提供請求が可 能な場合には、その対応も検討する 事実上取り得る対応（契約締結断念を除く） • 適用法令上、ベンダの削除義務が求められ ている場合には、契約外の権利行使として 削除を求める 事実上取り得る対応（契約締結断念を除く） A-3-4 保持期間・消去｜ベンダによるインプットの保持期間及び 消去義務の有無を定める条項 ベンダがインプットを保持可能な期間は どの程度か 保持期間が完了した場合にベンダがどの ような対応をするか ベンダが、ユーザが求める場合や、契約 期間の終了時に、インプットの削除義務 を負うか ベンダが削除の履践を証明する書類等の 発行義務を負うか（主に秘密情報の場 合） ユーザのサービス利用目的に照らして、 上記内容は許容できるか チェックポイント ベンダがユーザに対し、インプットを提 供する義務があるか ベンダによるインプットの提供義務があ る場合、どのような提供条件が課せられ ているか （提供対象の制限の有無や 、 ユーザによる対価の支払いの有無や、提 供可能時期、回数制限等） ユーザのサービス利用目的に照らして、 上記内容は許容できるか チェックポイント • 適用法令によっては、取得から一定期間が経過した場合 、又は利用目的を達成したこと等を理由に取扱いの 必要性がなくなった場合、削除義務や削除の努力義務が課せられている場合がある。 備 考 • 特に利用型契約で、契約終了やサービス切替え等の場合に定められることが想定される。 • 特定の法域では、ポータビリティの義務として位置づけられる事も想定される。 備 考 17 セキュリティに関する留意点（下記4.5参照） インプット提供に関する留意点（下記4.2参照） 個人情報保護法に関する留意点（下記4.4参照） 開発型に関する留意点（下記4.3参照） AI利活用チェックリスト インプット 権利帰属 v A-5 A-5-1 権利帰属｜インプットの権利がベンダに移転するか否かを定める条項 • ベンダによる権利取得の可能性がある場合 、 不必要な情報を提供しない 事実上取り得る対応（契約締結断念を除く） • ベンダによる第三者提供の可能性がある場 合、不必要な情報は提供しない • インプットの第三者提供が許容できない場 合には、契約締結を断念することも検討す る 事実上取り得る対応（契約締結断念を除く） A-4-2 第三者提供｜ベンダがインプットを第三者に提供することができるか、 できる場合にその条件を定める条項 ベンダがインプットに関して、知的財産 権等一定の権利を取得するか ベンダが権利を取得する場合、どのよう な権利取得条件（権利移転の対象、対価 の有無、ライセンスの有無・内容その他 の条件）があるか ユーザのサービス利用目的に照らして、 上記内容は許容できるか チェックポイント ベンダがインプットを第三者に対し提供 できるか ベンダが第三者提供できる場合、いかな る第三者提供条件（提供先、提供範囲そ の他の条件）が課せられているか ユーザのサービス利用目的に照らして、 上記内容は許容できるか チェックポイント • 秘密保持義務条項等において 、例えば、ベンダがインプットを秘密として保持し 、第三者に対して提供しな い等の第三者提供禁止義務として定められることが想定される。 備 考 • 一般的には、ユーザがベンダに対し、インプットの権利を移転する必要が生じる場面は限定的である。 備 考 18 セキュリティに関する留意点（下記4.5参照） インプット提供に関する留意点（下記4.2参照） 個人情報保護法に関する留意点（下記4.4参照） 開発型に関する留意点（下記4.3参照） AI利活用チェックリスト インプット インプット処理成果A-6 v A-6-1 特定｜インプットの処理成果のうち、 アウトプット以外のもので契約上規律の対象とするものの定義を定める条項 インプット処理成果の定義は、ベンダの 処理により生じる成果のうち、契約上保 護することが必要な情報を含んでいるか インプット処理成果の定義に疑義はない か ユーザのサービス利用目的に照らして、 上記内容は許容できるか • ベンダがインプット処理結果を 、一定範囲 で、自由に利用可能である可能性があるこ とを前提に、不必要な情報を提供しない 事実上取り得る対応（契約締結断念を除く） を参照 A-6-4 権利帰属｜インプット処理成果の権利帰属に関する条項 権利帰属A-5 A-6-2 使用・利用｜インプット処理成果のベンダによる使用・利用に関する条項 を参照使用・利用A-3 チェックポイント • インプットに何らかの処理（加工等）を施した無体物を指し、「派生物」「派生的知的財産」「派生データ」 「改良成果」等と呼ばれることもある。生データに対する学習用データセット等の中間生成物が典型的に想定 される。 • インプット処理成果を契約上取扱う必要が常にあるわけではない点には留意が必要である。 • 利用型契約では、言及されることは必ずしも多くない一方 、開発型契約では議論がされることがある 。ベンダ の技術的知見に属する処理成果の取扱いを規律することの当否は、慎重に検討する必要がある。 備 考 を参照 A-6-3 外部提供｜インプット処理成果のベンダによる外部提供に関する条項 外部提供A-4 • インプット処理成果には 、ベンダの技術的知見が多分に反映されているものも含まれる 。そのような場合 、 ユーザに当然に提供がなされるべきものではない点は留意が必要である。 備 考 19 AI利活用チェックリスト セキュリティに関する留意点（下記4.5参照） インプット提供に関する留意点（下記4.2参照） 個人情報保護法に関する留意点（下記4.4参照） 開発型に関する留意点（下記4.3参照） アウトプット 特定B-1 v B-1-1 定義｜アウトプットの定義を定める条項 • 契約上合意したアウトプットの定義 ・内容 を踏まえ、実際の利用目的に照らして不十 分である場合、別の手段による調整や補正 の必要性を含めて事前に検討することが望 ましい 事実上取り得る対応（契約締結断念を除く） アウトプットの定義は、ユーザのサービ ス利用目的を十分にカバーしているか アウトプットの定義に疑義はないか （ 特に開発型契約の場合には、開発 対象が不明確となる場合が少なくないた め注意） ユーザのサービス利用目的に照らして、 上記内容は許容できるか チェックポイント ユーザへの提供B-2 B-2-1 完成義務｜ ベンダがアウトプットを完成させる義務を定める条項 • 完成義務を負わない場合でも 、ベンダは善 管注意義務を負う。アウトプットの開発に 際して、十分な意思疎通を試み、当事者間 の期待値がずれないように調整することが 望ましい • 利用を希望する時期までに十分なアウト プットが提供されない場合の対応は 、事前 に検討する事が望ましい 事実上取り得る対応（契約締結断念を除く） ベンダがアウトプットを完成する義務を 負うか ベンダの完成義務がある場合、どのよう な完成条件が課せられるのか（完成時期、 検収条件等） ユーザのサービス利用目的に照らして、 上記内容は許容できるか チェックポイント • 開発型契約のうち、請負型契約（民法632条参照）で特に問題となる。 備 考 • この条項により、契約で規律の対象となるアウトプットの範囲が定まる。 • 利用型契約では、「出力結果」「アウトプット」「コンテンツ」等呼ばれることがある。 • ベンダからユーザに提供する情報は、開発型契約であれば「成果物」と呼ばれることがある。 備 考 20 セキュリティに関する留意点（下記4.5参照） インプット提供に関する留意点（下記4.2参照） 個人情報保護法に関する留意点（下記4.4参照） 開発型に関する留意点（下記4.3参照） AI利活用チェックリスト アウトプット • ベンダによる保証がない場合のみならず、 保証がある場合であっても、機械学習の特 性上、アウトプットには、不正確な情報や 虚偽の情報、あるいは他者の著作権等の権 利利益を侵害する情報が含まれる可能性が ある。したがって、利用目的に応じて、ア ウトプットの正確性や適法性を適切に評価 し、人による確認を行うことが必要である 事実上取り得る対応（契約締結断念を除く） • アウトプットが提供されない場合、アウト プット（又はこれを利用したサービス）の メンテナンス・運用等が十分に行えるかを、 事前に検討する事が望ましい 事実上取り得る対応（契約締結断念を除く） B-2-2 提供義務・条件｜ベンダがユーザに対し、アウトプットを提供する義務の有無及び その内容を定める条項 ベンダがユーザに対し 、アウトプット を提供する義務を負うか ベンダの提供義務がある場合 、どのよ うな提供条件 （提供時期、頻度、態様 その他の条件）が課せられるか ベンダがユーザに対し 、提供するアウ トプットの内容 （性質、量、粒度その 他の内容）について、満たすべき条件 があるか ユーザのサービス利用目的に照らして 、 上記内容は許容できるか チェックポイント ベンダがユーザに対し 、アウトプット の保証・情報提供義務を負うか ベンダによる保証 ・情報提供が必要な 場合、どのような条件による保証 ・情 報提供が必要なのか 保証・情報提供違反があった場合 、ど のような効果が生じるか ユーザのサービス利用目的に照らして 、 上記内容は許容できるか チェックポイント B-2-3 保証・情報提供｜ユーザがベンダに対し、 アウトプットに関する一定の保証を求める条項 • 適用法令によっては、ベンダに透明性確保の観点からアウトプット生成に関する一定の情報提供が求められる 場合が想定される。 • 利用型契約では、幅広い非保証条項が設けられることがあるのに対して 、開発型契約では、第三者の知的財産 権の非侵害や要求された仕様への合致等が求められる場合が少なくない 。ただし、請負型契約か準委任型契約 かにより左右される側面がある。 備 考 • 開発型契約の中には 、開発の成果物（アウトプット）を提供する義務が課せられない場合がある 。（下記 4.2参照） 備 考 21 セキュリティに関する留意点（下記4.5参照） インプット提供に関する留意点（下記4.2参照） 個人情報保護法に関する留意点（下記4.4参照） 開発型に関する留意点（下記4.3参照） AI利活用チェックリスト アウトプット 使用・利用B-3 v B-3-1 利用目的｜ユーザによるアウトプットの利用目的を定める条項 B-3-3 管理・セキュリティ・消去｜ユーザによるアウトプットの管理・消去体制を定める条項 B-3-2 利用条件｜ユーザによるアウトプットの利用条件を定める条項 • 意図しない目的外利用が発生しないよう、 管理体制の構築及び社内教育等を十分に実 施する 事実上取り得る対応（契約締結断念を除く） アウトプットの利用目的の定めがある か ユーザのサービス利用目的に照らして 、 上記内容は許容できるか チェックポイント • B-3-1を参照。 事実上取り得る対応（契約締結断念を除く） ユーザによるアウトプットの利用につ いて 、いかなる利用条件 （追加的対 価・プロフィットシェア 、利用目的の 制限、禁止的行為 、利用範囲その他の 条件）が課せられているか ユーザのサービス利用目的に照らして 、 上記内容は十分か チェックポイント • 合意内容に照らしてアウトプットを適切に 管理・消去等する 事実上取り得る対応（契約締結断念を除く） ユーザがアウトプットの管理 ・消去義 務を負うか。負う場合その内容は何か ユーザのサービス利用目的に照らして 、 上記内容は許容できるか チェックポイント • 利用条件で目的外利用禁止義務が定められる場合、利用条件の範囲が明確にされることになる。 備 考 • AI関連サービスによっては、商用利用の禁止やアウトプットが AIを用いて生成されたことを表示する等の条件 設定がされることがある。 備 考 • アウトプットが形式上、ベンダの秘密情報に該当する場合等には適用されることが想定される （そのような場 合でなければ一般的には想定し難い）。 備 考 22 セキュリティに関する留意点（下記4.5参照） インプット提供に関する留意点（下記4.2参照） 個人情報保護法に関する留意点（下記4.4参照） 開発型に関する留意点（下記4.3参照） AI利活用チェックリスト アウトプット 権利帰属B-5 v B-5-1 権利帰属｜ベンダがユーザに対し、アウトプットを提供する場合、 アウトプットの権利がユーザに移転するかどうかを定める条項 外部提供B-4 v B-4-1 第三者提供｜ユーザがアウトプットを第三者に提供することができるか、 できる場合にその条件を定める条項 • 意図しない第三者提供（情報漏洩を含む） が発生しないよう、管理体制の構築及び社 内教育等を十分に実施する 事実上取り得る対応（契約締結断念を除く） ユーザがアウトプットを第三者に対し 提供できるか ユーザが第三者提供できる場合 、どの ような第三者提供条件 （提供先、提供 範囲その他の条件 ）が課せられている か。利用型の場合には 、AIを用いた サービスによるものである旨の表示を する必要があるか ユーザのサービス利用目的に照らして 、 上記内容は許容できるか チェックポイント • アウトプットに関する権利がユーザに移転 しない場合、アウトプットの利用方法が限 定されることを理解した上でサービスを利 用する 事実上取り得る対応（契約締結断念を除く） ユーザがアウトプットに関して 、知的 財産権等、一定の権利を取得するか ユーザが権利を取得する場合 、どのよ うな権利取得条件 （権利移転の対象 、 対価の有無 、ライセンスの有無 ・内容 その他の条件）があるか ユーザのサービス利用目的に照らして 、 上記内容は許容できるか チェックポイント • 秘密保持義務条項等において第三者提供禁止義務として定められる場合がある。 備 考 23 セキュリティに関する留意点（下記4.5参照） インプット提供に関する留意点（下記4.2参照） 個人情報保護法に関する留意点（下記4.4参照） 開発型に関する留意点（下記4.3参照） AI利活用チェックリスト アウトプット アウトプット処理成果B-6 v B-6-1 特定｜アウトプットの処理成果のうち、契約上規律の対象とするものの 定義を定める条項 B-6-2 使用・利用｜アウトプットの処理成果のユーザによる使用・利用に関する条項 を参照使用・利用B-3 B-6-3 外部提供｜アウトプットの処理成果のユーザによる外部提供に関する条項 を参照外部提供B-4 B-6-4 権利帰属｜アウトプットの処理成果の権利帰属に関する条項 を参照権利帰属B-5 • 意図しない目的外利用 ・第三者提供等が 発生しないように 、管理体制の構築及び 社内教育等を十分に実施する 事実上取り得る対応（契約締結断念を除く） アウトプットの処理成果の定義は 、 ユーザの処理により生じる成果のうち 、 契約上保護することが必要な情報を含 んでいるか アウトプットの処理成果の定義に疑義 はないか ユーザのサービス利用目的に照らして 、 上記内容は許容できるか チェックポイント • アウトプットに何らかの処理 （加工等）を施した無体物を指し 、「派生物」「派生的知的財産 」「派生デー タ」「改良成果」等と呼ばれることもある。 • 例えば、画像をアウトプットとして出力する AIサービスの場合には、出力画像（アウトプット）をさらにユー ザが加工した画像の取扱いに関する規律の一環として定められることが想定される。 備 考 • アウトプットそのものと異なり、ベンダへの報告義務が課せられる場合がある点には留意が必要である。 備 考 24 4 チェックリストを活用する上での留意点 4.1 チェックリストを踏まえた対応 チェックリストは、AIの利活用に関する契約を締結するに際して考慮することが望ましい論 点の所在を示すに留まる。チェックリストでリスクの所在が指摘されているからといって 、直 ちに契約条件の是正に向けた行動を取ることや契約締結を断念することを推奨するものではな い。 契約の主たる機能には、当事者間のリスク分配があるものの、リスクはAIの利活用それ自体 に内在するものであって契約文言の巧拙で完全にコントロールできるものではない 。そのため、 契約上、相手方が一定のリスクに対する最終的な対応責任を負うとされる場合でも 、リスクの 発生自体を回避できるとは限らない。また、自社が契約上一定のリスクを負うとされるような 必ずしも望ましくない契約条件が課せられる場合でも、リスクが発生する可能性が事業上許容 可能な範囲内にある場合や、契約外の対応によってその発生可能性を事業上許容可能な範囲ま で低減できる場合には、契約を締結し事業を進めることが合理的と判断される場合もある。 チェックリストを踏まえてどのように対応することが適切であるかは 、個別のユーザが置か れた具体的な事情に依拠するため、以下の各要素を含む関連する事情を総合的に考慮して判断 することが必要である。 ⚫ ベンダにより提供されるAI関連サービスの内容 ⚫ 契約の形態（利用規約又は個別契約） ⚫ 契約文言を受け入れることによるリスク ⚫ 契約上の各義務の履行可能性 ⚫ AIの利用目的に照らした代替サービス及び代替手段の有無 ⚫ 契約交渉に必要な労力 ⚫ 契約外（実運用等）の方法によるリスク低減の可否 特に、AI関連サービスのユースケース例 （上記2.2参照）で示したように、利用型契約と開 発型契約を締結する場面において、想定されるリスクに対して取り得る対応は異なる場合があ る。 4 チェックリストを活用する上での留意点 25 利用型契約： 【類型1：汎用的AIサービス利用型】が想定する汎用的AIサービスを利用する契約 ⚫ 多数のユーザと画一的な契約を締結し 、その提供等に関して想定されるリスクを一定 範囲に限定することで 、サービス利用料等の対価やその他の契約条件が合理的な範囲 に設定されていることも想定される 。そのような場合、ユーザとしては、適用法令に 反する契約条件が設定されている 、あるいは著しく不利益であって受容可能性がない 等の例外的な場面を除き 、契約条件を所与の前提としてサービス利用に関する実運用 を工夫し、AIの利活用を進めることが合理的な場合もある 。もっとも、多くのユーザ が抱くであろう合理的な要望や懸念をベンダに対して伝えることは 、汎用的AIサービ スの場合であっても、ベンダに契約条件の見直しを促す契機になる場合もあり得る。 開発型契約： 【類型2：カスタマイズ型】や【類型3：新規開発型】等の開発が伴う契約 ⚫ ユーザとベンダとの間で 、AIシステム開発に関する個別の契約交渉が行われるため 、 利用型契約に比べると 、より柔軟に交渉がしやすい場面が想定される 。そのため、交 渉によって望ましい契約条件への調整を試みることも一つの選択肢となる 。特に自社 の技術情報、その他の有用なデータを提供するに当たっては 、情報を開示することに より得られるメリットと 、開示することにより生じるデメリットとを十分に比較検討 をした上で契約交渉をすることが一般的には望ましい 。ただし、例えば【類型2：カス タマイズ型】のように、汎用的AIサービスをカスタマイズして提供する場面では 、カ スタマイズサービスのベンダは汎用的 AIサービスのユーザとしての位置づけも有する ため、同サービス利用契約に拘束され 、個別交渉においても、受容できるリスクの範 囲が限定される場合も考えられる。 また、【類型2：カスタマイズ型】に顕著であるが、ベンダがユーザに対しAIサービスを提供 するに当たり、第三者が提供する汎用的AIサービスを組み込んでいるケースも想定される 。例 えば、ユーザの質問に対して、生成AIを用いて自然な回答を出力するAIチャットボットサービ スにおいて、回答の生成を、ベンダ以外の第三者が提供する汎用的AIサービスが担うような場 合である。 このようにAIサービスの提供にベンダ以外の第三者が関与することが知れている場合には 、 そのような第三者がベンダを介して提供する AIサービスに関する利用規約等についても、可能 な範囲でチェックリストに挙げた観点から検討を行うことが考えられる 。もっとも、ベンダに おいて、自社のAIサービスに組み込んでいる他のAIサービスを提供する第三者の詳細や、その ような第三者との間の契約条件を明らかにすることが困難な場合も考えられることから 、ユー ザとしてどこまでの情報を収集して意思決定を行うことが合理的かは個別の状況次第であり9、 柔軟な対応が必要となる。 4 チェックリストを活用する上での留意点 9.例えば、カスタマイズサービスの利用規約等において、ベンダが契約上の義務の一部を第三者に委託する際にユーザの同意 が必要とされているようなケースでは、同意をするか否かの意思決定において、ベンダと第三者との間の契約条件等は重要 な考慮要素となるため、一定の情報開示を求めることは必ずしも不合理ではないと考えられる。 26 4.2 インプット提供に関する留意点 AI関連サービスは、ユーザが提供したインプットに対し、アウトプットを出力・提供するこ とを中核的な内容とするサービスである。そのため、インプット及びアウトプットの取扱いに 関する契約条件は、AI関連サービスを利用するための契約締結に際して 、慎重な検討を要する 条項である。特に、ユーザがインプットを提供しなければアウトプットは出力 ・提供されない ことに照らせば、インプットを提供する十分なインセンティブがユーザ側に確保されるかとの 視点は重要となる。 一般論として、契約上、アウトプットのユーザによる利用可能性が制限されている場合や 、 インプットを提供することでユーザが大きな不利益を被る場合等には 、アウトプットを得てこ れを利用することによるベネフィットを、インプット提供に伴う契約上又は事実上のデメリッ トが上回ることが想定される。そのような状況では、ユーザが契約条件をそのまま受け入れる ことが難しく、インプットの提供に対して、十分なインセンティブや合理性を見いだすことが できないことも想定される。インプットやアウトプットの取扱いについては 、幾つかの留意事 項が考えられるが、特に、次の場合には注意が必要である。 【インプットの取扱い】 ⚫ ユーザがインプットを提供する際に、対価なしでその知的財産権等をベンダに移転する ことが契約条件として定められている場合（このような権利移転に、AI関連サービス提 供との関連性や必要性がない場合には、一般論としては契約締結の合理性は低いと考え られる） ⚫ ユーザが提供するインプットが、AI関連サービスの提供を超えて利用される場合（ただ し、ベンダの技術向上目的については 、一概にユーザにとって不利益とまでは言えな い） 【アウトプットの取扱い】 ⚫ アウトプットの商業利用を想定しているにもかかわらず、契約上そのような利用が許容 されていない場合、又は制限的な義務が付されている等、事業上の利用可能性が契約上 確保できない場合 ⚫ アウトプットとして、第三者の知的財産権その他の権利利益を侵害するものが出力・提 供されるおそれが高い場合等、適用法令に照らして事業上の利用可能性が確保できない 場合 ⚫ アウトプットにバイアスや不正確な回答が散見される等、社会的又は事業上の観点から 利用が許容されない場合 4 チェックリストを活用する上での留意点 27 したがってユーザは、インプットやアウトプットの取扱いに関する契約条件を十分に精査し 、 アウトプットを得ることによるベネフィットや 、インプットを提供することによるリスク（特 に自社が不合理なリスクを負担することにならないか ）を把握した上で、その契約条件を受け 入れるか否かの判断が求められる。この際、契約条件により設定されたリスク分配あるいはリ スク負担を前提とした上で、インプットの提供に伴うリスクの低減策も考慮し 、慎重に検討す ることが必要である。 特に、AI関連サービスについては、インプットが汎用的なAI学習目的（自社のサービスの改 善や改良目的の形で表現される場合がある）に利用される場合（下記4.2.1参照）、ユーザへの サービス提供に必要な範囲でのみ AI学習目的に利用される場合 （下記4.2.2参照）、及びイン プットがAI学習目的に利用されない場合（下記4.2.3参照）等が想定される。リスク範囲が異な るため、次の各場面に応じてインプットに含める情報範囲を検討することが有益と考えられる 。 4 チェックリストを活用する上での留意点 28 4.2.1 インプットが汎用的なAI学習目的に利用される場合 インプットが汎用的なAI学習目的に利用される場合、すなわち、自社が提供したインプット が学習等、第三者も利用するAIサービス改良のために用いられる場合、以下のリスクが想定さ れる。一方で、一度AIモデル（学習済みモデル）に取り込まれた情報の除去は一般的には困難 であり、事後的な是正措置を講じることも難しい。したがって、不必要な情報を可能な限りイ ンプットに含めないことが基本的な対応方針であり 、そのための社内体制の整備と周知徹底が 重要である。 【個人情報保護法違反のリスク】 ⚫ インプットの提供が個人データの提供であると評価され 、かつ、ベンダによる学習が 委託（個情法27条5項1号）に当たらないと評価される場合には 、法令上の例外事由に 該当しない限り、本人の同意なく個人データを第三者10に提供することは個人情報保護 法に違反するおそれがある。 【自社の機微情報流出のリスク】 ⚫ AI関連サービスに用いられる技術次第では 、第三者からのアクセスやプロンプト等を 通じてインプットの内容が漏洩する可能性がある 。そのため、自社の秘密情報等の機 微情報を提供する場合 、その内容が第三者に開示されるリスクを十分に考慮する必要 がある（特に、不正競争防止法上の営業秘密に該当する情報については 、公知となる 場合、以後の要保護性が失われる可能性がある。）。 【秘密保持義務等違反のリスク】 ⚫ 第三者との契約で秘密保持義務等の外部提供禁止義務を負う情報をインプットとして 提供する場合、契約内容次第ではそのような行為が契約違反となるおそれがある （不 正競争防止法上の営業秘密や限定提供データに該当する情報については 、不正競争行 為を構成するおそれもある。）。 4 チェックリストを活用する上での留意点 10.個人情報保護法や秘密保持契約等の情報の取扱いに関する規律では、一般的に、情報を「第三者」に提供することを禁止す るルールが設けられている。インプットの提供の場面では、提供先であるベンダが「第三者」に該当するか否かが論点とな るが、「第三者」の範囲は一様ではなく、各種の法令や契約ごとに異なる意義を有していることが通常であり、個別の検討 を要することに留意が必要である。例えば、本文に記載のように、個人データの取扱いの委託に伴ってインプットが提供さ れる場合、ベンダは「第三者」に該当せず（個情法27条5項1号）、個人情報保護法には違反しないと整理し得るが、秘密保 持契約等においてこのような例外規定が存在しない場合には、インプットの提供が契約違反を構成し得る点に留意が必要で ある。 29 【知的財産権等の権利利益侵害のリスク】 ⚫ （学習目的利用であるかにかかわらず ）第三者が知的財産権又は法的に保護された権 利利益を有する情報をインプットとして提供することは 、権利侵害となる可能性があ る。例えば、第三者の著作物をインプットとして提供する際に 、権利制限規定の適用 がされない場合には、複製権や翻案権、公衆送信権等の著作権を侵害するおそれがあ る。 なお、チェックリストは、ベンダによる自社技術の開発目的利用自体が不適切であると評価 するものではない11。重要なのは、適用法令を遵守した上で、ユーザが契約条件及びそれに伴 うリスクを適切に認識し、アウトプットを得て利用することによるベネフィットと 、インプッ トの提供にともなう契約上又は事実上のデメリットとを比較 ・判断した上で契約条件を受け入 れるか、又はどのようなインプットを提供するかを決定することである 。こうしたベネフィッ トとデメリットの比較衡量は、重要なデータを提供する場合には特に慎重に行うことが必要で ある。 4 チェックリストを活用する上での留意点 11.ベンダの技術力が向上することでユーザが直接又は間接的にベネフィットを受ける場面も想定される。 30 4.2.2 ユーザへのサービス提供に必要な範囲でのみAI学習目的に利用される場合 上記4.2.1のように不特定多数のユーザのために汎用的なAI学習目的でインプットが用いられ る場合とは異なり、特定のユーザが内部文書や取引情報をベンダに提供し 、これらの情報を用 いてAIシステムを改良・調整することで、そのようなユーザの個別のニーズに特化したアウト プットを出力するAIサービス（カスタマイズサービス）が存在する（上記【類型2：カスタマイ ズ型】参照）12。 カスタマイズサービスが特定のユーザに対してのみ提供される場合には、上記4.2.1に述べた 幾つかのリスクは、そもそも発生しない、又は低減されていることが想定される。ただし、契 約や約款に基づき例外的にベンダが第三者にインプット又は学習結果を自己使用 ・外部提供す ることを許容する規定になっている場合や、ベンダのシステムの欠陥やサイバー攻撃等により これらが外部に漏えいすること、ベンダが自己使用・第三者への提供禁止義務を履行せず無断 使用する等のリスク自体は存在するため、提供するインプットの内容は慎重に判断し 、そのた めの社内体制の整備や周知徹底を行うことが重要である 。なお、インプットがユーザ自身への サービス提供に必要な範囲でのみAI学習目的に利用され、他の目的で使用されず、また第三者 に対して漏えい・提供されることがない環境が確保されているかは 、ベンダ側の運用やセキュ リティ水準に依拠するため、特に自社の機微情報をインプットに含める場合には 、システムの 構造やセキュリティ水準等に関して慎重な検討（下記4.5参照）を行うことが必要である。 4.2.3 インプットがAI学習目的に利用されない場合 インプットがAI学習目的に利用されない場合には、上記4.2.1に述べたリスクは、上記4.2.2 の場合と比較してもより低減されていることが少なくないと考えられるものの 、これらの場合 と同様に、提供するインプットの内容については慎重に判断し 、そのためのベンダに対する監 理の徹底、社内体制の整備や周知徹底を行うことが重要となる 。なお、インプットがAIサービ スの改良のために使用されず、また第三者に対して漏えい・提供されることがない環境が確保 されているかは、ベンダ側の運用やセキュリティ水準に依拠するため 、特に自社の機微情報を インプットに含める場合には、システムの構造やセキュリティ水準等に関して慎重な検討 （下 記4.5参照）を行うことが必要である。 4 チェックリストを活用する上での留意点 12.4.2.2が想定する場面とは異なり、例えば、医療業界に属するユーザからのインプットを用いて同業界で広く使えるような AI関連サービスを開発し、当該AI関連サービスが複数のユーザに対して広く提供されるケースもある。このような場合は、 改良されたAI関連サービスが当該ユーザ以外の第三者に対しても提供されるケース（上記4.2.1）に当たる。 31 4.3 開発型に関する留意点 ユーザがベンダに対し、AIシステム、あるいはその利用に必要なモジュールの全部又は一部 の開発を委託する場合、特に以下の点に注意を要する。 4.3.1 インプットの取扱い 開発型契約では、利用型契約（特に定型約款に基づき契約が成立する場合）と比較して、イ ンプットやインプット処理成果の利用条件が契約交渉の重要な検討事項になることが少なくな い。典型的には、ベンダがAI関連サービスの提供目的を超えて自社技術の開発目的にインプッ トを利用することを希望する場合、そもそもそのような利用を認めるのか、認める場合の具体 的な条件（利用可能範囲及び利用禁止範囲）を検討する必要がある（インプットの提供に伴う リスクは上記4.2参照）。 4.3.2 アウトプットの取扱い アウトプットの取扱いは、【契約の性質決定】、【AIシステムの開発に関する留意点】及び 【権利帰属/利用条件】の3点について留意する必要がある。 【契約の性質決定】 ⚫ 開発型契約の契約交渉に際しては 、その契約の性質を、委任事務の遂行を目的する準 委任契約（民法656条・643条）と、仕事の完成を目的とする請負契約（民法632条）と するかが、重要な交渉事項とされることがある 。両類型には幾つかの違いがあるが 、 準委任契約と理解される場合にはベンダは善管注意義務 （民法644条）を負うに留まる 一方、請負契約と理解される場合には仕事の完成義務 （民法632条）及び契約不適合責 任（民法559条・562条から564条）を負う点は、一般的に重要な相違点である。 ⚫ ただし、これらの民法上の典型契約を前提とする契約の性質の区分は 、あくまでも当 事者間で合意がない場合の補充的なルールを定めるにすぎない 。そのため、開発型契 約が準委任契約か請負契約のどちらに分類されるかを抽象的に議論することの妥当性 は検討が必要である。例えば、交渉対象の開発型契約が 、準委任契約に分類されたと しても、ベンダは善管注意義務を負い 、一定の水準に達しない開発が行われる場合に は債務不履行責任を問われ得る点に変わりはない。 ⚫ 対象となる開発型契約が準委任契約であるか 、それとも請負契約は相対的なものであ り、むしろユーザがベンダに対して 、成果の内容や水準をどの程度求めるかが重要な 論点となる場合が少なくない点に留意が必要である。 4 チェックリストを活用する上での留意点 32 【AIシステムの開発に関する留意点】 ⚫ 契約ガイドラインAI編は、典型的には、AIモデル（学習済みモデル）を開発する場面 を想定し、その契約条件に関する留意点を説明している 。特にAI編では、AIモデルが、 学習用データセットに基づく帰納的な手法により開発されるという技術的な背景を踏 まえ、AIモデルに関する完成義務の設定や性能保証が必ずしも容易でない点を指摘し ている。AI編で述べられた事項は 、開発型契約がAIモデルを直接の開発対象とする際 、 特に【類型3：新規開発型】の場面において、依然として妥当である。 ⚫ 他方で、AIモデルそのものではなく 、AIモデルを含むAIシステムを開発する場合には 、 AIモデルの出力等の不確実性を十分に考慮したシステム設計 ・開発が求められること も想定される。このような場合、開発対象であるAIシステムの実現について 、ベンダ が一定の担保責任を負うことが合理的な場面も考えられる 。ただし、【類型2：カスタ マイズ型】のように、ユーザとベンダの間で AIシステムの運用に関する継続的な契約 関係が存在する場合、一つの契約によりリスク分配を図ることが適切であるか 、ある いは可能であるかについては 、十分に考慮することが望ましい 。特に開発型契約が締 結される時点において 、AIシステムに生じ得るリスク分析が技術その他の制約により 十分に実施できない場合には 、開発型契約単体でリスク調整を行うのではなく 、その 後当事者間で締結される契約で段階的に調整をすることで 、より実態に即したリスク 分配が可能となる場合も想定される。 【権利帰属/利用条件】 ⚫ アウトプットの権利帰属及び利用条件は 、ユーザとベンダの利害が先鋭的に対立しや すい事項である 。開発型契約では 、開発により創出された成果に関する知的財産を フォアグラウンドIP、開発と関係なく各当事者が有する知的財産をバックグラウンド IPと位置づけた上で、前者に関する権利帰属や利用条件が契約上議論されることが少 なくない。もっとも、当事者間において、議論の対象のアウトプットの具体的な範囲 が十分に認識されないまま開発が進み 、その権利帰属や利用条件を決定する段階に 至って、アウトプットがフォアグラウンド IPを構成するのか 、それとも、ベンダの バックグラウンドIPを構成するのかが争点になることも想定される。 ⚫ 特に、【類型2：カスタマイズ型】において開発型契約が締結される場合、アウトプッ トがベンダ提供のAIシステム又はAIサービスと組み合わせて利用されることから 、当 事者でアウトプットがフォアグラウンド IP又はバックグラウンド IPに該当するのかを 明確に整理せずに開発が進む場合がある 。AIシステムに関する開発は長期間にわたり 継続することもあり、開発が進むにつれてアウトプットの具体的な範囲が不明確にな ることがあるため、開発初期の段階で当事者の認識を擦り合わせることが重要である 。 4 チェックリストを活用する上での留意点 33 4.4 個人情報保護法に関する留意点 AI関連サービス13の利用に伴い、ユーザからベンダに対し提供するインプットに個人データ が含まれる場合14、個人情報保護法の第三者提供規制 （個情法27条）の遵守が必要になる。ま た、AI関連サービスの提供には海外ベンダが関与している事例が多く見られるところ 、上記場 合においてベンダが外国に所在するときには 、さらに越境移転規制（個情法28条）の遵守が必 要となるため、注意を要する。 契約との関係では特に以下の各点の検討が重要である 15、16。なお、以下では、「ユーザ」が AIサービスの利用に伴って個人データを含むインプットを提供する立場にあり 、「ベンダ」が インプットの提供を受ける立場にある。 4.4.1 国内の第三者への個人データの提供に該当する場合 個人情報取扱事業者たるユーザが、AI関連サービス利用のために個人データを含むインプッ トを提供する場面において、インプットが個人データの第三者提供（個情法27条1項）に当たる 場合17、ユーザは原則としてあらかじめ本人の同意を取得し（個情法27条1項）、かつ、第三者 提供に係る記録を作成等する義務（個情法29条）を負う。 他方、例えば、ベンダに対する個人データの「提供」が、利用者の利用目的の達成に必要な 範囲内において個人データの取扱いを「委託」すること（個情法27条5項1号）に伴って行われ る場合には、当該「提供」についてあらかじめ本人の同意を得る必要はない。 4 チェックリストを活用する上での留意点 13.上記2.1のとおり、AI関連サービスは、システム提供型とサービス提供型の両方を含んでいることには留意が必要である。 14.「個人データ」とは、「個人情報」（個情法2条1項）のうち「個人情報データベース等」を構成するものをいう（個情法16 条3項）。この「個人情報データベース等」とは、特定の個人情報をコンピュータを用いて検索することができるように体 系的に構成した、個人情報を含む情報の集合物をいう。また、コンピュータを用いていない場合であっても、紙面で処理し た個人情報を一定の規則（例えば、五十音順等）に従って整理・分類し、特定の個人情報を容易に検索することができるよ う、目次、索引、符号等を付し、他人によっても容易に検索可能な状態に置いているものも該当する （個情法16条1項、個 人情報保護委員会「個人情報の保護に関する法律についてのガイドライン（通則編）」2-4）。 15.チェックリストでは、あくまでも契約との関係で重要と思われる規律を記載しているにすぎず、個人情報保護法上遵守が必 要な規律の全てを定めているものではないため、留意されたい。 16.なお、ユーザは、あらかじめ本人の同意を得ないで、特定された利用目的の達成に必要な範囲を超えて、個人情報を取扱っ てはならない（個情法18条）。そのため、ユーザは、インプットに含まれる個人情報が個人データには該当しない場合で あっても、インプットに個人情報を含めることが利用目的の達成に必要な範囲内か否かに留意する必要がある。 17.契約条項によってベンダがサーバに保存された個人データを取扱わない旨が定められており、適切にアクセス制御を行って いる場合等、ベンダが当該個人データを取扱わないこととなっている場合には、個人データの提供がないとされている（個 人情報保護委員会Q&A Q7-53）。なお、この場合でも、ユーザは、自ら果たすべき安全管理措置の一環として、適切な安全 管理措置を講じる必要がある（個人情報保護委員会Q&A Q7-54）。 34 ⚫ このときベンダ （委託先）は、委託された業務以外に 、委託に伴ってユーザ （委託 元）から提供された個人データを取扱うことはできない 。当該業務以外に当該個人 データを取扱う事例として 、例えば次のような事例が考えられるため 、注意を要する。 ⃝ ベンダが、ユーザの利用目的の達成に必要な範囲を超えて 、委託の内容と関係のな い自社の活動のために個人データを取り扱うとき。 ⃝ ベンダが、委託に伴ってユーザから提供された個人データを 、当該ベンダが独自に 取得した個人データ又は個人関連情報と本人ごとに突合するとき18。 ⚫ ユーザ（委託元）には、必要かつ適切な安全管理措置の一環として 、委託先の監督義 務（個情法25条）が課せられ、（1）適切な委託先の選定、（2）委託契約の締結及び （3）委託先における個人データの取扱状況の把握の観点から 、必要かつ適切な措置を 講じなければならない。 ⃝ （2）委託契約の締結に関し、委託契約には、当該個人データの取扱いに関する、必 要かつ適切な安全管理措置として 、ユーザ・ベンダ双方が同意した内容とともに 、 ベンダにおける委託された個人データの取扱状況をユーザが合理的に把握すること を盛り込むことが望ましい19。 ⃝ （3）ベンダにおける個人データの取扱状況の把握に当たっては、取扱いを委託する 個人データの内容や規模に応じて適切な方法を講じれば足りる20。ベンダの監督につ いては、取扱いを委託する個人データの内容を踏まえ 、個人データが漏えい等をし た場合に本人が被る権利利益の侵害の大きさを考慮し 、委託する事業の規模及び性 質、個人データの取扱状況（取扱う個人データの性質及び量を含む 。）等に起因す るリスクに応じて行うべきものと考えられる21。したがって、具体的にどのような内 容の監督義務を講ずべきかは個々の事案により異なるが 、例えば、ベンダの約款等 を吟味した結果、当該約款等を遵守することにより当該個人データの安全管理が図 られると判断される場合には 、それをもって監督義務の履行として十分と考えられ るケースもあり得る。 個人情報取扱事業者たるユーザが、あらかじめ本人の同意を得ることなく生成 AIサービスに 個人データを含むプロンプトを入力し、サービス提供者が当該個人データを当該プロンプトに 対する応答結果の出力以外の目的で取り扱う場合 、当該ユーザは個人情報保護法の規定に違反 することとなる可能性がある22。 4 チェックリストを活用する上での留意点 18.個人情報保護委員会Q&A Q7-41 19.個人情報保護委員会「個人情報の保護に関する法律についてのガイドライン（通則編）」3-4-4（2） 20.個人情報保護委員会Q&A Q5-9 21.個人情報保護委員会Q&A Q5-11 22.個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」（1）② 35 4.4.2 外国23にある第三者への個人データの提供に該当する場合 インプットの提供先であるベンダが「外国にある第三者」に該当するかは、外国の法令に準 拠して設立され外国に住所を有する外国法人であること等が考慮要素となるが 、個別具体的な 検討を要する24。提供したインプットが保存されるサーバの所在地は判断基準とはならないた め、注意が必要である25。 ベンダが外国にある第三者である場合、次に定める場合を除き、あらかじめ「外国にある第 三者への個人データの提供を認める」旨の本人の同意を得る必要がある。当該同意の取得に際 しては、その外国の名称、その外国の個人情報の保護に関する制度、及びベンダが講じる個人 情報の保護のための措置に関する情報26を本人に提供する必要がある。 ⚫ その外国が個人の権利利益を保護する上で我が国と同等の水準にあると認められる個 人情報の保護に関する制度を有している外国として 個人情報保護法施行規則 で定める 外国である場合27 ⚫ 個人情報取扱事業者が講ずべき措置に相当する措置を継続的に講ずるために必要な体 制として個人情報保護法施行規則 で定める基準に適合する体制 （基準適合体制）（下 記参照）を整備している場合 ⚫ 個人情報保護法27条1項各号に定める場合 基準適合体制の整備としては、以下のいずれかの要件を充足する必要がある 。なお、ユーザ は、個人情報保護法施行規則で定めるところにより、ベンダによる相当措置の継続的な実施を 確保するために必要な措置を講ずる 28とともに、本人に対し、その求めに応じて当該必要な措 置に関する情報を提供する義務29を負う30。 4 チェックリストを活用する上での留意点 23.本邦の域外にある国又は地域をいう。 24.個人情報保護委員会「個人情報の保護に関する法律についてのガイドライン（外国にある第三者への提供編）」（外国第三 者提供GL）2-2。ベンダが外国の法令に準拠して設立され外国に住所を有する外国法人であっても 、例えば、日本国内に事 務所を設置している場合、又は、日本国内で事業活動を行っている場合等、日本国内で「個人情報データベース等」を事業 の用に供していると認められるときは、当該ベンダは、「外国にある第三者」には該当しない。 25.例えば、個人情報取扱事業者であるユーザが自ら外国に設置し、自ら管理・運営するサーバに個人データを保存することは、 外国にある第三者への提供には該当しない（個人情報保護委員会Q&A Q12-3）。また、ベンダがA国に所在しているものの、 B国にサーバを設置しており、提供した個人データが当該サーバに保存される場合は、サーバ所在地であるB国ではなく、A 国にある第三者への越境移転となる（個人情報保護委員会Q&A Q12-11）。 26.個情法28条2項、個情規則17条2項、外国第三者提供GL 5-2 27.チェックリスト公表日現在、EEA加盟国及び英国がこれに該当する。 28.個情規則18条1項、外国第三者提供GL 6-1 29.個情規則18条3項、外国第三者提供GL 6-2 30.個情法28条3項。外国にあるベンダと契約する際には、日本の個人情報保護法の規律を十分に把握しているとは限らないた め、必要に応じて規律の内容を十分に説明し、対応を求めることが必要になる場合もある。 36 ⚫ ベンダとの間の契約等、「適切かつ合理的な方法」により、下表に記載された個人情報 保護法第4章第2節の規定の趣旨に沿った措置（相当措置）の実施が確保されていること 31 ⚫ ベンダがAPECのCBPRシステムの認証を取得している企業 （以下「CBPR認証企業」とい う。）である等、個人情報の取扱いに係る国際的な枠組みに基づく認定を受けているこ と32 4 チェックリストを活用する上での留意点 31. 個情規則16条1号。契約等において、表の全ての事項を記載しなければならないものではなく、措置の実施が必要な範囲で 確保されていれば足りる（外国第三者提供GL 4-1及び4-2）。なお、ユーザがCBPR認証企業であり、ベンダが当該ユーザに 代わって個人情報を取扱う者である場合には、当該ユーザがCBPRの認証の取得要件を充たすことも、「適切かつ合理的な 方法」の一つとなり得る（外国第三者提供GL 4-1）。 32. 個情規則16条2号、外国第三者提供GL 4-3。 第17条 第18条 第19条 第20条 第21条 第22条 第23条 第24条 第25条 第26条 第27条 第28条 第32条 第33条 第34条 第35条 第36条 第37条 第38条 第40条 利用目的の特定 利用目的による制限 不適正な利用の禁止 適正な取得 取得に際しての利用目的の通知等 データ内容の正確性の確保等 安全管理措置 従業者の監督 委託先の監督 漏えい等の報告等 第三者提供の制限 外国にある第三者への提供の制限 保有個人データに関する事項の公表等 開示 訂正等 利用停止等 理由の説明 開示等の請求等に応じる手続 手数料 個人情報取扱事業者による苦情の処理 37 4.4.3 個人情報保護法27条及び28条の適用関係の整理 個人情報保護法27条及び28条の適用関係33は、下表のとおりである。インプットの提供34を受 けるベンダが日本にある第三者である場合には 、同法27条の第三者提供規制が主な論点となる が、外国にある第三者である場合には、上記4.4.2に述べた同法28条に基づく提供根拠を整理し た上で、同条に基づく同意を得た場合を除き、さらに同法27条に基づく規律を遵守することが 必要となる。 また、上記の適用関係に関し、検討の主なポイント及び流れを図式化すると、図9のとおりと なる。 4 チェックリストを活用する上での留意点 33.個情法27条1項各号に定める場合には、本人の同意なく個人データを第三者（外国にある第三者を含む）に提供することが できる。以下の説明では、個情法27条1項各号に該当しない場合の取扱いを説明する。 34.上記注17のとおり、契約条項によってベンダがサーバに保存された個人データを取扱わない旨が定められており、適切にア クセス制御を行っている場合等、ベンダが当該個人データを取扱わないこととなっている場合には、個人データの提供がな いとされている（個人情報保護委員会Q&A Q7-53）。なお、この場合でも、ユーザは、自ら果たすべき安全管理措置の一環 として適切な安全管理措置を講じる必要がある（個人情報保護委員会Q&A Q7-54）。また、外国にあるベンダの提供するク ラウドサービスを利用する場合は、ベンダに対する個人データの提供がない場合であっても、ユーザは、外国において個人 データを取扱うこととなるため、当該外国の個人情報の保護に関する制度等を把握した上で、安全管理措置を講じる必要が ある。具体的には、原則として、ベンダが所在する外国の名称及び個人データが保存されるサーバが所在する外国の名称を 明らかにし、当該外国の制度等を把握した上で講じた措置の内容を本人の知り得る状態に置く必要がある（詳細は、個人情 報保護委員会Q&A Q10-25参照）。 35.本人の同意に基づいて越境移転を行う場合、第三者提供の例外としての委託等（個情法27条5項）に相当する例外規定が存 在しないため、注意を要する。 36.個情法28条1項第2文。 37.個情法27条5項1号。 個人情報保護法28条に基づく提供根拠 外国にある 第三者 外国にある第三者への提供を認める旨の本 人の同意を取得すること35 ※同意の取得に際しては、その外国の名称、その 外国の個人情報の保護に関する制度やベンダが講 じる個人情報の保護のための措置に関する情報を 本人に提供する必要がある 個人情報保護法27条に基づく規律 日本にある 第三者 ベンダが基準適合体制を整備していること ※ユーザは、個情規則で定めるところにより、ベ ンダによる相当措置の継続的な実施を確保するた めに必要な措置を講ずるとともに、本人の求めに 応じて当該必要な措置に関する情報を当該本人に 提供する必要がある ベンダが、個人の権利利益を保護する上で 我が国と同等の水準にあると認められる個 人情報の保護に関する制度を有している外 国として個情規則で定める外国であること （チェックリスト公表日現在 、EEA加盟国及 び英国がこれに該当する） ー （個人情報保護法28条に基づく同意を得た場合に は、同法27条の規定は適用されない36） 第三者への提供に当たる場合は、そのような 提供を認める旨の本人の同意を取得する必要 がある ※実務上活用されることが多い第三者提供の例外 として委託構成があり 、インプットの提供が 、 ユーザの利用目的の達成に必要な範囲内において 個人データの取扱いの 「委託」37に伴って行われ る場合には、「第三者」への提供には当たらず、 あらかじめ本人の同意を得る必要はない （委託構 成に関する留意事項については上記4.4.1参照） 38 4 チェックリストを活用する上での留意点 第三者提供規制 （27条） 図9 個人情報保護法27条及び28条の適用関係の整理 NO 注記 ベンダに対する個人データの提供がない場合であっても 、ユーザは、自ら果たすべき安全管理措置の一環として、適 切な安全管理措置を講じる必要がある。また、外国において個人データを取扱うこととなる場合 、当該外国の個人情 報の保護に関する制度等を把握した上で、安全管理措置を講じる必要がある。なお、インプットに含まれる個人情報 が個人データには該当しない場合であっても、利用目的規制等は別途問題となるため注意が必要である 当該例外事由は個情法27条及び28条に共通して適用されるところ、作図の便宜上、各規制の枠外に位置づけている 同意の取得に際しては、その外国の名称、その外国の個人情報の保護に関する制度及びベンダが講じる個人情報の保 護のための措置に関する情報を本人に提供する必要がある ユーザは、個人情報保護委員会規則で定めるところにより 、ベンダによる相当措置の継続的な実施を確保するために 必要な措置を講ずるとともに、本人の求めに応じて当該必要な措置に関する情報を当該本人に提供する必要がある 個情法28条のルートを取る場合には越境移転が可能であり、同法27条のルートだけを取る場合には提供が可能である 3 1 2 5 4 YES インプットに個人データが 含まれるか インプットがベンダに 「提供」されるか オプトアウト/委託/ 事業承継/共同利用に よることができるか インプットの提供は 第三者提供規制 OR 越境移転規制違反 ベンダは 外国にある第三者か ベンダは EEA又は英国にあるか インプットの 第三者提供について 同意が得られるか インプットの 越境移転について 同意が得られるか 3 越境移転規制 （28条） 1 提供が個情法27条1項の 例外事由に当たるか 2 5 基準適合体制が 整備されているか 4 同意によらない場合 同意によらない場合 NO YES NO NO YES YES YES YES YES NO NO NO NO NO YES YES 39 4.5 セキュリティに関する留意点 上記4.2で述べたとおり、ユーザが利用しようとするAI関連サービスの形態に応じて、システ ムの構造やセキュリティ水準に関し一定程度慎重に検討を行うべき場合がある。 データセキュリティに関する契約条項としては 、チェックリスト（A-3-3）や（A-3-4）のと おり、インプットを処理するアプリケーションを含む AIシステム全体（対象システム38）のセ キュリティ水準、監査・情報提供義務、ログ保存義務等の条項が主な検討対象となる 。以下、 ユーザ側の契約担当者が、場合によっては社内の技術担当者等とも協業しながら 、関連する契 約条項を検討する際に有益と考えられる具体的な着眼点を示す 。なお、AIサービスが商用デー タセンタあるいはパブリッククラウド等の第三者の環境下で運用される場合 、AIサービスの扱 うデータに当該第三者自身がアクセスすることが技術的に不可能な状況が確保されているかは 、 契約条件だけでなく、実際のセキュリティレベルにも大きく依存するため 、契約締結の際には このような観点からの情報収集及び検討も重要である。 4 チェックリストを活用する上での留意点 38.なお、対象システムが下位システムに依存している場合（同一ベンダ内だけでなく、第三者の下位のクラウド等の基盤シス テムに依存している場合を含む） や他のシステムを水平的に呼び出している場合 （例えば、AI関連サービスが外部のID認 証サービスを呼び出している場合等。当該外部ID認証サービスがセキュリティ侵害を受けると、攻撃者は当該AI関連サービ スの情報にアクセスできてしまう）、対象システムのセキュリティ強度は各依存先システムのセキュリティ強度のうち最も 弱いものに依存することから 、物理 （ハードウェア） 的セキュリティに達するまでの全てのシステムにおけるセキュリ ティが論点となり得る。 40 4.5.1 対象システムのセキュリティ水準 ユーザは必要に応じて、利用しようとするAIサービスがユーザの要求する機密水準に適合し たセキュリティ水準を有しているかを確認し 、重要なセキュリティ要件が契約内容に反映され ているかを検討する必要がある。ただし、対象システムのソースコードや設計の詳細は 、ベン ダの企業秘密に該当するとして、開示されない場合も少なくない。その場合、どのような資料 を参照すべきかについて必ずしも定まった手法は存在しないが 、例えば以下のような資料は重 要な参考資料となり得る。ベンダに任意の資料開示を求めることや、必要に応じて契約上もこ れらの資料の継続的な開示を求めることも考えられる。 【対象システムのアーキテクチャに関する資料】 ⚫ 対象システムのセキュリティ強度を外部的に推測するために 、設計・実装の思想や実 際の構造を示す多様な資料の確認が重要である 。ベンダが広報目的で作成した資料だ けでは、実際のセキュリティレベルを把握することは難しい 。そこで、ベンダ内の技 術者あるいは信頼できる執筆者39によるアーキテクチャ全体図、書籍、技術記事、論文、 ホワイトペーパー、講演資料等、幅広いものを確認する方法が有用である 。その際、 文書相互の記述の正確性 ・一貫性等を元に対象システムのセキュリティ水準を一定程 度正確に確認でき40、確認する資料の記述者や内容の多様性を確保できるならば、個々 の記載の粒度は必ずしも詳細である必要はなくなる。 【ソフトウェア部品構成表：Software Bill of Materials （SBOM）】 ⚫ 対象システムに含まれる全てのソフトウェアコンポーネントや依存関係を一覧化した 文書としてはSBOMが有用であり、脆弱性の特定や管理を容易にする効果が期待される41。 4 チェックリストを活用する上での留意点 39.多数のユーザや読者から内容のレビューを受けることを前提として 、著者が自己の名において見解を発表しているものが 望ましい。 40.例えば、Microsoftの技術者達が外部著者に協力し、自社のクラウド基盤を構成するソフトウェアの構造を解説し 、独自に 実装しているセキュリティ対策を解説している書籍がある[1]。また、Googleの技術者が、自社クラウド基盤ソフトウェア の構造を示し、不要なプログラムを極力排除することによりアタックサーフェスの最小化措置を講じていることを説明す る同社ウェブサイトのような例も存在する[2]。このような公表物も、システムないしそれを構成する要素技術について、 設計・実装の思想や実際の構造を示した資料に当たる。 [1] Pavel Yosifovich他（著）、山内 和朗（訳）「インサイド Windows第7版」（2018年、日経BP）他「インサイド Windows」シリーズ [2] Andy Honig他「7 ways we harden our KVM hypervisor at Google Cloud: security in plaintext」（2017年） https://cloud.google.com/blog/products/gcp/7-ways-we-harden-our-kvm-hypervisor-at-google-cloud-security-in- plaintext?hl=en （2024年12月4日閲覧） 41.SBOMによる脆弱性管理プロセス等の観点でユーザの参考になる文書として 、経済産業省「ソフトウェア管理に向けたSBOM （Software Bill of Materials）の導入に関する手引ver2.0」（2024年8月29日）参照。なお、個々のコンポーネントに脆 弱性が認められたとしても、それが対象システム全体のセキュリティリスクに繋がるか否かは 、当該コンポーネントの機 能や役割次第であるため、対象システムのアーキテクチャに関する資料とともに分析し 、必要に応じてベンダに質問をす ることが望ましい。 41 【脆弱性情報】 ⚫ 脆弱性の発見・修正履歴や脆弱性ニュース等において、対象システムのプログラムの規 模や複雑さに応じ42、脆弱性が第三者によって発見されベンダによって修正された事例 の蓄積があれば、多角的な第三者による客観的な脆弱性の調査が行なわれ、継続的に発 見・対策されていると評価できるため、セキュリティ強度を推認する一要素となる。 4.5.2 監査条項等 可能な場合には、監査条項を設けることも有効である。例えば、第三者である委託事業者の 内部監査部門による監査等の条項や、国際的なセキュリティの第三者認証（ISO/IEC27001等） の取得を条件とする方法等が考えられる。 4.5.3 ログの保存 サイバー攻撃への対応や内部不正防止の観点から 、ユーザによるアプリケーション利用のロ グだけでなく、AIサービス及びその基盤部分に対する管理者・開発者権限を含む認証ログ、ア クセスログ、操作ログ等の各種ログを保存するようベンダに求めることも考えられる。 4.6 規約改定に関する留意点 上記で取り上げた利用型契約のうち、ベンダが利用規約に基づいてサービスを提供している ケースでは、利用規約が定期的に変更され得るため、変更状況を随時確認すべきことに留意が 必要である。利用規約の変更条件や手続等については、利用規約に定められた規約変更に関す る条項や、利用規約が選択する準拠法がこれを規律することとなる 。特にベンダが海外に所在 する場合には、海外法が準拠法として選択されることが多いため 、ユーザは、必要に応じて選 択された準拠法における規約変更のルールを確認することが望ましい。 日本においては、一定の条件を満たす利用規約に関する民法上のルールが存在する 。利用規 約が民法上の定型約款（民法548条の2）に該当する場合43、ベンダは、その変更内容がユーザ の一般の利益に適合しない場合であっても、①利用規約を変更する旨、②変更後の利用規約の 内容、及び③効力発生時期を、その効力発生時期が到来する前に、インターネットの利用やそ の他の適切な方法により周知する場合には、その変更が合理的なものである限り、ユーザの個 別の同意を必要とせずに契約の内容を変更することができる （民法548条の4）。しかし、利用 規約の変更がウェブサイト等で周知されるに留まる場合 、ユーザがそのような変更を把握しな いままAI関連サービスを利用し、その結果、契約違反相当行為を行う、又は不測のインプット 4 チェックリストを活用する上での留意点 42.脆弱性はプログラム上のコーディングミス又はロジックの誤りで生まれるが 、規模や複雑さに応じて誤りは増加し 、これ を避けることは不可能である。したがって、大規模なプログラムには不可避的に脆弱性が多く存在することとなり 、規模 が巨大であるにもかかわらず脆弱性がほとんど報告されていないようなサービスは 、脆弱性の調査や対処が行なわれない まま残存している懸念が残る。 43.チェックリストはAI利用に関する契約上の留意点を取りまとめることを目的としているため 、どのような利用規約が定型 約款に該当するか等の民法の解釈適用に関する解説は、各種文献に譲る。 42 利用が発生する等の事態が想定される。これらの事態を避けるため、ユーザは利用規約の内容 及び変更状況を随時確認するための体制を整備することが望ましい。 また、上記【類型2：カスタマイズ型】のように、汎用的AIサービスをカスタマイズして提供 するような場面では 、汎用的AIサービスの利用規約を基にして 、さらにカスタマイズされた サービスの利用規約が作成される。カスタマイズサービスを提供するベンダは 、その基となる 汎用的AIサービスの利用規約の変更に応じ、これと連動する形でカスタマイズサービスの利用 規約を変更する必要が生じる場合がある。そのため、上記のチェック体制の整備がより一層求 められることから、必要に応じて、関連する規約の更新をチェックする担当者や部署等を検討 することも一案である。 4 チェックリストを活用する上での留意点 経済産業省 商務情報政策局 情報経済課 経済産業省 商務情報政策局 情報産業課 情報処理基盤産業室 経済産業省 製造産業局 総務課 DXチーム AI利活用に伴う契約時の留意事項検討会 松下 外（主査） 生貝 直人 齊藤 友紀 殿村 桂司 西田 亮正 登 大遊