人工知能関連技術の研究開発及び活用の適正性確保に関する指針

人工知能関連技術の研究開発及び活用の 適正性確保に関する指針 令和７年 12 月 19 日 人工知能戦略本部決定 1 目 次 １ 我が国における適正性確保に関する基本的な考え方 ································ ································ ··········2 (1) 本指針の位置付け ··································································································· 2 (2) 本指針における適正性確保の考え方 ·········································································· 2 (3) 適正性確保のための基本方針···················································································· 4 ２ 研究開発機関及び活用事業者が特に取り組むべき事項 ································ ································ ······5 (1) ＡＩガバナンスによる俯瞰的な適正性の確保 ······························································ 5 (2) ステークホルダーとの信頼関係の構築に向けた透明性の確保 ········································· 5 (3) 十分な安全性の確保 ································································································ 6 (4) 事業継続性確保による安全な環境の維持 ···································································· 6 (5) ＡＩのイノベーションの基盤となるデータの重要性を踏まえたステークホルダーへの配慮 ·· 6 ３ 国及び地方公共団体が特に取り組むべき事項 ································ ································ ···················· 7 (1) ＡＩの積極的かつ先導的な活用によるイノベーションの促進 ········································· 7 (2) 社会全体におけるＡＩリテラシーの向上 ···································································· 7 (3) ＡＩガバナンスの在り方の検討 ················································································ 7 (4) 行政としてのアカウンタビリティを果たすこと ··························································· 8 ４ 国民が特に取り組むべき事項 ································ ································ ································ ·············9 (1) 人間中心の原則に基づくＡＩの責任ある利用 ······························································ 9 (2) ＡＩリテラシーに基づく適切な利用 ·········································································· 9 2 １ 我が国における適正性確保に関する基本的な考え方 (1) 本指針の位置付け 人工知能関連技術の研究開発及び活用の推進に関する法律（令和７年法律第53号。以 下「ＡＩ法」という。）第13条に基づく本指針は、信頼できるＡＩの実現に向けて、事 業者、国民等の全ての主体 1におけるＡＩの研究開発・活用の適正な実施に係る自主的 かつ能動的な取組を促すために、国際的な規範の趣旨に即して策定するものである。 本指針の構成としては、１で全ての主体におけるＡＩの研究開発・活用の適正性確保 に必要となる主な要素と基本方針を示し、２以降で各主体が１を前提として特に取り組 むべき事項を記載する。全ての主体は、これに基づき、適正性確保に必要となる主な要 素を認識、理解することが求められる。また、取り組む べき事項について、各主体の規 模や立場、ＡＩがもたらすリスクに応じて、その時点で適用し得る技術や知見を踏まえ て適切な水準で対応することが求められる。 我が国は、信頼できるＡＩの開発、活用、普及に向けて、本指針を中心とした枠組み を、国際モデルとなるよう展開するとともに、ＡＩに係る国際的なルール形成を行う枠 組みである「広島ＡＩプロセス」を牽引してきた実績 2を踏まえ、引き続き国際的な議 論を主導しながら、ＡＩガバナンスの構築において国際協調を図る。 (2) 本指針における適正性確保の考え方 ＡＩは、経済成長や国民生活の発展に寄与するものであることから、その社会実装を 進めイノベーションを促進していくことが重要である一方 、ＡＩには様々なリスクがあ る。例えば、誤判断やハルシネーション 3等の技術的リスク、偽・誤情報の生成・拡散、 偏見・差別の助長、犯罪への利用、過度な依存、プライバシー・財産権の侵害、環境負 荷の増大、雇用・経済不安等の社会的リスク、さらにはサイバー攻撃等の安全保障上の リスクがあり、これらのリスクはＡＩの技術進歩とともに変化したり、未知のリスクが 発生したりする可能性があり、リスクに対する社会的な受容水準も変化し得る。 1 ＡＩ法第４条から第８条において責務が規定される、国、地方公共団体、研究開発機関、活用事業者、国民を指す。 2 2023年５月のG7広島サミットにおいて「広島ＡＩプロセス」を立ち上げ、G7 日本議長国下の成果物として、高度なＡ Ｉシステム開発・利用に関する「広島ＡＩプロセス包括的政策枠組み」をとりまとめた。2024年５月には、広島ＡＩプ ロセスの精神に賛同する国々・地域の自発的な枠組みである「広島ＡＩプロセス・フレンズグループ」が立ち上げられ、 60の国・地域が参加している（2025年12 月時点）。また、2025年2 月には、「国際行動規範」の遵守状況をＡＩ開発 者自らが自主的に報告、公表する「報告枠組み」の正式運用が開始されており、24組織が回答を提出している（2025年 12月時点）。 3 生成ＡＩにより、事実とは異なることがもっともらしく出力されることをいう。 3 このため、本指針では、適正性確保に当たって、 適正性についての一義的な定義や絶 対的な水準を定めるものではなく、各主体が研究開発、活用するＡＩの特性、⽤途、⽬ 的や、自身の立場、社会的役割等を踏まえて⾃主的に取組を進めるという考え方の下、 「人間中心のＡＩ社会原則」（平成 31 年３月 29 日統合イノベーション戦略推進会議決 定）に掲げられた理念を踏まえ、その際に考慮すべき主な要素を以下のとおり示す。  人間中心  人間の尊厳や基本的人権を尊重すること。また、法令を遵守すること。  誰もがＡＩの恩恵を享受できるよう、多様性、包摂性を尊重し、多様な人々 の幸福の追求による包摂的な成長を目指すこと。  ＡＩを活用する範囲や条件については、人間自らが最終的な判断を行うこと。  公平性  ＡＩの活用によって、社会に不当な偏見や差別を生じさせたり、助長したり しないこと 4。  安全性  ＡＩの活用によって、生命、身体、財産等 5に危害を及ぼさないようにする こと。  透明性  ＡＩに対する信頼性が向上するよう、必要かつ技術的に可能な範囲での情報 の開示、事後的な検証可能性の確保等により、透明性を適切に確保すること 6。  アカウンタビリティ 7  ＡＩがもたらす社会的影響を踏まえ、責任の所在の明確化、責任を果たすた めの仕組みの構築等により、技術的、制度的、社会的観点からアカウンタビ リティを合理的な範囲で果たすこと。  セキュリティ  不正な操作によるＡＩの意図しない動作や停止をはじめとするＡＩのセキュ リティ上のリスクを低減させるよう、ＡＩのセキュリティを適切に確保する こと。  プライバシー・個人情報  取り扱うデータの重要性等に応じてプライバシーを尊重し、適切に保護する こと。また、個人情報保護法等関連法令を遵守すること。 4 ＡＩの活用によって生じ得るバイアス、ジェンダーギャップ、情報操作等により公平性を損なわないようにすることを 含む。 5 ディープフェイク技術によるフェイク動画、性的加工画像、他人になりすました音声等を用いた脅迫や名誉棄損により 危害が及ぼされ得る自由、名誉を含む。 6 ＡＩの挙動、入力から出力を生成するプロセスの解明等を進め、ＡＩの出力に寄与するアルゴリズムへの理解を深める ことも重要である。 7 個人や組織が自らの行動や決定に対する責任を持ち、その責任を果たすための行動をとることを意味する。 4  公正競争  特定の者 にＡＩに関する資源が集中した場合においても、その有利な立場を 利用した不当なデータの収集を含む不公正な取引が行われないようにするな ど、公正な競争の促進に貢献すること。  ＡＩ リテラシー  ＡＩ がもたらすリスクの社会的受容可能な水準は変わり得ることを認識し、 便益の最大化とリスクの抑制を図れるよう、知識・能力を身に付けるととも に、倫理観を保持すること。  イノベーション  環境負荷 の低減を含む持続可能性を確保しつつ、イノベーションの促進に貢 献するよう努めること。  社会課題の解決に資する ＡＩの技術開発に取り組むこと。  ＡＩの 活用を阻害する要因の改善を図ること。 (3) 適正性確保 のための基本方針 (2)で示し た考え方を踏まえ、適正性を確保するために取り組むべき基本方針 を以下 のとおり示す。 ① リスクベース でのアプローチ ＡＩ がもたらすリスクを特定・評価し、ＡＩを利用する分野や目的を踏まえた 影響度合いに応じて、適切な対策を講じる 8。 ② ステークホルダーの積極的 な関与 ＡＩ がもたらす便益、リスク等により影響を受ける主体（以下「ステークホル ダー」という。）9がＡＩガバナンスに積極的に関与し、他のステークホルダー と 協働して課題解決に取り組む。 ③ 一気通貫での ＡＩガバナンスの構築 ＡＩ がもたらすリスクをステークホルダーにとって受容可能な水準で管理しつ つ、便益を最大化するため、研究開発から社会実装までが近接するＡＩの各段階 を一体的に捉えたＡＩガバナンスを構築する。 ④ アジャイルな対応 ＡＩの技 術進歩の速さや、予見可能性、説明可能性が十分でないことを踏まえ、 変動し得るリスクに対してＰＤＣＡ（計画・実行・評価・改善）サイクルを回し ながら、柔軟・迅速（以下「アジャイル」という。 ）に対応し、ＡＩガバナンスの 成熟度を高めていく。 8 レッドチーム等の様々な手法を組み合わせて、多様な内部テスト手段や独立した外部テスト手段を採用することや、特 定されたリスクや脆弱性に対処するための適切な措置を実施することが望ましい。 9 例えば、ＡＩのイノベーションの基盤となるデータの保有者、ＡＩの生成物を取り扱う者等、ＡＩの活用によって影響 を受けるが、直接は関与していない関係者も含まれ得る。 5 ２ 研究開発機関及び活用事業者が特に取り組むべき事項 ＡＩを活用した製品、サービスの開発、提供をする活用事業者 10は、その開発、提供し たＡＩが多くの主体に影響を及ぼし得ることを踏まえ、国際的な規範11、国際規格12、各種 ガイドライン等 13を活用しつつ、１(2)に示す適正性確保に必要となる主な要素に関して、 特に以下の事項に取り組む。 また、ＡＩの研究開発機関 14は、その開発したＡＩを第三者に提供する際は、１(2)に示 す適正性確保に必要となる主な要素に関して、特に以下の事項に取り組む。 (1) ＡＩガバナンスによる俯瞰的な適正性の確保 ＡＩの設計・開発・提供・実装等のライフサイクル全体で、リスクの特定・評価・ 対処をするための組織的なプロセス（経営層の関与したモニタリングや評価の仕組み、 情報の適切な開示、教育・研修の実施等）を含むＡＩガバナンスを構築 15・運用・継 続改善し 16、ＡＩがもたらす便益を最大化しつつ、そのリスクを受容可能な水準で管 理する。 (2) ステークホルダーとの信頼関係の構築に向けた透明性の確保 学習データの出所と出力される生成物に ついて、知的財産、プライバシー等の保護 の適切な実施を含め、ステークホルダーとの信頼関係を構築するためにも、合理的な 範囲で説明可能性を確保する 17。 また、ＡＩを提供する際、ＡＩの適正な利用を可能にするための情報（ＡＩの仕組 み・限界、禁止事項、学習するデータの収集ポリシー、出力の信頼性に関する注意喚 10 ＡＩ法第７条に規定する活用事業者をいう。海外事業者も含む。 11 高度なＡＩシステムを開発する組織向けの広島プロセス国際行動規範（原文：Hiroshima Process International Code of Conduct for Organizations Developing Advanced AI Systems）、全てのＡＩ関係者向けの広島プロセス国際指針 （原文：Hiroshima AI Process International Guiding Principles for All AI Actors）等 12 ＡＩマネジメントシステム（ISO/IEC 42001）等 13 内閣府ウェブサイト参照（国内外のＡＩに関する規範、ガイドライン等を示す予定。） 14 ＡＩ法第６条に規定する研究開発機関をいう。研究開発機関のうち大学については、ＡＩ法第６条第２項に定めるとお り、研究者の自主性の尊重その他の大学における研究の特性に配慮するものとする。 15 ゼロベースからＡＩガバナンスを構築することに限らず、既存のＩＴシステム等に適用されているガバナンスプロセス を活用することも有用である。 16 この際、ＡＩに関するリスクの回避策や、リスクが顕在化した場合の対応を含む信頼性の高い組織を構築するため、 「広島ＡＩプロセス」報告枠組みの活用や国際規格（ＡＩマネジメントシステム（ISO/IEC 42001）等）に基づくマネジ メント体制の整備・運用をすることにより、ＡＩに関連するリスクの管理・制御を図り、社会的・倫理的責任を果たすこ とが可能と考えられる。これらの取組を積極的に開示・説明することが、企業価値の向上や競争優位性の確保にもつなが るものと期待される。 17 学習データ等の適切な透明性を確保するため、ＡＩの出力の際に根拠とした情報（ウェブサイト等）を表示する。ま た、学習データ等の開示が求められた際は、可能な限り対応することが望ましい。技術的な制約によりＡＩの出力と学習 データの関係性を特定することが困難な場合や、開示が求められた学習データ等が営業秘密に該当する場合などにおいて も、まずは真摯に検討、協議することが期待される。 6 起等 18）をそのＡＩの利用者に提供する。 (3) 十分な安全性の確保 ＡＩを悪用したサイバー攻撃や詐欺をはじめとする各種 犯罪その他の違法行為が行 われるリスクを特定・評価し、適切な対策を講じる。 また、ハルシネーションや偏見・差別の助長、偽・誤情報等（ディープフェイク技 術によるフェイク動画、性的加工画像等）の 拡散等につながるＡＩによる不適切な出 力の抑制、ＡＩの意図しない動作や誤作動の防止をするため、最新の技術と知見を駆 使して、解決、改善に向けて取り組む。特に、ＡＩで生成された偽・誤情報等の拡散 が深刻なリスクとなっていることを踏まえ、ＡＩの生成物であることが判断できる技 術（電子透かし、来歴管理、API19等）の開発に努め、必要に応じて実装する。 (4) 事業継続性確保による安全な環境の維持 ＡＩを用いたシステムの運用者やサービスの提供者は 、これらに障害が生じた場合 に備え、損害を最小限にとどめ、早期復旧するために、平常時に行うべき活動や緊急 時の事業継続のための方法、手段等を定めた事業継続計画をあらかじめ策定する。 (5) ＡＩのイノベーションの基盤となるデータの重要性を踏まえたステークホルダーへ の配慮 ＡＩのイノベーションには、質の高いデータを確保し、それらを適正に活用するこ とが重要である。これを踏まえ、質の高いデータが充実し、信頼できるＡＩが 開発、 提供されることにより、新たな創作活動等が促進されるという好循環を実現するため、 ＡＩを開発、提供する事業者は、データの利用状況に応じて、知的財産等のデータ保 有者等のステークホルダーと、データの適正な活用の在り方等について継続的なコミ ュニケーションを図る。また、特に、社会的影響力の大きいＡＩを開発、提供する事 業者は、知的財産等のデータ保有者等に対する利益還元のエコシステムや安心して創 作活動等ができる環境の構築に向けた方策の検討、実施に努める。 18 雇用、人事評価等における不当な偏見・差別や、偽・誤情報の拡散等につながる利用者の不適切な行為を防止するため の注意喚起、利用者からの問い合わせに対応する窓口、連絡先等を含む。 19 Application Programming Interface。異なるアプリケーション（ソフトウェア）やシステムを連携させ、通信やデー タ交換を行うための仕組み。 7 ３ 国及び地方公共団体が特に取り組むべき事項 国は、１(2)に示す適正性確保に必要となる主な要素に関して、特に以下の事項に取り組 む。 地方公共団体は、１(2)に示す適正性確保に必要となる主な要素に関して、置かれた環境 や課題が多様であることを踏まえ、地域の実情 に応じて、特に以下の事項に配慮しつつ、 必要な対応を行う。 なお、ＡＩを開発、提供する際は、２に示す事項についても取り組む。 (1) ＡＩの積極的かつ先導的な活用によるイノベーションの促進 国又は地方公共団体におけるＡＩの活用事例や留意点を広く周知することがＡＩの 普及促進にも効果的であることを踏まえ、自ら積極的かつ先導的にＡＩを活用する。 また、公共調達における開発実証機会の提供も進める。 (2) 社会全体におけるＡＩリテラシーの向上 国及び地方公共団体は、国及び地方公共団体の職員はもちろんのこと、全ての主体 が、倫理、法令、人権、安全等に関する課題を理解し、責任ある利用者としての自覚 をもって行動できるように、社会全体におけるＡＩリテラシーの向上を図ることが求 められる。 このため、常にＡＩの最新の技術動向や活用実態を把握し、リスク及びその対応策 を検討して、ステークホルダーの自主的な取組を促すため の考え方を提示する。また、 事業者、国民等におけるＡＩの研究開発・活用における 適正性確保に向けて、生成Ａ Ｉの基本的な使い方や注意点を学べるコンテンツの提供 、社会人向けの生成ＡＩスキ ル・知見の習得支援等、教育・ガイダンスを積極的に推進する。 (3) ＡＩガバナンスの在り方の検討 国内外におけるＡＩガバナンスを巡る動向を 注視し、ＡＩガバナンスの在り方を継 続的に検討し、対応する。本指針及び各種ガイドライン等も、ＡＩの技術進歩による 社会の変化をとらえ、アジャイルかつ継続的に見直す。 この際、各種ガイドライン等 は、本指針の趣旨と整合するとともに、事業者、国民等にとってわかりやすいものと なるよう、適宜、点検・見直しを行う。 また、様々な局面におけるＡＩ導入の障壁を低減するため、ＡＩを活用する際 に想 定・発生し得る課題に対して、その責任の所在等に関する解釈適用上の論点及び考え 方を整理するとともに、判例等を踏まえ可能な限り解釈を明確化するよう努める。 8 さらに、ＡＩは国境を越えて展開されるため、国内だけでなく、国際的なガバナン スが不可欠であり、相互運用性の確保にも配慮しつつ、ＡＩガバナンスの構築を主導 する。 (4) 行政としてのアカウンタビリティを果たすこと 行政においてＡＩを活用する際、行政の信頼性を確保するため、求められる水準を 十分に考慮した適切なリスク対策等を実施し、可能な限り判断の根拠等が不明瞭にな らないよう国民へのアカウンタビリティを果たす。 また、各府省庁において、ＡＩガバナンスの責任者を任命する 20。地方公共団体に おいては、ＡＩの適正な活用、リスク管理における責任者を明確化する。 20 「行政の進化と革新のための生成ＡＩの調達・利活用に係るガイドライン」（令和７年５月27 日デジタル社会推進会 議幹事会決定）においては、各府省庁における生成 ＡＩ利活用方針を策定・推進し、組織全体の利活用状況とリスク管 理等を統括管理する者としてＡＩ統括責任者（ＣＡＩＯ）を設置することとされている。生成ＡＩ以外のＡＩを活用する 際も、必要に応じて責任者を明確にすることが望ましい。 9 ４ 国民が特に取り組むべき事項 国民は、１(2)に示す適正性確保に必要となる主な要素に関して、以下に特に配慮した対 応を行う。 (1) 人間中心の原則に基づくＡＩの責任ある利用 国民はＡＩを利用する主体として、ＡＩの利用により法令への抵触、 加害行為をす るおそれがあることを踏まえ、法令を遵守する。 また、ＡＩの利便性のみならず、倫理、法令、人権、安全等に関する課題を理解し、 責任ある利用者としての自覚をもって行動するよう努める。 (2) ＡＩリテラシーに基づく適切な利用 ＡＩの特性や仕組みを正しく理解し、能動的にＡＩリテラシーを身に付けるよう 努 める。 その上で、ＡＩを利用する際は、得られる情報の出所、正確性等を理解し、人間の 判断、責任の下で意思決定を行うとともに、 不当な偏見・差別、誹謗中傷、偽・誤情 報の拡散等を目的とした不適切な行為を行わない。また、ＡＩの生成物（文章、画像、 音声、動画等）は、社会的、法的に適切な形で利用する。