AIサプライチェーンリスク管理：国内外のガイドラインから読み解く、企業に求められる対応（第2回）

はじめに

第1回では、AIシステムの普及・複雑化に伴い新たに生じているリスクとして、「AIシステムによる自律的な外部ツール利用に伴うリスク」と「委託先によるAI利用に伴うリスク」の2つを取り上げました。前者では、外部API、MCP（Model Context Protocol）サーバー、モデル、クラウド基盤などの複数の外部要素をAIが利用することにより、セキュリティインシデントや事業継続への影響が生じる可能性があります。後者では、委託先によるAI利用を通じて、委託元が把握していない情報処理経路や業務プロセスが追加され、預託情報の漏えいや、委託業務品質の低下に至る可能性があります。

これらのリスクに対応するため、近年、AIのサプライチェーン、AIエージェントが利用するMCP、AIシステムの構成要素の可視化などを対象とした公的なガイダンスが複数公表されています。また、国内外のAIガバナンス、調達・契約およびマネジメントシステムに関する文書にも、企業の対応を検討する上で参考となる事項が示されています。

本稿では、第1回で示した2つのリスクについて、関連する主な規制・規格・ガイドライン等を概観した上で、そこから読み取れる企業の対応事項と、対応を実施する際の実務上の課題を整理します。

1. AIシステムによる自律的な外部ツール利用に伴うリスクへの対応

AIエージェントに代表される、自律的に外部ツールやAPIを呼び出して多段階のタスクを遂行する機能を持つAIシステムは、単一のAIモデルだけではなく、外部API、MCPサーバー、その他第三者サービスなどの複数の構成要素に依存します。そのため、利用するAIサービスの名称や直接の契約先だけでなく、実際にAIシステムを構成する、あるいは実行時に利用される外部要素を把握した上で管理する必要があります。

1.1 関連する規制・規格・ガイドライン等

はじめに、1.のリスクに関連する主な規制・規格・ガイドラインを俯瞰していきます。政府・民間双方を対象とした文書は以下のとおりです。

AI・機械学習のサプライチェーンリスクに関する共同ガイダンス

オーストラリア・サイバーセキュリティ・センター（ACSC）が主導し、日本の国家サイバー統括室（NCO）、米国国家安全保障局（NSA）、英国国家サイバーセキュリティセンター（NCSC）などの各国政府機関が共同署名した「Artificial Intelligence and Machine Learning：Supply Chain Risks and Mitigations」^（※1）は、AI・機械学習の導入に特有のサプライチェーンリスクを取り上げたガイダンスです。同文書は、AIデータ、機械学習モデル、AIソフトウェア、AIインフラ・ハードウェア、第三者サービスなどを対象として、それぞれに想定されるリスクと軽減策を整理しています。また、第三者からAIシステムや構成要素を調達する場合、同文書の内容をベンダーへの質問や要求事項に反映することを示しています。

MCPのセキュリティ設計に関するガイダンス

米国NSAが2026年5月に公表した「Model Context Protocol（MCP）：Security Design Considerations for AI-Driven Automation」^（※2）は、MCPを利用するAIシステムにおける動的なツール呼び出し、暗黙の信頼関係、コンテキスト共有などのリスクを取り上げています。同文書は、認証、認可、入力検証といった従来の対策に加え、MCPを利用するエージェント環境全体を一連の対象として保護する必要性を示しています。

AI向けSBOMに関するガイダンス

米国サイバーセキュリティ・インフラセキュリティ庁（CISA）およびG7の関係機関が2026年5月に公表した「Software Bill of Materials for AI - Minimum Elements」^（※3）は、AIシステムとそのサプライチェーンの透明性向上に向けて、AI向けSBOM（Software Bill of Materials：ソフトウェア部品表）に含める最小要素を示しています。同文書は義務的または網羅的な要求事項ではありませんが、AIシステムを構成するモデル、データセット、インフラなどを可視化する際の参考となります。

政府機関向けの文書としては以下が挙げられます。

AIの調達・利用および継続的管理に関する文書

国内では、デジタル庁の「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン（第2.0版）」^（※4）が、政府機関による生成AIの企画、調達、開発・運用、利活用、およびリスクケースへの対応について、調達・契約時の確認事項や運用開始後の安全性・品質の検証等を示しています。また、ISO/IEC 42001は、AIに関する方針、役割、リスクと機会への対応および継続的改善を、AIマネジメントシステムとして管理する枠組みを提供しています。

1.2 企業に求められる主な対応

これらの文書を踏まえると、企業はAIシステムを単一のサービスとして捉えるのではなく、複数の外部要素から構成されるシステムとして把握し、その構成とリスクに応じた管理策を講じることが求められます。AIシステムはAIモデルに加え、他のエージェントシステムや外部API・MCPサーバー・他のクラウド基盤など、多様な構成要素が組み合わさって機能しており、それぞれの提供元や仕様は継続的に変化します。このため、リスク管理には「把握」「監視」「制御」の三つの取り組みを一体的に推進することが必要です（図表1の対応1、2、3）。これらを継続的なサイクルとして運用することにより、AIシステムのサプライチェーンにおけるリスクを可視化・低減し、変化する外部環境に対しても実効性のある管理が実現します。

図表1：AIシステムによる自律的な外部ツール利用に伴うリスクに対して求められる対応

対応1. AIシステムの全体像の把握

• AIシステムが利用するモデルや他のエージェントシステム・外部API・MCPサーバー・他のクラウド基盤などを把握する
• 各構成要素の提供元、バージョン、接続先、利用条件および変更状況を整理する
• 各構成要素に依存する業務、その重要度、停止・変更時の影響および代替可能性を確認する
• AI向けSBOM等を参考に、構成要素と依存関係の変更を継続的に反映できる管理方法を検討する

対応2. AIモデルの挙動監視

• AIモデルによる、外部API、MCPサーバーなどへのアクセスログを取得する
• 未承認の接続先や異常な外部ツール利用を検知する
• 構成要素、接続先、設定等の変更を管理し、重大な変更時にはリスク評価を見直す
• 外部要素の障害、脆弱性、仕様変更等を継続的に確認する

対応3. 外部ツールの利用に対する制御

• 利用を認める外部ツール、APIおよびMCPサーバーの範囲を定める
• AIに付与するアクセス権限および実行権限を必要な範囲に制限する
• 外部ツールとの接続における認証、認可、入力検証等を実施する
• 機密情報の送信や重要な操作について、必要に応じて人による確認を設ける

1.3 各対応を実施する上での要点

AIシステムは構成や利用状況が運用中に変化する場合があるため、導入時点で把握・評価した内容だけでは継続的な管理に限界があります。そのため、構成要素と依存関係を継続的に把握し、リスクに応じた利用制御、調達・契約への反映および運用中の監視を行う必要があります。主な要点は以下のとおりです。

対応1. 実施時の要点

• 構成要素と依存関係の継続的な把握
  AIシステムは、モデル、データ、外部API、MCPサーバー、ソフトウェア、クラウド基盤、第三者サービスなどの複数の外部要素に依存しています。また、実行時に利用する外部ツールやデータソースが変化する場合もあるため、導入時点の構成を台帳化するだけでは、実際の利用状況を十分に把握できない可能性があります。管理対象とする構成要素や依存関係の範囲を定め、更新主体を明確にした上で、提供元、接続先、変更状況、依存する業務、停止時の影響および代替可能性を継続的に把握する仕組みを整理することが必要です。

対応2. 実施時の要点

• リスクに応じた接続先制御の実施
  外部ツールの利用を一律に禁止、または全て事前承認の対象としてしまうと、AIシステムの柔軟性や業務効率が損なわれます。一方、利用可能な外部ツールや付与する権限を広く認めた場合、未承認の接続先への情報送信や不適切な操作が行われるおそれがあります。取り扱う情報や付与する権限、業務への影響、自動実行の程度に応じて、利用を認める外部ツールや接続先、アクセス権限、人による確認・承認の要否などを定める必要があります。
• 外部ツールへの接続可否の判断フローおよび承認フローの整備
  新たな外部ツールやAPIの利用を開始する際の申請・審査・登録の手順、現状の接続先制御ルールなどを定期的に見直す手順、利用状況の変化や業務上の必要性に応じて制御ルールを更新する手順を明確に整理し、運用主体・承認者・判断基準が定められた状態で実際に機能させる必要があります。

対応3. 実施時の要点

• 監視対象と判断基準の整理
  AIシステムでは、利用したモデル、データソース、外部ツール、接続先、実行した操作などの監視対象とすべき要素が多数混在しています。一方、取得すべきログや正常・異常を判断する基準は、AIシステムの構成や利用方法によって異なります。このため、許可した接続先や付与した権限が順守されているかを確認できるよう、取得対象とするログなどの記録、監視基準、確認主体、異常検知後の対応およびインシデント発生時の調査手順を整理する必要があります。

2. 委託先によるAI利用に伴うリスクへの対応

委託先がAIを利用する場合、従来の「委託元から委託先へ」という情報の流れに、「委託先から外部AIサービスへ」という新たな情報処理経路が加わります。また、AIの出力が成果物や業務処理に利用されることで、預託情報の取り扱いだけではなく、委託業務の品質にも影響が生じる可能性があります。

2.1 関連する規制・規格・ガイドライン等

委託先が委託業務の遂行にAIを利用する場合の委託元による管理について、単独で包括的に整理した公的なガイドラインは限定的です。そうした中でも、総務省・経済産業省が公表した「AI事業者ガイドライン^（※5）」、デジタル庁による「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン^（※4）」においては、関係者間での情報連携や調達・契約、データ管理、品質管理、リスクの継続的管理等に関する事項が示されています。以降では、これらの文書を参考とし、委託先のAI利用に伴うリスクに対して、企業に求められる対応事項を考察します。

2.2 企業に求められる主な対応

委託先によるAI利用に伴うリスクを管理するためには、委託業務におけるAIの利用実態を把握した上で、AI利用の範囲、預託情報の取り扱いおよびAI出力の品質管理に関する条件を定める必要があります（図表2）。ここで定めた条件は、変更通知、インシデント報告および調査協力に関する事項と併せて契約・委託条件に反映します。委託期間中の利用状況や変更を継続的に確認し、必要に応じて管理内容を見直すことも重要です。

図表2：委託先におけるAI利用に伴うリスクに対して求められる対応

対応1. 委託業務におけるAI利用有無の把握

• 委託先がAIを利用しているか、委託業務のどの工程で利用しているかを確認する
• 利用するAIサービス、入力する情報、出力の利用先および人による確認工程を把握する
• AI利用に伴い、新たな外部AIサービスの利用、情報移転または再委託に相当する関係が生じるかを確認する
• 利用するAIサービスまたはその利用方法に重要な変更が生じた場合の、委託元への通知条件を定める

対応2. AI利用可能とする預託情報の範囲の明確化

• 外部AIサービスへ入力できる情報と入力を禁止する情報を定める
• 入力情報の保存、学習利用、目的外利用および第三者提供等の条件を確認する
• 委託先が利用するAIサービスの契約形態、設定およびデータ処理条件を確認する
• AIサービスの利用終了時または委託終了時のデータの削除・返却方法を定める

対応3. AI出力を利用する際の品質管理に関する制限

• AI出力の正確性・完全性を確認する工程を定める
• 顧客対応、重要な判断または成果物等にAI出力を利用する場合の、人による確認方法を定める
• 誤出力が判明した場合の訂正、報告および影響確認の手順を定める
• AI利用の記録を保持し、必要に応じて事後検証できるようにする

2.3 各対応を実施する上での要点

委託先によるAI利用は、委託元の管理環境の外で行われるため、委託元が自社の管理策だけで利用実態や順守状況を把握することには限界があります。そのため、委託先からの申告、変更通知、利用記録の提供等を通じて、利用実態と契約・委託条件の遵守状況を継続的に確認する必要があります。主な要点は以下のとおりです。

対応1. 実施時の要点

• 委託先におけるAI利用実態の継続的な把握
  委託開始時にAIの利用有無や利用方法を確認する一方で、生成AIは正式なシステム導入を伴わず、担当者単位で利用される場合が想定されます。そのため、開始時に一度確認するだけでは、新たな利用や利用方法の変更を含む実態を継続的に把握できない可能性があります。また、委託先が利用するAIサービスが、基盤モデルやクラウド、API、データサービスなどに依存する場合、情報処理経路は多層化します。そのため、申告対象とするAI利用の範囲や、変更時の通知基準、委託元が把握すべき情報および情報を取得できない場合の対応について整理する必要があります。

対応2. 実施時の要点

• 預託情報の機密性・重要度に応じたAI入力可否の基準の明確な設定
  情報の機密性、個人情報の有無、重要度などに基づき、外部AIサービスへの入力を許可する情報と禁止する情報の基準が明確に定められ、委託先に共有されなければなりません。委託先の担当者が、業務の中で個別に入力可否を判断するのではなく、定められた基準に沿って一貫した運用ができる状態が確保されている必要があります。
• 委託業務の多様性に応じた預託情報のAI利用制限の設定
  委託する業務内容は、コールセンター業務、事務処理、システム開発、コンサルティングなど、委託先や業務ごとに大きく異なり、それぞれで取り扱う情報の種類や入力場面も異なります。そのため、全ての委託業務に一律のルールを適用すると、実態に合わず現場で守られなかったり、過度に厳格になり業務効率を損なうおそれがあります。委託業務の特性やリスクに応じてルールを段階的に精緻化し、委託先ごとに運用可能な形で設計することが必要です。

対応3. 実施時の要点

• 品質管理・確認体制の設計と、委託先との実効的な確認方法の整備
  ハルシネーションを含む成果物が作成される事態など、品質管理への対応が求められます。特にAI出力の正確性・完全性を確認する工程、人による確認方法、誤出力判明時の訂正・報告・影響確認手順、記録保持・事後検証の仕組みが、業務特性に応じて設計されていること、委託先との間で実効的に運用されていることが鍵となります。

おわりに

AIサプライチェーンリスクについては、AI・機械学習の構成要素、MCP、AI向けSBOM、生成AIの調達・契約などを扱う国内外のガイドラインが整備され始めています。これらの文書は、企業に対し、AIシステムの構成要素と依存関係を可視化し、リスクに応じて外部接続を制御するとともに、必要事項を調達・契約、運用監視および変更管理へ組み込むという方向性を示しています。

一方、構成要素と依存関係の継続的な把握や、リスクに応じた制御方法の設定、外部提供者からの情報取得、監視対象および異常を判断する基準の設定など、実務上の課題も残ります。特に、委託先によるAI利用については、利用条件を契約・委託条件に反映するだけでなく、委託先からの申告、変更通知、利用記録などを通じて、実際の運用状況を継続的に確認することが必要です。

次回は、これらの対応事項と課題を踏まえ、AIサプライチェーンリスクへの対応に向け、PwCが提供できるサービスをご紹介いたします。

※1：Artificial intelligence and machine learning: Supply chain risks and mitigations
※2：NSA「Model Context Protocol (MCP): Security Design Considerations for AI-Driven Automation」
※3：CISA and G7 partners「Software Bill of Materials for AI - Minimum Elements」
※4：デジタル庁「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン（第2.0版）」
※5：総務省・経済産業省「AI事業者ガイドライン（第1.2版）」