AIサプライチェーンリスク管理：AIシステムの複雑化と委託先によるAI利用に伴うリスクへの対応（第1回）

はじめに

生成AIをはじめとするAIシステムは、文章作成や情報検索にとどまらず、データ分析、顧客対応、システム操作、業務上の判断支援など、企業活動のさまざまな領域での活用が広がっています。さらに昨今では、外部情報やMCPサーバーなどの外部ツールを自律的に利用しながら処理を実行する、より複雑なAIシステムの普及も進展しています。

本シリーズでは、こうしたAIシステムの複雑化、およびAI利用の広範な普及に伴い、新たに生じているリスクとして「AIシステムによる自律的な外部ツール利用に伴うリスク」と「委託先によるAI利用に伴うリスク」の2つに着目します。これらを「AIサプライチェーンリスク」として整理した上で（図表1）、それぞれのリスクが生じる構造と、企業がこれらのリスクを管理する際の論点を考察します。

図表1：AIシステムの普及・複雑化に伴うAIサプライチェーンリスクの発生

1. AIシステムによる自律的な外部ツール利用に伴うリスク

AIエージェントに代表される昨今の高度なAIシステムは、AIモデル以外にも外部API、MCPサーバー、クラウド基盤などの複数の外部ツールから構成されます。このようなAIシステムは、外部ツールを自律的に利用しながら処理を遂行するため効率的である反面、AIが、その利用者の意図しない形で外部ツールを利用してしまうリスクも想定されます。実際に、利用者が認識しないまま、AIが自律的に外部のシステムを侵害してしまう事例や、AIが誤って不審なプログラムを外部から取得してしまう事例が報告されています。本章では、そのようなAIシステムの複雑化に伴うリスクを、「不適切な外部ツールの利用によるセキュリティリスク」「外部ツールへの過度な依存による事業継続リスク」の2点に整理し、考察します。

1.1 不適切な外部ツールの利用によるセキュリティリスク

AIシステムが利用する外部ツールが提供・参照する情報に誤りや改ざんがある場合や、外部ツールに脆弱性、認証・認可の不備、設定上の問題があり、それらをAIシステムが利用してしまった場合は、誤った情報に基づくAIシステムの不正確な応答、当該外部ツールへの機密情報の漏えい、AIシステムによる自発的なマルウェアのインストールなどのセキュリティインシデントが発生する可能性があります。これらのリスクへの対応としては、利用する外部ツールの網羅的な管理、利用前のセキュリティ審査などの管理策を講じることが考えられます。対応方法の詳細については、次回の記事で詳述します。

想定されるリスクシナリオ例

• 誤った情報を提供する外部APIの利用による不正確な処理
• サイバー攻撃者に侵害された不審なMCPサーバーの利用による機密情報の漏えい

リスク対応例

• AIシステムが利用する外部ツールの一覧化やホワイトリスト作成
• 外部ツール利用時の監査ログ取得
• AIサプライチェーンリスク評価によるプラグインやMCPサーバーの安全性確認

1.2 外部ツールへの過度な依存による事業継続リスク

API、MCPサーバー、モデル、クラウド基盤などの停止や仕様変更によって、AIエージェントに必要な情報や機能を利用できなくなることがあります。重要な業務が特定の外部要素に依存し、人手による代替や他のサービスへの切り替えが困難な場合には、関連する業務の継続にも影響するかもしれません。

また、一つのAIサービスの背後に複数の外部事業者やサービスが存在するケースでは、その依存関係を把握できていなければ、障害発生時の影響範囲、原因となった構成要素、復旧主体および代替手段を特定しにくくなります。このため、主要な外部要素と、それらに依存する業務、その重要度、代替可能性および責任分界を把握することが重要です。

想定されるリスクシナリオ例

• AIモデルの障害等によりAIエージェントが利用できなくなり、業務が停滞する
• 推論APIの利用制限や料金変更により、事業にかかるコストが許容可能な水準を超える
• AIエージェントが利用するMCPサーバーの停止により、重要業務が実行できなくなる

リスク対応例

• AIサプライチェーンの構成要素、依存関係および停止時影響度の定期的評価
• 重要業務における代替モデル・代替サービスの確保
• AIサービス提供者との責任分界の明確化
• サービス停止や仕様変更発生時の運用手順の整備

2. 委託先によるAI利用に伴うリスク

委託先がAIを活用することで、業務の効率化や品質向上が期待される一方、預託した機密情報等の漏えい、業務品質の低下といったリスクが生じる可能性があります。これらの新たなリスクに対しては、委託契約の中で、AI利用に関する制限事項を追加的に定めるなどの対応が求められることが考えられます。本章では、委託先におけるAI利用に伴うリスクを「預託情報の漏えい・目的外利用が生じるリスク」「委託業務の品質低下が生じるリスク」の2点に整理し、考察します。

2.1 預託情報の漏えい・目的外利用のリスク

委託先が、委託元から預かった顧客情報、個人情報、営業秘密、ソースコード、社内文書などを外部AIサービスへ入力した場合、当該情報が委託先の管理環境の外へ送信される可能性があります。ただし、情報の保存や学習利用の有無は、サービスの仕様、設定、契約条件によって異なります。

そのため、外部AIサービスへの情報入力の可否、入力可能な情報、保存・学習利用の条件、利用終了後の取り扱いなどを明確にすることが重要です。

想定されるリスクシナリオ例

• 委託先担当者が預託された個人情報や機密情報を外部AIサービスに入力し、委託元の想定しない外部環境に送信される
• 委託先が利用するAIサービスの設定により、入力情報が保存され、学習やサービス改善に利用される

リスク対応例

• 委託先に対し、AI利用の有無、利用目的、利用工程、利用サービス内容等の事前申告を求める
• 委託先による外部AIサービスへの入力可否を、情報の種類ごとに明確化する
• 個人情報、機密情報、営業秘密等については、原則入力禁止または匿名化・マスキングを義務付ける

2.2 委託業務の品質低下のリスク

委託先がAIの出力を十分に確認しないまま成果物や業務処理に利用した場合、誤情報を含む成果物、不正確な顧客案内、誤った分類・集計などにつながる可能性があります。

このため、委託先がどの工程でAIを利用し、どのような情報を入力し、その出力を誰がどのように確認しているかを把握することが重要です。

想定されるリスクシナリオ例

• 委託先がAI生成文を十分に確認せずに報告書や成果物へ反映し、誤記載や誤分析が発生する
• 委託先がAIによる分類、要約、集計結果を無検証で利用し、業務判断や事務処理に誤りが生じる

リスク対応例

• 委託先の業務手順書や品質管理基準に、AI利用時の確認プロセスを組み込む
• 重要な成果物や顧客対応については、人による確認、承認、ダブルチェックを義務付ける

おわりに

AIシステムによる自律的な外部ツール利用に伴うリスクと、委託先によるAI利用に伴うリスクには、直接の契約先や利用サービスの名称だけでは、実際の外部依存関係や情報の流れを把握しにくいという共通点があります。

一方、前者ではAIシステムを構成する外部要素とその接続・依存関係、後者では委託先におけるAIの利用工程と情報の取り扱いが主な確認対象となります。企業には、両者の違いを踏まえて確認対象を整理するとともに、AIサプライチェーン全体のリスクとして管理することが求められます。

第1回では、この二つの観点からリスクの発生構造と管理上の論点を整理しました。第2回では、国内外の公的機関が公表するガイドライン等も参照しながら、企業がAIサプライチェーンリスクを管理する際の主な対応事項を整理します。