AIサービスのリスクを特定する「AIレッドチーム」
「AIレッドチーム」とは、AIサービスの脆弱性とそれに伴うビジネスリスクを特定するためにエンジニアがテスト、疑似攻撃、講じるべき対策の定義を行うチームです。「AIレッドチーム」が具体的にどのように機能するかを解説します。
はじめに
インサイトコラム「AIサービスを取り巻く環境とAIレッドチームの必要性」では、AIサービス特有のリスクから、「AIレッドチーム」の必要性について解説しました。本稿では、世界各国で規制が強化されているという側面から「AIレッドチーム」の果たす役割と、その必要性に迫ります。また、世界の先進企業においては、実際に「AIレッドチーム」を組成する動きも出始めてきており、この点についても紹介します。
AIレッドチームに関する法規制・ガイドライン
AIサービスに関するインシデントが多発している状況に鑑み、国際的にAIの信頼に関する議論が活発化し、各地域・国・団体において法令・ガイドラインの整備が進められています。欧州（EU）では「欧州（EU）AI規制法」が成立し（今後、段階的に適用予定）、規制強化が進んでいます（※1）。世界各国でも今後AIに関する法令・ガイドラインの整備による規制強化が加速していくことが予想されます。
すでに発行されている法令・ガイドラインを見てみると、「AIリスクを特定する」という趣旨の要件が推奨事項として言及されているケースが多くあることが分かります。そして、次に示すとおり、その具体的な取り組みとして「AIレッドチーム」が例示・紹介されることが増えてきました。このように、世界の規制強化の側面からも、「AIレッドチーム」の重要性は高まってきていると考えられます。
「人工知能の安全・安心・信頼できる開発と利用に関する大統領令」に関する詳細な解説は、こちらのインサイトをご参照ください。
AIレッドチームを組成する企業も出始めてきている
実際に、テクノロジー企業を中心にAIレッドチームを組成する企業も出始めてきています。
米国のテクノロジー企業を中心に、法律・経済など、多様なドメインの専門家を外部から募集してAIレッドチームを立ち上げる企業、SMEsからAIレッドチームを組成し安全保障の専門家へのインタビューを通してリスク領域を特定する企業などが見られます。
このように、「AIレッドチーム」においては内部リソースのみならず外部リソースも活用されています。これは、AIリスクの特定に求められる専門性や手法が従来のITサービスと異なるため、「AIレッドチーム」を既存の内部リソースのみで組成することが現実的ではないことが要因と考えられます。
AIサービスのリスクは「技術的リスク」にとどまらず「倫理リスク」「法令リスク」と広範にわたります。また、AIサービスは確率論的プロセスに基づいて動作するため、AIに精通するエンジニアによるテストを通してリスクを特定することが望まれます。
AIリスクの増大、また、今後の世界の規制強化に伴い、「AIレッドチーム」はより一般的なものとなり、上記のような先進企業以外においても実施する企業が増加することが予想されます。このような企業においては、AIリスクを効率的・効果的に特定するために、外部リソースを積極的に活用し「AIレッドチーム」を実施することを検討すべきでしょう。
次回のインサイトではAIレッドチームの具体的な取り組みについて解説します。
※1：PwC, 2024, PwC Japanグループ、欧州（EU）AI規制法の対応支援を開始, 2024/8/8閲覧,
https://www.pwc.com/jp/ja/press-room/2024/eu-artificial-intelligence-act.html
※2：ホワイトハウス, 2023, FACT SHEET: President Biden Issues Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence, 2024/8/6閲覧,
https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on-safe-secure-and-trustworthy-artificial-intelligence/
※3：主要国首脳会議（G7サミット）, 2023, 全AI関係者向けの広島プロセス国際指針, 2024/8/6閲覧,
https://www.soumu.go.jp/hiroshimaaiprocess/pdf/document04.pdf
※4：主要国首脳会議（G7サミット）, 2023, 高度な AI システムを開発する組織向けの広島プロセス国際行動規範, 2024/8/6閲覧,
https://www.soumu.go.jp/hiroshimaaiprocess/pdf/document05.pdf
※5：2023, Guidelines for secure AI system development, 2024/8/6閲覧,
https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development
※6：総務省・経済産業省, 2024, AI事業者ガイドライン（第1.0版）, 2024/8/6閲覧,
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20240419_1.pdf
※7：米国立標準技術研究所（NIST）, 2024, The Draft NIST Assessing Risks and Impacts of AI (ARIA) Pilot Evaluation Plan, 2024/8/6閲覧,
https://ai-challenges.nist.gov/aria/docs/evaluation_plan.pdf
※8：米国立標準技術研究所（NIST）, 2024, AI RISK MANAGEMENT FRAMEWORK, 2024/8/6閲覧,
https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf
AIサービスのリスクとAIレッドチーム
3 results
Loading...
インサイト／ニュース
40 results
Loading...
「営業秘密」の保護と利活用 第1回：競争優位性の維持向上に不可欠な営業秘密保護対応
営業秘密は企業の競争優位性を支える重要な資産であり、経営層はこれをリスク管理の一環として重視し、戦略的に対応することが求められます。シリーズ第1回となる本稿では、営業秘密の定義とその重要性について解説します。
米国の船舶および港湾のサイバーセキュリティ法規制最新動向
グローバルでは近年、船舶サイバーセキュリティに関する統一規則（IACS UR E26/E27）の発行を筆頭に、海事分野におけるサイバーセキュリティの機運が高まっています。船舶・港湾分野におけるサイバーセキュリティの動向を理解し、発生しうる規制対応リスクについて解説します。
航空サイバーセキュリティの強化 ―EASA Part-ISが求める情報セキュリティ要件―
航空業界は、航空機や関連システムの高度なデジタル化やグローバルなサプライチェーンによる複雑化が進む中、サイバーセキュリティの重要性がかつてないほど高まっています。こうした背景から欧州航空安全機関（EASA）が2023年10月に制定した、情報セキュリティに関する初の規則となるPart-IS（委員会実施規則(EU) 2023/203および委員会委任規則2022/1645）について解説します。
医薬品の安定供給を支える、OTセキュリティ実装の道筋とは
近年、製造設備などの制御系システムを守るOT（運用技術：Operational Technology）セキュリティの重要性が高まっています。第一三共株式会社でOTセキュリティ強化の活動に従事する江口武志氏に、実際の導入から運用立ち上げをどのように進めたか、現場への浸透における難しさやチャレンジについて聞きました。
Loading...
