AIガバナンス

AIガバナンスとは

AIガバナンスとは、AI／生成AIおよびAIエージェント、フィジカルAIを含む自律型AIシステムが業務を実行する中で生じるリスクを、ステークホルダーにとって受容可能なレベルで管理するための体制・運用を指します。AIが組織にもたらす価値創造や有益性を最大化し、組織の競争優位向上に利することが目的です。

現在は、AIエージェントやフィジカルAIなどの自律型AIシステムが社内外のシステムやツールと連携し、自律的に情報を取得・判断・実行する時代といえます。AIの意思決定による倫理違反や、プライバシーやセキュリティの侵害といった従来の想定リスクに加え、自律行動の暴走、複数エージェント間の連鎖障害、権限の無秩序な拡大といった新たなリスクが顕在化しつつあります。特に、自律型AIシステムが組織の「働き手」として加わり、人間の「責任あるタスク」を自律的に実行しつつある中で、それらと協働する組織内のメンバーや、その影響を受ける組織外のステークホルダーに対するAIシステムの信頼性の確保がより重要となっています。そのため企業には、AIネイティブな業務プロセスを設計し、組織として適切に管理することが求められます。さらに、今後AIが、ロボット、工場設備、物流から医療・介護サービスなどのフィジカル領域と結び付けば、サイバー空間のリスクが社会インフラにまで波及し、実社会における安全性・事業継続などを脅かす可能性も高まるでしょう。従来の「人間がAIを使う」前提のガバナンスでは対応しきれない新たなリスク――自律行動の暴走、複数エージェント間の連鎖障害、権限の無秩序な拡大――が顕在化する中、透明性および説明・追跡可能性を確保しながら、AIが「何を・どこまで・誰の承認のもとで」実行できるかを統制するAIネイティブのガバナンス態勢の構築が急務となっています。

AI活用推進に伴うインシデントとAIリスクを巡る各国の規制動向

AIの活用は世界中のあらゆる業界で広がっています。その流れは生成AIの台頭によりますます顕著になり、もはやAIを活用しなければ競争力の低下につながるといっても過言ではありません。

一方で、AIが原因のインシデントも世界的に増加傾向にあります。AIの意思決定による倫理違反、人種や性別などによる差別的バイアスや公平性の欠如、プライバシーやセキュリティの侵害の他、最近では特にディープフェイクやハルシネーションに代表される偽情報や誤情報に関連するインシデントが注目を集めています。

また、AIの利活用は「人間がAIを使う」段階から「AIエージェントが業務を自律実行する」段階、さらにヒューマノイドロボットや自律走行などAIが物理世界で動作するフィジカルAIの段階へと急速に拡張しており、これらに付随する特有のリスクが急増しています。悪意ある入力によってAIの目標を書き換える「プロンプトインジェクション」、AIエージェントへの過剰な権限付与による「権限の無秩序な拡大」、複数エージェントの連携が引き金となる「連鎖障害」、そしてIT部門の関知しない場所で動き続ける「シャドーAI」の拡散は、今日の企業が直面する緊急性の高いリスクです。

さらに、物理空間で業務に従事するフィジカルAIには、生成AIやAIエージェントに伴うリスクに加え、AIの判断ミスやシステム不具合が人間の健康・安全や資産に直接損害を与えかねないリスクもあります。故障・制御不能・人身被害や資産への損害などの物理的なリスク、環境変化への対応不足による環境認識の失敗、人間の意図や指示を正しく理解できなかったことで発生する人間との相互作用における誤り、サイバー・フィジカル融合に起因するサイバー攻撃を通じた物理的被害、その他にも倫理的リスクなどがあるでしょう。

AIガバナンスをおろそかにしたことでインシデントが発生すると、企業のレピュテーションを毀損し、サービスの中止やユーザーの離反、株価の下落をも招く可能性があります。そのため、AIを活用する企業において、これらのリスクを回避するための取り組みは不可欠です。

AIリスクをめぐる規制や社会的要請がグローバルで急速に変化する今、こうしたリスクに対し、事業者はどのように向き合えばよいのでしょうか。

AIを巡る米欧中の規制動向最前線

対話型生成AIが注目を集めており、社会的に大きなインパクトをもたらすことが期待されています。しかし、グローバル企業がAIを業務で安全に活用するためには、海外のAI法規制を理解し、AIの社内ルールを作成する必要があります。本シリーズは、主にグローバル展開している企業のIT、サイバーセキュリティ、法務部門の責任者に向けて、AIのリスクや海外法規制についてご紹介します。

詳細はこちら

AIガバナンス関連ソリューション

PwC Japanグループでは、さまざまな業界や領域においてAIの活用を促進する事業者に対し、AIリスクを適切に管理したうえで信頼性・公平性を担保し、マルチステークホルダーへの説明責任を果たしていくAIガバナンス態勢を構築するためのソリューションを提供しています。

• AIガバナンス構築支援
• EU AI法準拠支援
• ISO/IEC42001（AIマネジメントシステム）認証取得支援
• AIレッドチーム
• グローバルでのAIガバナンス対応支援

AIガバナンス構築支援

PwCコンサルティングのAIガバナンス構築支援サービスは、AI／生成AIからAIエージェント、フィジカルAIまで、あらゆるAIシステムの利活用を推進する企業に対して、AIガバナンス態勢の構築を包括的に支援するものです。世界各地のPwCネットワークの豊富なAIリスク対応支援実績をベースに開発された同サービスは、8つのテーマで構成されています。これらを事業者の状況に合わせて組み合わせることで、現状診断からガイドライン・体制整備、AIエージェントの責任・承認境界設計、物理空間におけるフィジカルAI利活用に関する制度・体制の構築、AIリテラシー向上まで、一貫した支援を提供します。事業部門などのリスク管理の当事者だけでなく、管理部門や内部監査部門、また、「AIを導入する企業」のみならず、「AIを提供するベンダー」や「AIを運用する委託先」など、AIライフサイクル全般を通した支援を提供できることもPwCコンサルティングの強みです。