AIガバナンスに関するコラム：「AI原則実践のためのガバナンス・ガイドラインver1.0」―活用編

ガイドラインの狙いと構成

まず、ガイドラインの狙いと構成をあらためて確認しておきましょう。

ガイドラインの狙いは、AIの社会実装の促進に必要となる「人間中心のAI社会原則」（以下、「AI原則」）の実践を支援することにあります。ガイドラインに法的拘束力はありませんが、AIの開発や運用などに関わる企業などには、ガイドラインを参照するとともに、AI原則の実践に関わる多様なステークホルダーと共通認識を形成し、また共通理解促進のために対話することを通じ、ガイドラインが示す内容について自主的に取り組むことが期待されています。

ガイドラインには「AI事業者が実施すべき行動目標を提示するとともに、それぞれの行動目標に対応する仮想的な実践例やAIガバナンス・ゴールとの乖離を評価するための実務的な対応例（以下、「乖離評価例」）」¹が例示されており、本編は「行動目標」「実践例」「コラム」、別添は「行動目標一覧」「乖離評価例」「アジャイル・ガバナンスの実践」から構成されています。それぞれの構成要素については解説編で詳しく説明していますので、そちらをご参照ください。

行動目標1-1の活用例

活用例の1つとして、行動目標の意義を理解したうえで目標を達成するにあたって、現状のリスク管理態勢や関連するプロセスを念頭に、対応すべき事項を洗い出すために実践例を参考にし、現状を把握することが挙げられます。

例えば、行動目標1-1に関連する既存のプロセスとして、情報システムの企画工程が想定されます。通常、システム開発の企画工程では、システムの目的や概要の検討に加えて開発にかかる期間と費用の概算、費用対効果分析、リスク調査分析が実施されます。AIシステムについても通常のシステム開発と同様に、目的の検討や費用対効果分析を通じて、ビジネス目標への定量的または定性的な貢献度やコスト削減額など、正のインパクトは明確に打ち出されるはずです。この点が不明確である場合、そもそも開発投資に値しないからです。

一方でAIシステムの場合、リスク調査分析は一筋縄ではいきません。AIという新しい技術を導入するにあたっては、技術的なリスクの調査分析は入念に行われると思いますが、AIには「意図せざるリスク」という固有の特徴があり、それらは意図していないものである以上、自分たちで考えることに限界があるからです。

そのためリスク調査分析においては、実践例にも記載されているとおり、「類似するAIシステムのインシデント事案を調査する」「将来的な課題について整理する」「同業他社の経験から得られた情報を活用する」ということが追加で必要になります。なおガイドラインでは、Partnership on AIが2020年11月に公開した「The AI Incident Database（AIID）」やOECDの分類フレームワークの議論などが紹介されており、インシデント事例の調査や負のインパクトの検討に有用です。

AIシステムの開発に際しては、従来のリスク調査分析のプロセスにこれらの調査や検討の経緯、結果を盛り込むことが重要であり、AIシステムの開発企画書などの計画資料に文書化しておくことが肝要です。また、行動目標には経営層への報告と共有が含まれていることから、当該調査や検討結果を経営会議などで報告し、AIシステムによる負のインパクトについて経営層に理解してもらうとともに、AIガバナンス・ゴールの設定の検討や、ゴールが設定済みであれば、その見直しの要否などについて議論してもらうことも望まれます。

なお、これらの調査や検討は一朝一夕に行うことは難しいため、継続的なインシデント事例などの収集ならびに調査、共有する仕組みの整備および運営、そのための人的リソースが必要になります。この点は運営層だけで解決することが難しいので、経営層のリーダーシップが求められます。

おわりに

ガイドラインでも強調されているとおり、行動目標は杓子定規に実施するものではなく、その意義を理解したうえで活用することが重要です。また、実践例や乖離評価例は網羅的ではないため、これらを実施してさえいれば万全というものではありません。しかし、これらを活用することで、自社のAIガバナンスの特徴や現状を明らかにすることができるとともに、AIに係る技術や社会受容の変化に応じて継続的に自社のAIガバナンスを改善する契機となることは間違いありません。最初は手探りのスタートになるかもしれませんが、是非、ガイドラインとともに最初の一歩を踏み出していただければと思います。