テクノロジードリブンで描くビジネスの未来 AI活用に向けたガバナンスルールの潮流―企業・政府・研究機関が取るべき姿勢とは【第3回政府施策とAIガバナンス】

AI活用に向けたガバナンスルールの潮流―企業・政府・研究機関が取るべき姿勢とは【第3回政府施策とAIガバナンス】

2021-06-01

AI利活用に向け、日本政府は原則に基づくソフトロー構築に主眼

AI開発において企業の対応がしばしば問題となる中、政府がどこまで関与してルールを構築すべきか、またハードローとソフトローのどちらによって対応すべきか、見解は分かれるところでしょう。前述のシンガポールにおけるAIガイドラインのように、政府が関連する文書において必要かつ具体的なアクションを網羅的に記載し、企業は記載事項を確認し、対応していくべきという考え方もあります。他方で、政府はガイドラインなどによって原則を提示するに留め、具体的な実施手法は企業の自主性に委ねるという考え方もあります。一般的に前者であれば、企業は規定された内容に基づき定型化・マニュアル化を行い効率的に対応することも可能ですが、要件順守や利用規約などのペーパーワークに対応する中で、順守すること自体が目的化し、技術・倫理的な価値観の進展に合わせて規則を更新していく柔軟性が損なわれる可能性があります。後者であれば、技術進化や時代に伴って変化する倫理観などに柔軟に対応し、多様なステークホルダーを巻き込みやすいですが、正統性が担保されづらい側面もあります。

日本は総じてAIの設計や運用において、人間の尊厳の配慮、プライバシー、公平性、説明責任、透明性など、重要な原則に基づいて、ソフトローを通じてあるべき姿を達成することが望ましいとの姿勢を示しています。経済産業省が発行した「GOVERNANCE INNOVATION： Society5.0の実現に向けた法とアーキテクチャのリ・デザイン」（ガバナンス・イノベーション報告書）では、国がルール設計からガバナンス、エンフォースメントまでを一手に担う従来型モデルから脱却し、企業がその中心的な担い手となっていくべきとの提言がなされています。これは、ルール形成、モニタリング、エンフォースメントのガバナンスの各プロセスにおいて、サイバーおよびフィジカル空間のアーキテクチャを設計・運用している企業、利用する地域・個人がガバナンスに対し積極的に関与することが重要であるとの考えに基づいています。また、社会の変革スピードや複雑性にルール設計が追いつきにくい実態を克服すべく、細かな行為義務を示す体系から、最終的に達成されるべき価値を示すゴールベースの体系へと転換することを推奨しています。これらが示すように、マルチステークホルダーが関与する中で、さまざまな重要原則を順守しながらAIを設計・運用するために、企業は参照すべきガイドラインなどを整備し、モニタリングやエンフォースメント段階で継続的に事象を評価し、見直していくことが求められます。

なお、経済産業省は2021年1月、AIガバナンスに関する国内外の動向や国内のAIガバナンスの望ましい姿について「我が国のAIガバナンスの在り方 ver. 1.0（AI社会実装アーキテクチャー検討会　中間報告書）」を取りまとめました。AI社会実装アーキテクチャー検討会には、マルチステークホルダー関与の方針に基づき、憲法、民法、個人情報保護法、官民共同規制などAIに係るさまざまな法令に精通する有識者だけでなく、「説明可能な AI」に係る専門家、AI開発・利活用の経験豊富な企業関係者、保険・監査業務と AIの関係に詳しい実務家などが参画しています。検討会では、ガバナンス・イノベーション報告書におけるゴールベースのガバナンスモデルを参考にしつつ、重層的なガバナンス構造の構築についての議論が進展しています。ゴールベースのガバナンスモデルの導入にあたっては、政府が推奨する社会的に共有されるべきゴールと、企業が検討する具体的な達成手段や自主的な取り組みの間にギャップが生じる可能性が指摘されています。こうした懸念を踏まえ、同報告書では、企業が有志メンバーによってAI原則を社内規定に落と込む際には、その規定に具体性を持たせるためにマルチステークホルダーによる中間的かつ実践的なガイドラインを策定することが望ましいとの見解を紹介しています。中間的なルールには規制と同等の拘束力はないため、イノベーションを執拗に阻害せずに企業によるAIの設計や運用の達成手段をより具体化させる役割を期待することができます（図3）。

大上段の原則に加え、今後は分野・産業別のルール対応や国際社会への発信強化も検討の余地あり

国内ではゴールベースでのアプローチに基づいて、産業横断的なガイドラインの策定方針が定まりつつあります。今後、AI開発者に対し、より具体的かつ実践的な方向付けを行っていくためには、特定の分野や産業界におけるルール整備、リスク回避・説明責任を求めるような施策も不可欠です。多様なステークホルダーの声を取り入れながら、リスクベースとELSI（Ethical, Legal and Social Issues：倫理的・法的・社会的課題）の考え方を適用し、トラブルが発生した際に透明性のある説明を担保し、問題の必要以上の増幅を回避する仕組みを構築することが求められています。

今後、特定の分野における既存の規制の見直しや、新たなルール作成などを検討する際には、PwC Japanグループが提唱するH/O/P/EフレームワークにおけるプロポーショナルAIガバナンスの検討要素も参考となるでしょう。すでに自動車などの分野では、既存の規制の見直しや、新たなルール作成の検討が進められています。日本では自動車分野において、モビリティ専門家を会員とする米国の米国自動車技術者協会（SAE）が定義する自動運転レベル3に対応すべく、道路交通法と道路運送車両法の一部が改正されました。自動車分野では、米国でも州ごとに自動運転のテストや実際の走行に対する要件を定めると共に、連邦政府がガイドラインを示しています。

金融やヘルスケアも、AIに関する個別のルールの整備が急がれる分野であり、海外ではすでに、ルールの策定に向けて検討が進められています。例えばシンガポールでは、横断的なモデルのフレームワークを補完する形で、金融業界においてAI・データ分析を利用する際に公正性、倫理、アカウンタビリティ、透明性を確保するための指針が公表されました。また英国では、ヘルスケア分野において個別のルール整備が進んでおり、保健省がすでに、データ駆動型ヘルスケア技術の導入推進に関する指針を公表しています。現在日本では、診断・治療は医師法により、医師にしか認められていません。診療にAIを用いるかどうかの最終判断は医師が行うこととなっていますが、今後はAIによる医療への介入余地についてもさらに議論がなされていくべきでしょう。

また前述の通り、AI原則については国際的にも緩やかにコンセンサスが形成されつつありますが、AI原則を実践するためのAIガバナンスの議論は各国・地域で比較的閉じており、議論のホワイトスペースが残されています。国内においても「人間中心のAI社会原則」が発表されるなど、国際社会の原則と協調した方向性が示されている中、今後どのような観点から、どの業界・分野を対象として、どのようなコンセプト・要件を掲げるのかを世界に先駆けて決定し、国際社会に発信していくことが求められています。これまでの国内外の議論を最大限尊重しつつ、国際的に望ましい AIガバナンスの全体像の検討を深め、自国にとって望ましい在り方を実践し、そこから得られる経験を発信していくことで、他国からの注目を集めるモデルケースとなることが期待されています。

執筆者

三治信一朗

パートナー, PwCコンサルティング合同会社

藤川琢哉

パートナー, PwCコンサルティング合同会社

Technology Laboratoryの取り組み

PwCコンサルティングのTechnology Laboratoryは、世界各国におけるPwCのさまざまなラボと緊密に連携しながら、先端技術に関する幅広い情報を集積しています。製造、通信、インフラストラクチャー、ヘルスケアなどの各産業・ビジネスに関する豊富なインサイトを有しており、これらの知見と未来予測・アジェンダ設定を組み合わせ、企業の事業変革、大学・研究機関の技術イノベーション、政府の産業政策を総合的に支援します。

AI活用に向けたガバナンスルールの潮流―企業・政府・研究機関が取るべき姿勢とは【第3回政府施策とAIガバナンス】

AI利活用に向け、日本政府は原則に基づくソフトロー構築に主眼

大上段の原則に加え、今後は分野・産業別のルール対応や国際社会への発信強化も検討の余地あり

執筆者

Technology Laboratoryの取り組み

{{filterContent.facetedTitle}}

{{item.title}}

{{filterContent.facetedTitle}}

{{item.title}}

{{filterContent.facetedTitle}}

{{item.title}}

AI利活用に向け、日本政府は原則に基づくソフトロー構築に主眼

大上段の原則に加え、今後は分野・産業別のルール対応や国際社会への発信強化も検討の余地あり

執筆者

Technology Laboratoryの取り組み

{{filterContent.facetedTitle}}

{{item.title}}

{{item.title}}

{{filterContent.facetedTitle}}

{{item.title}}

{{item.title}}

{{filterContent.facetedTitle}}

{{item.title}}

{{item.title}}

関連サービス

Technology Laboratory―コモングラウンドを活用し、より望ましい未来を実現する

エマージングテクノロジー

データアナリティクス