なぜAIガバナンスが重要なのか

テクノロジーを取り巻く環境

猛威を振るう山火事や台風、そして世界的な伝染病や暴動――こうした混乱の背景には、気候変動、水資源危機、資源の枯渇、そして人口統計的および社会的な変化が存在していることを裏付ける現象が、毎日のように起きている^[7]。これらのグローバルメガトレンドは、人類の幸福、経済成長、そして環境を脅かしている。だがしかし、幸運なことに、テクノロジーにはそれを救える可能性がある。

そしてAI以上に、こうした課題に対する人々、企業、政府による取り組みを支援する技術は、まず存在しない。例えば、AIを活用した製品とサービスは、新薬の開発を促進し^[8]、低炭素経済への移行を加速し^[9]、退職後や老後の尊厳ある生活を支援する可能性を持っている^[10]。経済的利益だけでも莫大なものとなる可能性があり、PwCは、2030年までにAIが世界経済に与える影響は、15.7兆米ドルと推定している^[11]。

それでもなお、多くの人々にとって、AIは恐怖と不安を引き起こす存在でもある。「キラーロボット（自律型致死兵器システム）」に関する憶測、自動化がもたらす失業、ディープフェイク（人工知能に基づく人物画像合成）、また顔認識技術によるプライバシー侵害への不安といった懸念は、既にAIの利点とリスクに関する公の議論の一部となっている。

こうした懸念は、理論上のものというだけではない。2018年に米国アリゾナ州で起きたテスト中の自動運転車による歩行者の死亡事故では、他のいくつかの要因とともに、AIの故障が関連しているとされた^[12]。2019年10月、雑誌「Science」の記事は、2億人以上にのぼる米国人の治療法の決定に使用されたソフトウェアプログラムが、構造的な人種的偏見を示していると主張した^[13]。

現在一般的に人間の介入と判断を必要とするタスクは、AIによってますます自動化されるだろう。しかし、スマート・テック・アプリケーションに含まれるAIから生じるエラーや偏りは、何らかの害を引き起こすまで気付かれないことがある。AIの誤作動がもたらす直接的なコスト以外に、AIの力を活用している主要な技術システムの障害が引き起こす間接的な影響もある。このことは、AI技術に対する社会からの信頼を大幅に損ない、さらには、社会課題の解決に向けたテクノロジーソリューションの採用を減速させかねない。

原子力から遺伝子工学に至るまで、歴史を振り返ると、数多くの新しいテクノロジーが生まれてきた。それらの安全上のリスクや社会への影響に関する懸念が、そうしたテクノロジーの開発や展開を妨げる政治的な反発を引き起こしてきたのも事実である。これらのリスクは、AIにとって特に深刻である。AIは前世代の技術革新よりもはるかに不安定な政治環境の中で成長しており、以前のテクノロジーに比べてより多くの産業や人々に影響を与える可能性を秘めている。近年、AIの多くの側面に対し、社会的かつ政治的な監視がますます強まっている。これには、以下のものが含まれる。

• データのプライバシーと職に関する一般的な懸念：企業や政府がデータを収集し活用することはAIを活用する利点だ。しかし、世間の注目を集めた一連のプライバシースキャンダルと、個人情報の悪用の可能性に対する懸念の高まりを受け、社会の厳しい目にさらされている。一方、所得の不平等と経済の停滞に対する懸念が高まる中、雇用に対するAIの潜在的な影響も、重要な政治的問題になっている。
• 安全性と巨大テクノロジー企業の市場支配力に対する規制上の懸念：世界中の政府、産業界、市民社会は、安全で責任あるAIの倫理ガイドラインと技術基準の制定を急いでいる。同時に、多くの新しいスマート・テック・アプリケーションの最前線で活動している大規模なテクノロジー企業は、その拡大する市場支配力と膨大な個人データの管理を懸念する規制当局から、厳しい監視の目を向けられている。
• 国家および経済の安全と地政学的競争に関する安全上の懸念：AIおよびAIを機能させるクラウド・コンピューティング、半導体、基盤データなどの ICT^[14]システムは、 米国および中国の間で激化する地政学的競争のまさに核心となっている。また他国の政府も、それらを経済的、国家的な安全保障の問題として認識するようになった。主要な民主主義諸国の政策担当者は、AIを活用した製品やサービスが権威主義的な体制を強めるのではないかと懸念している。

これは、革新を進めるにはリスクの高い環境であることを示唆している。しかし、世界経済にスマート・テック・アプリケーションが適用されるとき、もしAIの実装が不十分であれば、それが引き起こす経済的、心理的、身体的な損害や、さらには人命の犠牲といったリスクが高まってしまう。重大な事案が発生すれば、それを受けて社会的および規制上の反発が高まり、 多くのAIを活用した製品やサービスが築いてきた信頼を損なうことになるだろう。前述のヨシダ氏やスズキ氏のストーリーに見られたように、社会的な反発により、こうした分野への投資が遅れたり、高齢化社会、食糧危機、極度の気象災害といった地球規模の差し迫った課題に対処しうるAIや関連したスマート・テック・アプリケーションの革新が抑制されたりする可能性がある。

それでは、人や社会に害をもたらすリスクを軽減すると同時に、AIや 、スマート・テック・アプリケーションの信頼を確立するにはどうすればよいのか。それは、優れたAIガバナンス、つまりスマート・テック・アプリケーションに取り組む企業やその他の関係者が、データを使用し、欠陥をチェックし、またAIの導入における説明責任を担保するための最良の事例、規則、ガイドラインを用意することである。これこそが、AIガバナンスが重要な理由である。

スマート・テック・アプリケーションに対する課題

スマート・テック・アプリケーションは数多くの新興技術分野で絶え間なく進歩しており、差し迫った社会課題に対応できる非常に大きな可能性を持っている。これまでにない分野で、働きながら社会支援もできる機会は、新興技術のコミュニティにとって意欲をかき立てられるものである。高齢者向けの介護ロボットや音声アシスタントは、普及の進むスマート・テック・アプリケーションのほんの一例にすぎない。これらの製品やサービスは、先進国で増え続ける高齢者層のために導入され、その生活の質の向上に貢献している^[15]。

しかし、そこには懸念もある。スマート・テック・アプリケーションが引き起こした問題について、広く知られた事例がある^[16]。例えば次のようなものだ。

• 予期しない誤作動に関する問題：セキュリティロボットの事故など^[17]
• データの悪用に関する問題：スマートスピーカーを通じた個人的な会話記録の収集など^[18]
• 構造的な変化に関する問題：スマートオートメーションの採用による労働者の大量配置転換など^[19]

この懸念に加え、最も高度なAI技術革新に付随して発生する「誇大宣伝」という問題もある。ユーザーの心理状態を評価するために設計された感情認識技術が、健全な科学的根拠を欠いている可能性があるという懸念もその1つだ^[20]。

幸いにも、AIガバナンスへの包括的なアプローチを重視することで、スマート・テック・アプリケーションにAIを活用している企業は、誤作動や誤使用といったリスクを軽減できる。またユーザーや社会は、有効なスマート・テック・アプリケーションを段階的に採用することにより恩恵を受けることができる。これこそが、AIガバナンスが重要な理由である。

従来のAIガバナンス          

ここ数年、政府、大学、NGO、民間企業は、AIガバナンスのハイレベルなフレームワークとガイドラインの開発を開始し、イノベーションを必要以上に妨げることなく、スマート・テック・アプリケーションに関連するリスクを軽減できるようにしてきた。

こうした取り組みが最も進んでいるのは、間違いなく民間企業においてであり、実際、それぞれの企業内および複数のステークホルダーからなる組織を通じて実施されている。例えばPartnership on AI（AIに関するパートナーシップ）^[21]は、Amazon、Facebook、Google、DeepMind、Microsoft、そしてIBMによって2016年後半に設立された。現在では、学術団体、市民組織、企業、非営利団体など100以上のパートナーが参加している。また、主要なテクノロジー企業は企業固有のガイドラインや原則も公開しており、既にAI研究やAIを活用した製品やサービスの開発支援に適用されている。

国際標準化機構（ISO）、国際電気標準会議（IEC）、 IEEE（Institute of Electrical and Electronics Engineers）などの非政府機関^[22]は、倫理とガバナンス、両面からの基準を取り入れ、AIの標準に関する独自の概念に取り組んでいる。世界経済フォーラム第4次産業革命センターは世界各地のさまざまな組織のフェローと協力して重要な問題を提起し、最近発表された企業の取締役会向けの人工知能ツールキットのような新しいテクノロジーに向けた実用的なガイダンスを提案している^[23]。

AIの周りに規制のガードレールを巡らせようという政府の試みは、均一ではないが、盛んになっている^[24]。最も注目すべき最近の取り組みは次のようなものである。

• 日本が主催した2019年G20サミットにおいて、G20のメンバーはAI開発者のための国際ルールの策定を推進するためのAI原則に署名^[25]
• 2019年、42カ国がOECDの人工知能に関する原則を採用^[26]
• 欧州委員会がAI法の導入を準備中^[27]で、ホワイトペーパーを公開^[28]。これは、AIに関するハイレベル・エキスパート・グループ（The High-Level Expert Group on Artificial Intelligence）によって進められている業務に基づいている。欧州委員会は、新しい法律がGDPR（一般データ保護規則）と同様に、世界的に広範囲な効果をもたらすことを望むだろう^[29]
• 日本の経済産業省（METI）が、企業に向けたAI・データの利用に関する契約ガイドラインを発表^[30]
• 英国政府が、政府機関がAIをより効果的に購入するためのAI調達ガイドライン案を発表^[31]

PwCを含む多くの組織は、AIガバナンスの実践的な実装を促進するAIガバナンスの手法とツールを開発してきた。これには、AIモデルとデータに潜む偏りの自動チェック、AIモデルの堅牢性の評価、AI アルゴリズムの結果を解釈しやすくするための新しいアプローチが含まれる。

本レポートでは、AIの倫理面とガバナンス面を考慮した最も重要な取り組みのいくつかを選定した（図表1参照）。倫理原則の理解から特定のAIガバナンス技術ツールの適用に至るまで、有用なガイダンスを求める組織が利用可能なさまざまな手法とツールをまとめたもので、出所は、国連やEUといった国際的組織、企業の内部監査チームなど多岐にわたる。こうした分野では多くの取り組みが行われているが、意義のある貢献が次々に起こるため、遅れをとらずについていくことは難しい。数カ月前、スタンフォード大学の行動科学先端研究センター（CASBS）とŞerife Wong氏のパートナーシップであるFluxus Landscapeによって、AI倫理とガバナンスへの貢献を示す最新の視覚的表現が示された。これはコラボレーション・プラットフォームの形^[32]で、AIガバナンス分野におけるイノベーションのスピードを説明している。

PwC ResponsibleAIToolkit https://www.pwc.com/rai
*アルファベット順

これまでのところ、多くのAIガバナンスの手法とツールは、AIを活用した製品やサービス（原則、ガイドライン、技術的ツール）のメーカーとデータの提供者（主にGDPRや同様の法的フレームワーク、また一部の技術的ツール）向けに設計されてきた。AIによって強化されたスマート・テック・アプリケーションの複雑性が増し、またその導入が加速していることを考慮すると、今こそ、より包括的で実用的なAIガバナンスを実現する好機である。AIを活用した製品やサービスのメーカーとデータの提供者にとどまらず、スマート・テック・アプリケーションを取り巻くすべてのステークホルダーを関与させることができれば、AI設計者やデータの専門家だけに頼るよりも良い結果を生むであろう。これこそが、AIガバナンスが重要な理由である。

包括的なAIガバナンス

このセクションでは、ホリスティック（すべてのステークホルダーが関与し）かつオープン（ガバナンスプロセスの透明性が担保され）、プロポーショナル（潜在リスクとその影響に応じて変化し）、そしてエンドツーエンド（AIを活用した製品やサービスのライフサイクル全段階において継続的）なAIガバナンスを検討する新しい方法を紹介する。

このストーリーにおけるAIガバナンスの役割

図表4は、それぞれの登場人物が、スマート・テック・アプリケーションの設計、開発、利用、保守のプロセスの中で位置づけられる役割を示している。

主なステークホルダーによって実行される、AIガバナンスの各段階を見ていこう。

パワードスーツのスマートテクノロジー開発者であるスズキ氏は、設計、テスト、継続的な改善という開発の各段階に適切なレベルのAIガバナンスを統合し、信頼性の高いスマートテクノロジーソリューションの開発に着手した。そのために次のことを行った。

1. スズキ氏はまず、ヨシダ氏とその家族に対して、パワードスーツの技術、現実的なリスクと利点について、時間をかけて説明した。パワードスーツがどう機能するのか。ヨシダ氏のニーズにどう適合するのか。機能面の課題を解消するには数カ月かかる可能性があり、ヨシダ氏の忍耐と決意が必要であること。ヨシダ氏が負うであろうリスクと、それにも関わらず最終的に役に立たないかもしれないというリスク。新しい機能は段階的にテストし、開発のすべての段階でヨシダ氏と彼の家族への確認を必ず行うことも説明した。

2. どのようなデータを収集しているのかについて詳細に説明した。ヨシダ氏の体験をパーソナライズする上でそのデータをどう活用するのか。ヨシダ氏のパワードスーツの全体的な改善や、今後のパワードスーツ着用者のための活用方法についても説明を行った。またスズキ氏はヨシダ氏に対し、スズキ氏の会社とのデータ共有を断る選択肢があることと、その意味についても説明した。

3. スズキ氏は、AIアルゴリズムが高精度の位置情報データを使用していることを確認した。まず、位置情報データの提供者と一般的な精度について確認し、次にヨシダ氏がパワードスーツを使用することが予想される正確な地域内において、位置情報データの精度のテストを実施した。

4. スズキ氏はまた、最終的に動作制御に使われる学習データにパワードスーツの前方および周囲の生の画像を与えることで、多様な環境に十分対応でき、ヨシダ氏が横断する道路や歩行者区域を認識できることを確認した。位置情報データのノイズを除去するために、データクレンジング対策が追加で実施された。 

5. スズキ氏は、選択したデータサンプルの検証だけでなくリアルタイムのデータ収集により、リアルタイムでの動きの調整やユーザーへの危険回避の警告を含む、テクノロジーのパフォーマンスの監視ができることを確認した。またこれにより、より多くのデータを得た。それは他のユーザーが類似のパワードスーツを使用する際のトレーニングと、さまざまな環境でのデータを分析してコンピュータビジョンの環境検出精度を向上させるために使用できた。

6. パワードスーツの使用が予想されるすべての条件や場所において、ヨシダ氏の体重を安全に運べるように基本設計されていることを確認した。さらにヨシダ氏が自分の体形と体力に合わせてわずかに体を動かすだけで、パワードスーツとの「コミュニケーション」がとれるようにした。

7. パワードスーツの「靴」が、ヨシダ氏の家の周辺、町内の道路や歩道、階段の上り下り、バスの中など、ヨシダ氏がパワードスーツで歩くことが予測される歩行面に対応していることを確認した。

8. スズキ氏は、テストの全体を通して段階的に進めていくことに留意した。スズキ氏自身、ヨシダ氏、そしてヤマダ氏の三者が実際の条件下でテストしても安全だと感じるようになるまで、徐々にタスクの難易度を上げていった。

9. スズキ氏はまた、定期的にトレーニングにも立ち合い、装置がまだテストされていなかったり、あるいは安全が確認されていなかったりする条件については、はっきりと警告した。それは例えば、「舗装された道路だけを歩いてください」といったものだ。

10. ヤマダ氏とその地域住民に対しても、時間をかけてリスクと利点の説明を行った。

これらのステップを踏むことにより開発期間は長期化したが、地域社会の中にパワードスーツを導入することに伴う短期的なリスクを最小限に抑えることにつながった。公共の安全に問題を生じることなく、パワードスーツは地域の高齢者の運動機能を高め、老齢期の幸福を支援するものだという信頼性を高める結果となった。

ヨシダ氏もまた、自分の責任を真剣に受けとめていた。

1. ヨシダ氏は時間をかけて、パワードスーツの利点とリスク、その技術、安全かつ漸進的な使用方法、そしてヨシダ氏がとるべき行動を理解した。筋力を高め、パワードスーツの操作能力を向上するための定期的な運動もその1つだった。

2. ヨシダ氏は、雨などの悪条件のもとでのテストを実施し、設計時に想定された条件以外でパワードスーツを使用した際のリスクを直接体験することに同意した。

3. ヨシダ氏はスズキ氏に、詳細なフィードバックを提供した。おかげでパワードスーツのAIを、自分自身のため、またAI対応パワードスーツの将来のユーザーのために改善することができた。

最後に、町長のヤマダ氏は、地域住民の代表として利害関係のトレードオフ、つまり事故や利点が発生した場合の社会のリスクと、成功した場合の利点について早い段階で理解した。該当する法律がなかったため、国の指針と彼女自身の常識を基準とした。

1. ヤマダ氏は、関連する技術と、それらを公共の空間（道路、歩道、建物、交通機関）で安全に利用する方法、個人およびそのコミュニティと社会にとってのリスクと利点について、時間をかけて理解した。

2. 例えば「パワードスーツ装着ライセンス」の地方自治体独自のパイロット試験を計画する前には、国の関係当局の支援のもと、ヨシダ氏の視覚の不測の変化に対応するために、第三者、例えばヨシダ氏の担当医への相談を行った。ヤマダ氏はユーザーに対し、ライセンスの取得のためには、毎年または必要に応じてより頻繁に、身体能力テストと認知テストに合格すること、また担当医および理学療法士からの推薦状を取得することを要求した。

3. ヨシダ氏とスズキ氏がコミュニティ内で行っているこの胸躍る実験について、ヤマダ氏は地域住民と頻繁に意見を交換した。パワードスーツを装着したヨシダ氏が近くを歩いている時や、車に乗って道路を通り過ぎていく時などは、人々にその利点やリスクを認識するよう促した。

このストーリーでは、産業用ロボットやAIに関連した組織については明確に説明していない。そうした組織も、この実験から学び、AIパワードスーツが安全のためのバックアップを備え、ときには着用者がAIに優先して判断できるための認証プロセスの開発を検討している。また、パワードスーツ事業への投資家についても言及していない。投資家は事業の迅速な拡大には関心を持っているが、リスクを取ることには慎重であり、完成度の高いパワードスーツの開発についてスズキ氏と緊密に協議している。

それでは概念式内の要素と、各ステークホルダーが使用するガバナンスの定義方法、またその理由について見ていくことにしよう。

使用されるAI技術の種類：スズキ氏はパワードスーツの開発に数種類のAI技術を利用した。考慮すべき事柄は2 つある。

• 位置情報―GPS の位置データに基づいて装置の所在地を検索することは、非常に成熟した技術である。しかしスズキ氏は、ヨシダ氏がパワードスーツを使用する可能性のあるすべての地域で、良好な受信状態を確保したいと考えた。そのため、彼はいくつかの具体的なテストを実施した。 

• 膝パッドにかかる圧力の解析による動作方向の決定― これは公共の場所でのテストがほとんど行われていない新しい技術である。そのため、スズキ氏はテストを段階的に行うことにした。 

社会的価値観：日本のロボット技術に対する開放性が、ヨシダ氏がパワードスーツを早期に着用できることにつながった。ヨシダ氏はテストに関するパフォーマンスデータと個人データを喜んで共有したため、スズキ氏とヤマダ氏のパワードスーツのパフォーマンスに関する知識は増した。それは地域社会の中で、他のパワードスーツの実験を加速することにつながった。 

使用されるデータのプライバシーレベル と 影響を受ける人数：パワードスーツから収集したデータは匿名化され、ヨシダ氏や将来のパワードスーツ着用者のために動作精度を向上させるためのAIの学習に使われた。

リスクの重大性と確率：このパワードスーツは、ヨシダ氏のために商品化する前に、厳格な試験と改良が施された。次の段階では、スズキ氏は引き続きヨシダ氏の住む町において、高齢者のためのパワードスーツの改良に向けた大規模なテストを行うつもりだ。ロボット工学の企業は、規模の拡大の支援を提案してきた。また日本の厚生労働省は、スズキ氏のパワードスーツをテストする病院の候補を示すといった協力を申し出た。スズキ氏は、これらの取り組みのうち、自身が並行して安全に指揮できるものはいくつあるのかチェックしている。

AIガバナンスツールの範囲: ヤマダ氏はガバナンスのギャップに気付き、政府と協力して、地域での「パワードスーツ着用ライセンス」を導入した。スズキ氏は次の開発ステップに進む前に、適切なAIガバナンスプロセスを設計する必要があることを認識した。

この例は、ガバナンスの責任の共有、事故や失敗のリスクの軽減、ヨシダ氏のパワードスーツの成功がコラボレーションによってどのように実現されたのかを示すものである。登場人物の緊密な連携により、パワードスーツのさらなる開発への道が開かれ、運動機能の低下に対するこの革新的なソリューションの利用の可能性がさらに広がった。

このストーリーは、私たちが提唱するホリスティックかつオープン、プロポーショナル、そしてエンドツーエンドなAIガバナンスプロセスの実践的な応用例を示している。