AIを利活用するにあたって企業に求められる10のAI原則

名前には、どのような意味が含まれますか

「名前とは何を意味するのでしょうか。私たちが「バラ」と呼ぶ対象は、他の呼び方に変えたとしても、甘い香りがすることに変わりはありません」

上記の文章は、ウィリアム・シェイクスピアの戯曲「ロミオとジュリエット」の有名なセリフです。私たちがAIにおいて原則と呼ぶ名称は本当にこれで良いのでしょうか。例えば、「責任あるAI」という名称は「信頼できるAI」「倫理的なAI」「有益なAI」などに変えても問題ないでしょうか。いいえ、この答えには明らかに問題があります。私たちが名付けた諸原則は、その名前自体に実質的に重要な意味を持っています。

デジタルコンピューターを最初に考案した18世紀の英国の数学者であり、発明家でもあるチャールズ・バベッジの発言の方が、その意図がより分かりやすいかもしれません。

「名前にはどのような意味が含まれていますか。あなたが名前に何かしらの意味合いを加えるまでは、名前自体は単なる空っぽの箱でしかありません」

10年程前まではAIにおける一連の原則は「単なる空っぽの箱」の状態でしたが、今日では非常に具体的な意味を持っています。この箱に該当する名称と、それが持つ意味はどういったものかを見てみましょう。

信頼できるAI：欧州委員会の「AIに関するハイレベルな専門家グループ」（HLEG-AI）は、信頼できるAIを「合法的なAI（適用されるすべての法律および規制に準拠）、倫理的なAI（倫理原則と価値の遵守を担保）、および堅牢なAI（意図しない危害を引き起こさない）」と定義しています。

倫理的なAI：EUの観点からは、倫理的なAIは「信頼できるAI」に含まれます。倫理原則は、人間の尊厳の尊重、個人の自由、民主主義の尊重、正義と法の支配、平等、無差別と連帯、市民の権利という基本的権利から導出されます。これらの基本的権利から、HLEG-AIは4つの倫理原則を以下のとおり提案しています。

• 人間の自律性尊重の原則：この原則は、「AIシステムは人間を不当に従属させたり、強要したり、欺いたり、操作したり、条件付けたり、誘導したりしてはならない。むしろ、人間の認知的、社会的、文化的スキルを拡大、補完、強化できるように設計すべきだ」ということを意味しています。
• 危害防止の原則：この原則は、「AIシステムが危害を引き起こしたり、悪化させたり、あるいは、人間に悪影響を及ぼしたりしてはならない」ことを要求しています。
• 公平性の原則：この原則は、「AIシステムの開発、展開、使用は公平でなければならない」ことを保証します。
• 説明可能性の原則：この原則は、「プロセスに透明性があるとともに、AIシステムの機能と目的が公開され、それによって決定事項が（可能な限り）直接的・間接的な影響を受ける人々に対して（可能な限り）説明可能なものである」ことを意味しています。

HLEG-AIは、これらの原則の間に緊張関係があり、それらの間のトレードオフを特定し、評価したうえで、それらに基づいて行動する必要があることも伝えています。

有益なAI：この概念について、HLEG-AIでは定義や詳細な検討を行っていません。有益なAIという概念は、アシロマの原則の1つに起源があります。2017年のアシロマ会議において、AIの研究目標は「無秩序な知能ではなく、有益な知能を生み出すこと」と定義されました。「有益な」という言葉には、さらに詳しい検討が求められます。例えば、「誰にとって有益なのか。人類全体か、その一部か、AIに出資する会社株主か」「いつ有益になるのか。現在か、今から10年後か」「有益性を誰が判断するのか」などの検討が必要です。スチュアート・ラッセルは、人間にとっての有益性を証明可能な概念としてAIを紹介しています。ラッセルによれば、「機械は、その行動が人間の目的を達成するものと期待できる限りにおいて有益である」ということになります。ここでの焦点は、AIの価値を人間にとっての価値と整合させることであり、AIに人間の価値を学習させることです。「証明可能」という概念は、私たちが現在持ち合わせているあるものではなく、今後目指すべきものを強く示していると言えます。

上述の定義から、倫理的なAIは信頼できるAIの意味合いの中に含まれることが分かります。しかしながら、有益なAIと倫理的なAIとの関係は、定義上で明らかになっていません。では、4原則により定義された意味合いの中で、倫理的でありながらも有益でないAIは存在するのでしょうか。逆に、有益ではあるが倫理的でないAIは存在し得るのでしょうか。

これら2つの問いに対する回答は、上記の定義と、定義に内在するトレードオフを私たちがどう解釈するかにより、いずれの場合でも「あり得る」と肯定的に解釈できる可能性があります。4原則を尊重した倫理的なAIであっても、人間の目的を実現しない形で構築されてしまうことは、どうしてもあり得ます（例えば、宇宙探査を目的とするAIプロジェクトは、人間の自律性尊重や危害防止などに則って実行されたとしても、少数の宇宙愛好家を除いた大多数の人間にとっては有益性がないでしょう）。同様に、基本的権利や倫理的原則を必ずしも全て尊重していなかったとしても、有益なAIが存在する可能性があります（例えば、パンデミック時に人間の移動を厳しく制限するAIは、多くの人命を救う効果があるとしても、個人の自由を制限することになります）。

責任あるAI

リマとチャによると責任あるAIという名称に含まれている「責任ある」という言葉には、関連する3つの異なる意味があります。

• 非難に値するものとしての責任：この概念は、特定の行動または不作為についての非難を「i」に帰することが適切である場合、主体「i」がその責任を負うべきであることを提案しています。このような非難に値するための必要条件は、1）道徳的機関、2）因果関係、3）知識、4）自由、5）不正行為です。
• 説明責任としての責任：特定の行為に対して、主体「i」に説明責任があると見なされるのは、当該行為を生じさせる、または防止すべき役割を「i」が担っていた場合となります。このような説明責任に必要な条件は、1）責任を持って行動するエージェントの能力、2）エージェント「i」と行動の間の因果関係です。
• 義務としての責任：主体「i」に義務としての責任があるということは、主体「i」が自己の行動または不作為を行ったとき、特定の相手方に対して弁済または補償を行う必要があることを意味します。ここでは、法制度において厳格な責任の割り当てが適用されることが多いため、道徳的機関に関係なく責任の帰属に焦点を当てています。

信頼できるAIは、人間による介在と監視に対して、要件によっては非難に値する考え方を示しています。また、人間による介在と監視について、ヒューマン・イン・ザ・ループ（HITL：Human-in-the-Loop）、ヒューマン・オン・ザ・ループ（HOTL：Human-on-the-Loop）、ヒューマン・イン・コマンド（HIC：Human-in-Command）といったガバナンス手法による監視を提案しています。説明責任は、信頼できるAIにおける明示的な要件であり、監査可能性、悪影響の最小化と報告、トレードオフ、および救済が含まれています。責任の概念は、当事者の行動または不作為を補償する既存の法律および規制がある限り、信頼できるAIに含まれます。ただし、そのような補償は要件として明示的には含まれていません。

責任あるAIには、情報工学者であるバージニア・ディグナムによる別の定義があります。

• 責任あるAIは、AIシステムの開発中および展開中に、倫理的、道徳的、法的、文化的、および社会経済的影響を考慮することを目的としたアプローチです。
• 責任あるAIは、持続可能な世界で人間の繁栄と幸福を確保するために、基本的な人間の原則と価値観に沿ったインテリジェントシステムの開発における人間の責任に関するものです。

この見解は、AIに対する包括的な観点（例えば、倫理的または道徳的だけでなく、法的、文化的、社会経済的観点）を提供しており、AIシステムの開発と展開を強調しています。AIはテクノロジーだけでなく、人間のシステム、プロセス、ガバナンスに対して重要な視点を置くことで、AIシステムの有益な性質を評価および決定することができます。

※本稿はPwCが寄稿したTen Principles of Responsible AI for Corporatesの一部を翻訳、加工したものです。