AI活用に向けたガバナンスルールの潮流―企業・政府・研究機関が取るべき姿勢とは【第2回 企業とAIガバナンス】

人工知能（AI）技術の開発やAIを活用した製品・サービスの展開が各国で進んでいます。こうした中、イノベーションを促進すると同時に、差別的な利用やプライバシーの侵害といったリスクを回避するために、社会的・倫理的側面を考慮した社会の仕組みづくりが求められています。本稿では、各国・地域におけるAIガバナンスなどに係るルールの動向と共に、AI分野において求められる企業・政府・研究機関の在り方、考慮すべき事項について考察します。

AI製品・サービスの開発や普及に向け、企業は社会的原則にどう向き合うべきか

企業のAI製品・サービスが、人間の基本的価値観や昨今の国内外における関連原則を踏まえ、社会にプラスの影響を与えていくには、検証や追跡管理といった技術的側面に加え、説明責任を明確化し、倫理面を考慮した体制を構築するといった組織的側面における対応も求められます。AIは必ずしも入力と出力の関係が明確でなく、プログラムのコードと結果のトランザクションが乖離し、ブラックボックス化する危険性が伴っています。したがって、性別や人事による民族の好みといった人間のバイアスがツールに組み込まれないように、データの不完全性や偏りを低減する必要があります。どのようなインプットに基づいて結論にたどり着き、判断を下したのか、次にどのような行動を取る可能性が高いのか――。これらを説明可能にすることが求められています。

例えば、AIの判断が組織・用途の目的と合致していることを保証するために、ソリューションの全段階を文書化し、AIの判断を追跡・管理できるようにすることも重要でしょう。ただし、開発企業や個人に対し全ての法的責任を追及し、断罪することは、技術開発を委縮させる可能性もあります。単純な技術に係る説明責任だけではなく、AIを社会に投入した設計者の思想信条（AI開発におけるコードオブコンダクト）のような道義的責任についても、今後検討していく必要があるでしょう。

同時に、AIサービス開発を担う理系エンジニアに対し、プロセスの検証や倫理的な課題・人権への配慮やその責任の全てを押し付けることは、技術開発の阻害につながりかねません。政府からの倫理的側面に係るソフトローを参照しつつ、企業として「AI倫理」専門部隊を設置することや、多様な人材を採用するなど組織体制の在り方も検討していくべきです。例えば、企業がAIサービスの開発を始める前に、ガイドラインなどの原則をベースにリスク対応を検討すると共に、AI関連リスクの外部把握の難しさに鑑みて、内部通報者保護制度を導入することでリスクを低減するという手法も考えられます。実際にAI倫理に係る外部委員会などを設置する動きも一部の企業では出てきています。

また、AI分野関与者の多様性を促していくことで、バイアスのかかったインプットや差別的なアウトプットを回避することにもつながるでしょう。AI分野のトップの地位を女性が占める割合はまだまだ少ないと推定されています。人材に多様性が欠如していることと、機械学習の結果のゆがみが生じることには相関関係があるとされていることから、AI学問の世界における人材の多様化を図り、ビジネスにも多様な人材が投入される仕組みを創出する必要があるでしょう。その上で、スキル、経験、学歴、社会、文化、職業についての考えが異なる人材がバランスよく混在する集団を組成し、AIサービスの開発を目指すことが、今後不可欠となるのではないでしょうか。企業には技術的な側面に対応すると同時に、専門組織を組成したり、多様性を受け入れる土壌を社内に醸成したりするなど、組織的な側面に対応することで、AI技術の偏りや、それに伴う社会的不平等の拡大を阻止するような姿勢が求められています。

第1回 各国の動向とAIガバナンスに求められる視点

第3回 政府施策とAIガバナンス

第4回 AI産業・市場形成と研究機関の役割