生成AI（Generative AI）の急速な発展と普及に、各企業は早急な対応を迫られています。生成AIの活用により、手軽にオリジナルなアウトプットの生成が可能となりましたが、これには同時に大きなリスクもあり、「守り」のガバナンスはより重要なものとなっています。今後は、AI活用を踏まえた既存業務の再構築が必須となりますが、企業はリスクを考慮したうえで既存の業務にAIをどの程度、どのように導入していくのかを判断する必要があります。そのためには現状のAI活用状況を把握することのほか、AIの新規活用やAIによる業務置き換えの優先順位、それらを決めるための評価項目の設定、投資効果の見込算出、インシデントが発生した場合の損害見込みなどを見極めることが重要です。そして経営者がAI活用に関して迅速な判断を下すために必要な情報を分析する、「攻め」のガバナンスを確立することが不可欠となります。
はじめに
翻訳や要約などの高度な事務作業や、専門知見に関するブレインストーミングなど、さまざまなタスクにおいて対話型生成AIの活用が進んでいくと見込まれています。しかし、誰でも手軽に活用できる分、AIユーザのリスクへの認識が低いままでは、インシデントの発生確率も高くなることが想定され、ユーザ向けのガイドラインの早急な整備が求められています。
ビジネスに生成AIを活用するにあたって、リスクはどのようなところに潜んでいて、何をコントロールすべきなのでしょうか。企業のガバナンス担当者は言葉で制するだけではなく、技術的なポイントも含めて生成AIの本質を理解したうえでユーザ自身にインシデントについて考えてもらうなど、効果的なガバナンス体制を構築する必要があります。
本稿では生成AIによるインシデントを例にその技術を整理し、リスクをコントロールするために対処すべきことについて解説します。
生成AIに関する技術の整理
生成系AIは「ジェネレーティブAI」や「クリエイティブAI」とも呼ばれていますが、文字（Text）・絵（Image）・音（Sound）といったヒトの生成物をインプットとして、文字や絵、音によるオリジナルのアウトプットを生成し、出力するAIです。図1にそれらの代表的な技術を整理しました。
例えば、文字（Text）をインプットし、アウトプットとして絵（Image）を生成する技術についての研究は、2015年ごろから発表されています。しかし、当初は「プロンプト」と呼ばれる画像生成の指示をするテキストから画像を生成することには成功したものの、解像度が粗く、内容の判別が難しいものでした。
そして2021年にOpen AI社がDALL・Eを発表しました。DALL・Eは、アーキテクチャはもちろん向上しましたが、複雑な進化をしたわけではなく、その新規性はモデルとデータ量の大幅な拡大にあります。100倍以上に拡大したパラメータ数に加え、億を超えるキャプションが付与された画像を作成し、これまで大きな壁となっていた表現の幅が格段に向上しました。これにより生成される画像がクリアなものとなり、実在しなくともプロンプトに入力されたテキストに沿った表現を生成し、日常で使うような言葉をもとに、簡単に画像を生成できるようになりました。その後、さらにアーキテクチャが改良され、2022年4月に上記のDALL・E2が発表されました。
生成AI技術は、私たちの暮らしと働き方に革命的な変化をもたらし、社会と経済に大きな利益をもたらしてくれることが予想されます。しかし、人間の表現に含まれている虚偽の情報や、非倫理的な要素（不当な偏見や差別、スティグマなど）も同時に学習してしまうため、多くの生成AIは、フィルタリングや強化学習などの手段を用いることで、虚偽の内容や非倫理的な内容を表現することが抑制されています。
最近大きな話題を呼んでいるChatGPTは、2022年11月にOpen AI社が公開した新しいチャットボットです（文字をインプットし、アウトプットとして文字を生成する）。自然な言語で会話を生成することができるうえ、プログラムコードや論文、小説などのようなまとまった文章を生成することもできます。ChatGPTの出現により、技術的な背景を持たない人々も簡単にAIを活用することができるようになり、「AI活用の民主化」が一気に進むと思われます。
生成AIに関するインシデント
私たちは「AI活用の民主化」をポジティブに受け止める一方で、その急激な進歩の中でさまざまなリスクを想定しなくてはなりません。
プロンプトや生成物に関する著作権の問題は、確実に複雑化します。日本国内では2023年4月現在、画像生成AIが著作権のある画像を学習しても改正著作権法（2019年）に違反しているとは見なされません。しかし、著作権のある画像を学習することが違法ではないとしても、対価を受けることなく学習されることを望まない権利者もいるでしょう。「著作物をもとに生成した画像などのアウトプットに著作権が付くのか」「複数の著作物から生成した生成物の著作権はどうなるのか」など、具体的なルール作りは今後の課題です。
また誰でも気軽にAIを活用することができるようになった反面、技術的なノウハウを持たないユーザがAIの特質やそれに伴うリスクを十分に認識せず、個人情報などを悪意なくプロンプトに入力し、問題に発展するということも考えられます。
生成AIも、安全性、説明可能性、公平性、透明性など、リスクを考慮する範囲はこれまでのAIと基本的に大きく変わりませんが、アウトプットの生成能力や「AI活用の民主化」により、より大きく複雑なリスクに発展する可能性は高くなりました。複雑化する著作権や情報漏洩といった問題に加え、誰でもフィッシングメールやマルウェアプログラムなどを生成し、サイバー犯罪に加担してしまうというケースも考えられます。また、政治家の画像を使って虚偽のプロパガンダを生成することで大衆扇動を行うなど、大きな社会問題に発展する可能性もあります。
守りのガバナンスと攻めのガバナンス
生成AIの台頭はAI活用を促し、実際に多くの人々が活用し始めています。企業としてもこのビジネスチャンスをつかむため、AIの活用推進体制を早急に整える必要に迫られています。多くの企業は生成AIに関する不透明なリスクを考慮し、思うようにアクセルを踏み込めていませんが、生成AIの活用は今後のビジネスで必須です。適切なリスク対応を行いつつ、早期の活用開始が推奨されます。
生成AIの活用が大きな話題になる数年前から、AI活用の指針やポリシーを策定し、外部に公表する企業が少しずつ増えていました。AIガバナンスの管理対象者は、これまでは一部の技術者やAI担当者のみに限られていたため、企業にとっては「余裕があれば実施する」という程度の施策でした。しかし「AI活用の民主化」が進んだことで、これからは全社員がその対象に含まれるべきでしょう。AIを活用するうえで守るべき透明性や説明可能性を確認し、データや結果の公平性の維持などをポリシーに含め、それを順守するための評価項目を洗い出し、継続的なモニタリングを実施するなど、インシデントを未然に防ぐための「守り」のガバナンスを構築することは不可欠です。
この「守り」のガバナンスは、「イノベーションの阻害要因になる」という理由から、実務の現場では理解を得にくい面があります。しかし、AI活用の民主化に伴い政府も対策の検討を始めており、日本も欧米のようなハードローに寄っていく可能性は十分に考えられます。AI活用管理者には今後、「守り」のガバナンスの重要性を認識することが求められるでしょう。
生成AIの隆盛により、今後は「攻め」のガバナンスも改めて重要視されてくるでしょう。AI活用はビジネスのより重要な要素の1つとなり、AIを組み込んだ既存業務の再構築が必要になると思われます。経営者には、AIに関しての経営判断が数多く求められると予想されますが、その判断にはこれまでの経営課題とは比較にならないほどのスピード感と知見が要求されます。そのため、他分野の管理者に安易に兼務させるのではなく、AIの専門家に管理を任せ、ガバナンス担当者がサポートする体制を構築することが望ましいです。そうすることで、リスクを踏まえたAI活用法を検討したり、AIに代替させる業務内容を具体的に検討したりすることが可能となります。
なお、細心の注意を払ってもインシデントが起きてしまうことは考えられます。その場合、クライアントをはじめとするステークホルダーに納得してもらえる対応策を事前に検討しておくことも、AIガバナンス担当者の課題となります。「AI活用の民主化」が進む今、企業が心配しなくてはならないのは、AIの暴走や不具合によるインシデントよりも、ヒトのAIの使い方によって生じるインシデントです。経営者も含めた社員の全員がAIに関わることを前提とした人材育成も、ガバナンス担当者の喫緊の課題です。
おわりに
PwCは、これまで多数のクライアント企業のAI活用やガバナンスを支援してきた経験から、AIガバナンスに対応しているか否かが企業の誠実さや信頼性を示し、自衛の観点も含めて企業価値に寄与する大切な要素となっていることを確信しています。また、生成AIの台頭によるビジネス革命の渦中において、日本の企業やビジネスコミュニティはグローバルコミュニティにおける自身の強みを再考するとともに、日本のこれまでの慣性や経験の価値の高さを再認識すべきと考えています。
AI活用を推進することは重要ですが、日本企業がグローバル展開に際して欧米で賠償を科せられてしまったり、日本のデータが不意に詐取されたりしないよう、政府および日本企業は国益を守るためにも、しっかりとしたガバナンス対策を行う必要があるでしょう。
PwCは、アカデミアとの共同研究や他企業とのコミュニティ形成を通して意見交換を続け、企業の枠を超えてできることを追求し、今後もAI活用にとって有益な情報を発信してまいります。
