このままでいいのかAI活用：価値向上につながらないAIのワナ

はじめに

AI技術は日々進化を遂げ、私たちの社会やビジネスに劇的な変化をもたらしています。しかし、著作権の帰属、倫理的な問題、セキュリティとプライバシーのリスクといった課題も指摘されており、日本企業は生成AIの利活用に慎重な姿勢であると見受けられます。

一方、米国では、「攻めのAIガバナンス」を敷き、生成AIの活用を積極的に進めることで、生産性向上やコスト削減にとどまらず、イノベーションによる新たな顧客体験といった大きなインパクトを創出していることが見えてきました。

日本企業は早急に従来の守りの姿勢を脱して、積極的なリスク管理を通じて生成AIの価値を最大限に引き出さなければ、先進的な企業との間に大きな格差が生じることが懸念されます。

日米の生成AI実態調査から見えてきたイノベーション推進のポイント

PwC Japanグループは、「生成AIに関する実態調査2024 春 米国との比較」を実施し、日本企業と米国企業における生成AIの認知度、活用状況、現状の課題を比較して明らかにしました。

日米比較調査の結果をみると、生成AI活用の推進度合いと関心度のいずれも日本よりも米国が進んでいることがわかりました。米国は「推進中以上」と回答した層が全体の91%以上で日本より+24pt、また他社事例に「とても関心がある」層も+22ptとなり、高い関心を持って積極的にAI活用を推進しています（図表1）。

図表1：自社の生成AI活用の進捗度合いと他社での活用への関心度

また、生成AIサービスの認知については、日本ではテキスト生成サービスが主であり、画像、音声、動画などのサービスの認知度が低い（平均15％）のに対し、米国ではこうしたサービスの認知度は日本の約2倍（平均31%）と高く、マルチモーダルなAI活用に積極的であることが調査によって明らかになりました。

生成AIリスクへの対応状況に関して、米国では「プロンプトインジェクションの監視と抑制」「コンテンツの有害化・文法エラーの検出」など具体的な対応策を導入している割合が高い傾向です。生成AIリスクへの対応策を「実施していない」割合はわずか3%にとどまる一方で、日本はその割合が約20％と高く、生成AIリスクへの対応に関しても米国が先進的なポジションであることが示されています。

日本では、対策を打たずにリスクが許容できるような「社内×既存事業」に生成AIを活用したものの、コスト削減が主目的となり大きなインパクトが出せないといった従来のAI活用時にみられた傾向が再現され始めています。一方、米国では、生成AIのポテンシャルを把握し、リスクを具体的に評価して対策を講じることで、企画から運用・改善までのサイクルを円滑に進められています。適切なガバナンスを敷きながら生成AIの活用先を的確に定めて導入を推進し、新規事業や顧客向け活用も視野に入れることで、新たな顧客体験といった大きなインパクトの創出が期待できます（図表2）。

図表2：AIガバナンスの推進によるイノベーションのサイクル

ヘルスケア企業における生成AIの活用事例と想定されるリスク

生成AIは、ヘルスケア業界のバリューチェーンの全てに貢献するポテンシャルを持ちます（図表3）。

図表3：バリューチェーンでみる生成AIの適用領域

一方で、生成AIを利用するにあたっては、著作権の帰属や倫理的な問題、セキュリティとプライバシーのリスクやハルシネーション（流暢だが事実と全く異なるコンテンツを生成してしまうこと）といったさまざまな課題も指摘されています。ヘルスケア業界は、そのビジネスが人々の健康や生命に直結することから、さまざまな義務や法規制が課されたり、科学的な正確性が強く求められたりするため、生成AIを活用するにあたってはこうした課題といかに向き合うかを一層強く意識しなければなりません。

ヘルスケア領域における生成AIの具体的な活用事例とその際に懸念されるリスクをご紹介します。

事例1：レコメンデーション―セキュリティ、プライバシーリスク

CRM（顧客情報管理システム）に蓄積されたログや社外情報を生成AIが分析し、MR（医療情報担当者）に対してレコメンデーションを行うことで、彼らの生産性向上や顧客満足度の向上が期待されます。一方で、個人情報の不適切な取り扱いなどのリスクが懸念されます。

事例2：開発文書作成―ハルシネーションリスク

開発文書作成においては、文書作成の効率化、文書品質の向上が期待されます。一方で、生成AI特有のハルシネーション（流暢だが事実と全く異なるコンテンツを生成してしまうこと）の発生や外部モデル学習へデータが利用される可能性などの、機密情報の流出リスクが懸念されます。

AIガバナンスに関する国内外の最新動向

米国、欧州、日本は、デジタルテクノロジー政策において異なる戦略・志向を示しており、AIをめぐる思惑もそれぞれであり、各国・地域の動向を注視する必要があります。

米国ではトランプ政権によりAIに対する規制を緩和する動きがあります。EUではAI規制法が施行され、AI規制法で定義されている「禁止されるAI」に関するガイドラインの草案が2025年2月4日に公表されました。また、日本では、罰則規定のないAI法案が国会に提出されるなど、ガバナンス設計が進められています。

日本企業には各国・地域の規制、業界ガイドラインに沿った対応が求められます。特に欧州で事業展開を行っている企業は義務適用・制裁の対象となる場合があるためEUのAI規制法への対応が早急に必要です。

図表4：日米欧でのAIガバナンスに係る法規制の議論の状況

日本

米国

欧州

2025年2月28日、AI法案が国会に提出された。一部行政指導は進められるものの、罰則は設けず、具体的なリスク管理は業界団体で議論されている（例：JaDHAによる「ヘルスケア生成AI活用ガイド」）

トランプ政権では、2025年1月23日、AIに対する規制緩和を指示する大統領令を発表。バイデン政権時に導入された規制の見直しを行い、一時停止や修正、撤回が検討されている

罰則を含むAI規制法が2024年8月1日に発効。適用（施行）は条項によって段階的に実施され、発効日から条件付きの猶予が設けられるものの、24カ月（2026年8月）までに全面適用される

ソフトロー

ソフトロー

ハードロー

積極的なリスク管理を行ったAIの利活用に向けて

各企業では、責任あるAI（Responsible AI）ガバナンス環境の整備に向けて、次の7つの取り組みが求められます（図表5）。指針やポリシーの策定のみでは、実運用における効果は限定的となるため、基準と運用のバランスを考慮した整備が重要です。また、モニタリングプロセスやモニタリングツールの導入に関してはガバナンスの強度に応じて詳細化を検討する必要があります。

図表5：Responsible AIガバナンス環境の整備に向けた7つの取り組み

  1. AIガバナンス現状把握
    ・・・全社におけるAI利活用状況の調査
  2. 指針／ポリシー策定
    ・・・全社的な指針／ポリシー／ガイドラインの策定
  3. AIガバナンス体制構築
    ・・・AIガバナンス実施体制の検討、海外拠点・グループ会社を含むAIガバナンス体制の構築
  4. モニタリングプロセス策定
    ・・・モニタリング指標の定義、規定／チェックシート作成、ステークホルダーマネジメントプロセスの策定、AI／MLモデルマネジメントプロセスの策定
  5. モニタリングツールの導入
    ・・・ツール導入のための要件定義、ツールを導入したモニタリングプロセスの策定
  6. AIガバナンス人材育成
    ・・・教育コンテンツの策定、研修（全社／データサイエンティスト／経営層）
  7. 開発／運用プロセスの改善
    ・・・規定／チェックシートの見直し、モニタリングプロセスの見直し、教育コンテンツの見直し、定期モニタリング

PwCサービスの紹介

PwCコンサルティングではテクノロジーの知見を有するチームとヘルスケア業界の知見を有するチームが密に連携し、ヘルスケア企業向けにAIガバナンスの整備、AI活用の検討・実装を支援するサービスを提供しています。

執筆者

大森 健

パートナー, PwCコンサルティング合同会社

Email

神田 隆通

マネージャー, PwCコンサルティング合同会社

Email

田中 理博

シニアアソシエイト, PwCコンサルティング合同会社

Email

{{filterContent.facetedTitle}}

{{contentList.dataService.numberHits}} {{contentList.dataService.numberHits == 1 ? 'result' : 'results'}}
{{contentList.loadingText}}
{{contentList.loadingText}}
{{contentList.viewAllLabel}}

本ページに関するお問い合わせ

関連サービス