{{item.title}}
{{item.text}}
{{item.text}}
近年、中国のAI技術は急激に進化し、独自の大規模言語モデルなどの開発が加速しています。そのため、社会への影響を踏まえ、中国ではAI関連法制度の整備が急速に進められています。このコラムでは、中国のAIに関する法規制の動向、実務での論点を整理し、中国で事業を展開する日本企業が留意すべき点を紹介します。
中国は、国家戦略としてAI産業の発展を促進しています。同時に、既存の法令とAI関連法規制および標準などを組み合わせる形でAI規制を行っており、中国独自のAIガバナンスモデルが形成されつつあります。
2017年に国務院(中央政府)が公表した「新一代人工知能発展規画1」では、2025年までに人工知能に関する基本的な法律、倫理枠組み、人工知能に対する安全評価と管理能力を構築するとしました。中国は早期の全面的なAI促進政策から、AIの倫理・安全、アルゴリズム規制などについても法律を制定するようになり、現在その基本的な内容が明らかになってきています。
中国でAI関連事業を展開する組織は、こうしたAI関連法制度を遵守する必要があります。また、中国のAI規制に関するアプローチは、その特有の点を除けば、AIガバナンスの構築などにおいて参考になると考えます。
以下、中国のAIに関する戦略の全体像を俯瞰し、法制度を解説します。
中国のAIに関する国家戦略全体は、政策、既存法規制のうちAIにも適用される部分(以下、「関連法規制」)、AIに特化した法規制(以下、「AI法規制」)、および「AI標準」で構成されています。AI法規制を制定する際には、サイバーセキュリティ法などの関連法規制を根拠法や条文の参照元にするといった活用を行っています。また、関連法規制とAI法規制には、倫理に特化した法規制(以下、「倫理規制」)があります(図表1)。
図表1:中国AI戦略体系
中国では、AI関連法令および標準の検討、公布、施行が活発に進められているため、継続的なモニタリングが必要です(図表2)。また、ビジネスへの影響を見据えて、取り組みを進めていくことが肝要です。
図表2:中国AI法規制および標準のタイムライン
AI技術の急速な発展を受け、中国は、既存の法令に組み合わせる形で、2022年に「インターネット情報サービス・アルゴリズム・レコメンデーション管理規定」(以下、「レコメンデーションアルゴリズム規定」)、その後、「インターネット情報サービス深度合成アルゴリズム管理規定」(以下、「深度合成アルゴリズム規定」)を制定しました。また、2023年7月に生成AI向けに「生成人工知能サービス管理暫行弁法」(以下、「生成AI弁法」)が制定2されました。
プロバイダーについては、以下図表3のとおり責任を規定していますが、アルゴリズムの透明性確保のための届け出制度は特徴的だと言えます。
図表3:AIアルゴリズムプロバイダーの責任
AIアルゴリズム関連規制は、AIの透明性確保において非常に重要な法制度になります。中国の場合、電子商務法、個人情報保護法などにおいて、事業者に対し、使用するアルゴリズムに関して、ユーザーが見つけやすい場所に目立つ方法で告知し、説明責任を果たすことを義務付けています。また、レコメンデーションアルゴリズム規定におけるアルゴリズム利用に関する明示要求および届け出制度によって、初めてアルゴリズムの透明性に関する制度が具体化され、深度合成アルゴリズム規定によって、深度合成アルゴリズムの明示と届け出が規定されました。生成AI弁法においては、生成AIアルゴリズム利用に関する明示と届け出が求められています。
AI技術の進化に伴い、合成技術の濫用や虚偽情報の拡散などの問題が厳重化し、その対応策として、AIによって生成されたコンテンツの識別を規範化する「人口知能生成合成内容標識弁法」5(2025年3月7日に公布され、同年9月1日より施行。以下、「内容標識弁法」)が制定されました。
「インターネット情報サービス深度合成管理規定」などアルゴリズム関連規定においても、AIによって生成されたコンテンツの標識に関する要件が提起されましたが、具体化されていない、かつ内容の全ライフサイクルに対するものではないなどの課題が残されていました。これに対して、内容標識弁法は、「どれが生成合成された内容か」、「誰によって生成されたか」、「どこから生成されたか」を解決6するとともに、配信プラットフォームも規制対象に含めることによって、内容の生成から配信までのライフサイクル全般に対するガバナンスを実現しています。
「インターネット情報サービス・アルゴリズム・レコメンデーション管理規定」、「インターネット情報サービス深度合成管理規定」、「生成系人工知能サービス管理暫行弁法」において定められているインターネット情報サービスプロバイダー(以下、「情報サービスプロバイダー」)が行う、AIにより生成・合成された内容(以下、「生成合成コンテンツ」)の標識活動が、内容標識弁法の規制対象になっています。
一方で、生成AIサービスを利用するニュースの出版、映画・テレビ番組の制作、文学・芸術の創作など特定活動におけるコンテンツの標識について、別途規定がある場合には、その規定を優先するものとします。
生成合成コンテンツとは、AI技術を使用して生成および合成したテキスト、画像、音声、動画、仮想シーンなど情報を指します。
生成合成コンテンツの標識は、明示的な識別と黙示的な識別に分類されます(図表4)。
図表4:生成合成コンテンツの標識の分類および定義
各義務の主体は、以下図表5のとおりです。
図表5:各主体の定義
| 義務の主体 | 定義 |
| 情報サービスプロバイダー | 「インターネット情報サービス・アルゴリズム・レコメンデーション管理規定」、「インターネット情報サービス深度合成管理規定」、「生成系人工知能サービス管理暫行弁法」において定められているインターネット情報サービスプロバイダー |
| 配信サービスプロバイダー | インターネット情報コンテンツの配信サービスを提供するサービスプロバイダー |
| インターネットアプリケーション配信プラットフォーム | インターネットアプリケーションの公開、ダウンロード、動的ロードなどの配信サービスを提供するインターネット情報サービスプロバイダー(以下、「プラットフォーム」) |
| ユーザー | 情報サービスを利用しているユーザー |
各主体が行うべき義務は、以下図表6のとおりです。
図表6:各ステークホルダーの義務
| 義務の主体 | 義務の内容 | 詳細 |
| 情報サービスプロバイダー | 明示的な標識の追加 | 文始、文末、または中間の適切な位置に、文字または通用記号による注意など標識を追加する。 または、インタラクティブインターフェース、文字の周囲に目立つ注意標識を追加する。 |
音声の始め、終わり、または中間の適切な位置に音声注意または音声リズム注意等標識を追加する。 または、インタラクティブインターフェースに目立つ注意標識を追加する。 |
||
| 画像の適切な場所に目立つ注意標識を追加する。 | ||
| ビデオの冒頭とビデオ周辺の適切な場所に目立つ注意標識を追加する。ビデオの最後と途中の適切な場所に目立つ注意標識を追加することができる。 | ||
| 仮想シーンを表現する場合、開始画面上の適切な場所に目立つ注意標識を追加する。また、仮想シーンの継続的なサービスにおける適切な場所に目立つ注意標識を追加することができる。 | ||
| その他生成合成されたサービスシーンでは、各自応用の特性に基づいて、目立つ注意標識を追加する。 | ||
| 黙示的な標識の追加 | 生成合成コンテンツファイルのメタデータに黙示的な標識を追加する。 黙示的な標識には、生成合成コンテンツの属性、情報サービスプロバイダーの名称またはコード、コンテンツ番号など制作要素情報が含まれる。 生成合成コンテンツに、デジタル透かしなどの黙示的な標識を追加することを推奨する。 |
|
| ユーザーサービス契約において、生成合成コンテンツ標識の方法、様式などを明確に説明し、関連する標識管理要件を閲覧し理解するよう促す必要がある。 | ||
ユーザーが情報サービスプロバイダーに対し、明示的な標識が追加されていない生成合成コンテンツを提供するよう要求した場合、情報サービスプロバイダーは、ユーザー契約においてユーザーの標識に関する義務および使用責任を明確にすることで、明示的な標識なしの生成合成コンテンツを提供することができる。 また、提供対象に関する情報などのログを6カ月以上保存する。 |
||
| 配信サービスプロバイダー | 生成合成コンテンツの配信を規範化するための措置の実施 | ①ファイルのメタデータに黙示的な標識が含まれているかを確認する。 ファイルのメタデータに、生成合成コンテンツであることが明確に示されている場合、適切な方法によって、配信するコンテンツの周囲に目立つ注意標識を追加し、当該コンテンツが生成合成コンテンツであることを公衆に明確に知らせる。 |
| ②ファイルのメタデータにおいて黙示的な標識が確認されていないが、ユーザーが生成合成コンテンツであると宣言する場合、適切な方法によって、配信するコンテンツの周囲に目立つ注意標識を追加し、生成合成コンテンツの可能性があることを公衆に提示する。 | ||
| ③ファイルのメタデータにおいて黙示的な標識が確認されず、ユーザーも生成合成コンテンツであると宣言していないが、配信サービスプロバイダーが明示的な標識または生成・合成の痕跡を検出した場合、生成合成コンテンツの疑いありと識別し、適切な方法によって、配信するコンテンツの周囲に目立つ注意標識を追加し、当該コンテンツが生成合成コンテンツの疑いがあることを公衆に提示する。 | ||
| ④必要な標識機能を提供し、公開するコンテンツに生成合成コンテンツが含まれているかを自主的に宣言するようユーザーに促す。 | ||
| ①から③までの場合、ファイルのメタデータに、生成合成コンテンツの属性情報、配信プラットフォームの名称またはコード、コンテンツ番号などの配信要素情報を追加する。 | ||
| プラットフォーム | 説明の要求、標識関連資料の確認 | プラットフォームは、アプリケーションの配信審査時に、アプリケーション・サービス・プロバイダー(以下、「アプリケーションプロバイダー」)に対して、AI生成合成サービスを提供するか否かを説明するよう求める。 アプリケーションプロバイダーがAI生成合成サービスを提供する場合、プラットフォームは、生成合成コンテンツの標識に関する資料を確認する必要がある。 |
| ユーザー | 生成合成コンテンツの利用に対する宣言、標識 | ユーザーが、インターネット情報コンテンツ配信サービスを利用して生成合成コンテンツを公開する場合、自主的に宣言するとともに、配信サービスプロバイダーが提供する機能を利用して標識する必要がある。 |
内容標識弁法では、罰則について明確に示さず、関連法令、行政法規、部門規定に基づいて処理すると定めています。
一方、内容標識弁法は、「サイバーセキュリティ法」、「インターネット情報サービス・アルゴリズム・レコメンデーション管理規定」、「インターネット情報サービス深度合成管理規定」、「生成系人工知能サービス管理暫行弁法」など法規制に基づいて制定されており、上記法規制の関連罰則が適用されることになります。
例えば、「サイバーセキュリティ法」の罰則では、網羅的な条項として「当該法律を違反した場合、状況に応じて民事責任ないし刑事責任を追及される」とされていますが、内容標識弁法の規定を違反した場合も、同様に刑事責任まで追及される可能性があることが想定されます。
関係主体が標準化された方法で標識活動を実施できるよう、国家標準「サイバーセキュリティ技術:AI生成合成コンテンツ標識方法」(以下、「標識標準」)が内容標識弁法と同時に公布され、9月1日より施行されます。
標識標準は、コンテンツ・サービス・プロバイダーと配信サービスプロバイダーに対して、コンテンツ識別方法に関する下記具体的な要件を満たすことを求めています。
2023年9月に中国科学技術部などが「科技倫理審査弁法(試行)7」を公布しました。当該弁法は、2022年国務院の「科技倫理ガバナンス強化に関する意見」におけるAIを含む科学研究活動に対する倫理五原則を具体化する法令になります。AIの研究開発を含む生物学、医学など科学研究開発を行う大学、企業などの組織に対して、倫理委員会の設立、研究開発活動の倫理審査などEthics by Design(倫理的な問題への対応をプロセスとして組み込むこと)を求めています(図表7)。
組織は、その倫理委員会の組織的、経済的独立性を担保する必要があります。また、倫理委員会のメンバーについては、特定分野の専門家以外に、倫理、法学などから性別、民族などのバランスよく招へいし、倫理委員会メンバーの多元化を保証することが求められます。
特に、AIなどのハイリスクの科学研究活動については専門家の審査が必要であり、審査状況について毎年報告書などを届け出る必要があります。
図表7:科学技術研究開発に関する倫理原則と制度化
AIは、多岐にわたる産業で活用され、効率化や新たな価値の創造に寄与しています。AI技術の持続可能な開発と利用を促進すると同時に、社会における信頼性と安全性を確保することを目的として、各分野において、AIに関する法整備を進めています。本節では、自動運転、医療、金融分野の主要な規制動向を紹介します。
交通分野の自動運転については、「自動運転車輸送安全サービスガイドライン(試行)8」が、2023年11月21日に公布されました。本ガイドラインは、自動運転運輸経営者、運輸車両、乗車およびリモート人員の配置、車両モニタリングや応急処置などを含む安全保障、監督管理などに関する要件を示しています。
2024年には、「インテリジェントコネクテッドカーの「車・路・クラウド統合」応用の試行に関する通知9」、「インテリジェントコネクテッドカーの地理測量情報セキュリティ管理強化に関する通知10」が公布され、2025年には、「インテリジェントコネクテッドカーの参入許可、リコール、ソフトウェアオンラインアップデートの管理強化に関する通知11」が公布されました。
法令などの制定とともに、「GB 44497-2024 インテリジェントコネクテッドカー 自動運転データ記録システム」(2024年8月23日公布、2026年1月1日より施行)、「GB/T 44721-2024 インテリジェントコネクテッドカー 自動運転システムの通用技術要件」(2024年9月29日公布、同日より施行)など国家標準も制定され、より具体的な要件やソリューションが示されました。
また、北京においては、各地域の先頭として、「北京市自動運転車条例」が2024年12月31日に公布され、2025年4月1日より施行されます。当条例には、インフラの計画と建設、道路交通管理、安全保証などについて定められています。なお、全人代では、自動運転に関する立法を求める声もあります。
医療分野においては、「AI補助治療技術臨床応用管理規範(2022年版)」や「AI医療用ソフトウェア製品分類定義指導原則」などが公布されて以降、「衛生健康業界AI応用シーン参考ガイドライン12」(2024年11月6日公布、同日より施行)が公布され、医療サービス、健康産業、基礎公衆衛生サービスおよび医学教育・研究の13領域におけるAIの応用シーンがリストアップされました(図表8)。
図表8:医療分野におけるAIサービス
金融分野においては、「金融科技発展計画(2022-2025年)13」が公布されました。本計画では、AI発展における新たなチャンスを捉え、金融分野におけるAI技術の応用を全面的に推進し、人と機械の連携、新たなスマート金融業態の創造に努め、金融サービスのライフサイクル全体のインテリジェント化を実現し、人々の安心感、幸福感を確実に高めることを基本原則の一つとして挙げています。
また、「AIアルゴリズムの金融応用評価規範」(2021年3月26日公布、同日より施行)、「AIアルゴリズムの金融応用情報開示ガイドライン」(2023年11月8日公布、同日より施行)など業界標準を相次いで公布し、金融分野におけるAIアルゴリズムの適用に関する基本要件、評価方法、判断基準を明確化することによって、アルゴリズムの透明度の向上を目指しています。
中国は、上記のアルゴリズムや倫理関連法規制の整備と同時に、体系的なAI標準の制定を進めています。2020年に国家標準化管理委員会、国家発展改革委員会、科学技術部、工業情報化部などが合同で制定した「国家新一代人工知能標準体系建設ガイド14」は、AIの技術面における標準体系の制定を目標としています。AIのリスク管理面については、2023年に全国情報技術標準化技術委員会人工知能サブ技術委員会と国家人工知能標準化総体組の主導で「人工知能倫理治理標準化ガイド(2023版)15」が作成されました。
特に「人工知能倫理治理標準化ガイド」は、AIの全ライフサイクルにおいて、データ、アルゴリズム、システム(自動判断方法)、人的要素の4つのカテゴリーから、倫理五原則をさらに10のガバナンス準則に詳細化しています(図表9)。
図表9:AIガバナンスの4つのカテゴリーと詳細な準則
「国民経済・社会発展第14次5カ年計画および2035年までの長期目標綱要」(2021年3月公布)におけるスマート裁判所の建設、「新世代人工知能開発計画」(2017年公布)におけるAI分野の知的財産保護などを推進するための具体的な取り組みとして、最高人民法院は、「AIの司法応用の規範化と強化に関する意見16」(2022年12月8日公布、同日より施行)を制定しました。本意見では、司法分野におけるAI応用に関する5つの基本原則、応用範囲およびAI司法応用システムの構築などについて示しています(図表10、図表11)。
図表10:司法分野におけるAI応用に関する5つの基本原則
図表11:応用範囲
裁判実務については、2023年11月に、AI生成の画像が著作物として認められた初判例17があり、注目を集めました。本判例では、原告が複数のステップに分けて、いくつかのプロンプトを入力する行為を実施し、当該行為の結果となるAI生成画像の独創性と知的成果の該当性が肯定されました。また、AIは著作権法上の主体になれないため、AIツールを活用して画像を生成した原告が著作権者として認められました。
また、2024年2月には、広州インターネット裁判所において、AIサービスのプロバイダーによる著作権侵害を認める初判決18が下されました。本判例では、AIにより生成された画像が、①他社の著作物の創作的表現を一部または全体的に複製したこと、②一部は他社の著作物の創作的表現を保留しつつ、新しい特徴を生成したが、当該行為は、「改編」に該当することを理由に、当該AIサービスを提供したプロバイダーの著作権侵害を判定しました。
中国のAI規制強化に対して、企業は、AIの開発や利活用において、既存の内部統制フレームワークにAI対応を組み込み、法令遵守を徹底する必要があります。
中国は、2023年から2年間連続で、AI法の立法を「年度立法計画」に入れています。また、法制度の各階層、産業の各分野において、AI技術の発展に見合う法的枠組みを構築する動きを進めています。
よって、中国でAI関連法規制の対象となり得る事業を展開している組織は、AI法規制の動向を継続的にモニタリングし、リスク評価に反映させ、適切なコンプライアンス体制を構築する必要があります。
1 中国国務院,2017,「新一代人工智能发展规划」,2023/5/19閲覧,
http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm
2 「インターネット情報サービスアルゴリズム・レコメンデーション管理規定」:2021年12月31日公布、2022年3月1日より施行、「インターネット情報サービス深度合成管理規定」:2022年11月25日公布、2023年1月10日より施行、「生成系人工知能サービス管理暫行弁法」:2023年7月10日公布、2023年8月15日より施行
3 中国インターネット情報情報弁公室(CAC),互联网信息服务算法备案系统,2025/5/23閲覧,
https://beian.cac.gov.cn/#/index
4 中国インターネット情報情報弁公室(CAC),2022,「国家互联网信息办公室关于发布互联网信息服务算法备案信息的公告」,2025/5/23閲覧,
http://www.cac.gov.cn/2022-08/12/c_1661927474338504.htm
5 原文:https://www.cac.gov.cn/2025-03/14/c_1743654684782215.htm
6 「人口知能生成合成内容標識弁法」に対する記者の質問への回答より抜粋、https://www.cac.gov.cn/2025-03/14/c_1743654685896173.htm
7 中国科学技術部(省),2023,「科技倫理審査弁法(試行)」,2025/5/23閲覧,
https://www.gov.cn/zhengce/zhengceku/202310/content_6908045.htm
8 原文:https://xxgk.mot.gov.cn/2020/jigou/ysfws/202312/t20231205_3962490.html
9 原文:https://www.gov.cn/zhengce/zhengceku/202401/content_6926711.htm
10 原文:https://www.gov.cn/zhengce/zhengceku/202407/content_6965227.htm
11 原文:https://www.gov.cn/zhengce/zhengceku/202503/content_7009422.htm
12 原文:https://www.nhc.gov.cn/guihuaxxs/c100133/202411/3dee425b8dc34f739d63483c4e5c334c.shtml
13 原文:http://www.pbc.gov.cn/zhengwugongkai/4081330/4406346/4693549/4470403/index.html
14 国家標準化管理委員会ほか,2020,「国家新一代人工智能标准体系建设指南」,2023/5/15閲覧,
http://www.gov.cn/zhengce/zhengceku/2020-08/09/content_5533454.htm
15 国家標準化管理委員会ほか,2020,「国家新一代人工智能标准体系建设指南」,2023/5/15閲覧,
http://www.gov.cn/zhengce/zhengceku/2020-08/09/content_5533454.htm
16 原文:https://ipc.court.gov.cn/zh-cn/news/view-2131.html
17 春風事件((2023)京0491民初11279号)
18 ウルトラマン事件((2024)粤0192民初113号)
{{item.text}}
{{item.text}}
{{item.text}}
{{item.text}}