欧州AI法の透明性義務が始動――執行フェーズに入ったAI規制への実務対応

透明性義務の主な内容

欧州AI法第50条の透明性義務は、「AIを使っている」ことについて、「誰が」「どの場面で」「何について」説明すべきかを機能ごとに切り分けた設計になっています。人がAIに接する局面ごとに誤認や不透明さが生じやすい点を特定して、それぞれの義務を定めています。

対話型AIについては、自然人がAIシステムと直接対話していることを認識できるようにする「見える透明性」が重視されています。チャットボット、AIエージェント、カスタマーサポートなどでは、最初の接触時点までに、相手がAIであることを明確に伝える必要があります。AIであることが、合理的に十分な情報を持ち注意深い自然人にとって明白である場合や、自然人との直接対話に当たらないバックエンド処理・機械間通信は対象外です。利用者保護と実務負担のバランスを意識した設計となっています。

AIシステム提供者には、生成物に機械可読な標識を付与し、それがAIによって生成または操作されたものであることを検知可能にする義務があります。検知可能な透明性のための技術には、有効性・相互運用性・堅牢性・信頼性が求められます。

感情認識や生体カテゴリ分類に関しては、自然人がこれらのシステムの処理対象になる場合に、その旨を通知する義務があります。具体的には、生体データに基づいて自然人の感情・意図を識別・推定すること、または自然人を特定のカテゴリに割り当てることが対象となります。マーケティング・監視・採用・接客・車載システムなど幅広い用途に関係します。

ディープフェイクおよび公共の利益に関する事項について公衆に情報提供する目的で公表されるテキストへの開示義務も定められています。ここでいうディープフェイクとは、「既存の人物・物体・場所・存在・出来事に似ており、人に真実または真正なものと誤認させる画像・音声・動画」をいいます。画像・音声・動画のディープフェイクについては、遅くとも人間が最初の接触時までに、人工的に生成または操作された内容であることを明確かつ識別可能な方法で開示しなければなりません。また、政治、民主的過程、行政、司法、法執行、基本権、公衆衛生、環境、消費者安全、経済、金融、科学、文化等の公共の利益に関する事項について、公衆に情報提供する目的で公表されるAI生成・操作テキストなど社会的議論に影響を与え得るものは、原則として開示が必要です。

一方、こうしたテキストであっても、十分な人的レビューまたは編集上の統制が行われ、かつ自然人または法人が編集責任を負っている場合には、AI生成表示は不要とされています。

図表1：見える透明性と検知可能な透明性

検知できる透明性義務の技術的要件

AIシステム提供者に課される機械可読な標識付与義務と検知可能性確保義務について、以下のとおり具体化されています。

技術要件

機械可読な標識および検知手段については、主に以下の4つの技術要件が求められます。

有効性：標識・検知の技術的ソリューション全体として、自然人がAI生成・操作コンテンツを識別できるようにすること

信頼性：通常条件下で、AI生成・操作コンテンツを他のコンテンツと正確に識別できること

堅牢性：通常の編集処理や敵対的攻撃を含むさまざまな条件下でも、AI生成・操作コンテンツを正確に識別できること

相互運用性：複数のシステム、事業者、文脈、技術実装をまたいで、異なる標識技術が用いられていても検知が可能であること

標識の付け方

Code of Practiceでは、現時点の技術水準では単一の標識のみで上記4つの技術要件を満たすことが難しいため、原則として少なくとも2層の機械可読な標識を用いる「multi-layered marking approach」が示されています。

第1層：デジタル署名とタイムスタンプが付され、改ざんから保護されたメタデータ

第2層：人の目や耳では通常認識できない不可視・不可聴のウォーターマーク

ただし、物理製品に組み込まれたAIアシスタントなど、技術的に制御された閉鎖環境で主として指示的な出力を生成し、当該出力が外部に取得・書き出し・拡散されないよう有効な技術的措置が講じられている場合には、1層の標識で足りるとされています。また、自由形式テキストについては、メタデータを運搬できないため、Code of Practice上、ウォーターマークによる単層の標識で足りるとされています。さらに、Code of Practiceでは、200トークン未満の「very short text」については、多くの場合十分な信頼性でのウォーターマーキングが困難であるとして、ウォーターマークの適用対象外とされています。

検知手段の提供

コンテンツがAIによって生成または操作されたものかどうかを確認できるよう、検知手段を提供しなければなりません。原則として、この検知手段は無償提供する必要があります。

もっとも、Code of Practiceでは、月間ユーザー数が100万人未満の事業者で、検知手段の運用コストが高く、かつ単一ユーザーからの大量リクエストが合理的閾値を超える場合には、その超過部分について合理的・公正・比例的な料金請求が認められています。

AIシステム導入者に課される見える透明性義務

AIによって生成または操作されたディープフェイク、および公共の利益に関する事項について公衆に情報提供する目的で公表されるテキストの開示について、以下のとおり具体化されています。

開示の方法

Code of PracticeのAnnex 1で示された欧州共通アイコン、またはデザインや配置に関する要件を満たす同等のアイコンやラベルを用いて、AIによって生成または操作された旨を、明確かつ識別しやすい形で表示しなければなりません。

コンテンツの種類ごとに、表示方法には次のような基準が示されています。

画像：他の表示要素に隠れず、自然人が直ちに認識できる位置（例：右上）に表示

動画：動画の冒頭に表示し、必要に応じて再生中にも定期的に繰り返し表示

テキスト：見出しの近く、または本文の冒頭付近に表示

音声のみのコンテンツ：冒頭で音声による告知を行い、その後も適宜繰り返して案内

対象となる製品・サービス

欧州AI法透明性義務の対象となる可能性があるのは、例えば、チャットボットやAIエージェント等の対話型AI、画像・音声・動画・テキスト生成AI、感情認識システム、生体カテゴリ分類システム、ディープフェイク生成機能、AI生成コンテンツを公衆向けに配信・公表するサービスなどです（図表2）。

欧州域内に設立・所在する場合に加え、欧州域内で出力が使用される場合にも、透明性義務の対象となり得ます。既存製品・サービスについても、欧州AI法第50条第2項に基づく機械可読な標識付与および検知可能性確保義務に関する経過措置の範囲を確認のうえ、必要な対応を行うことが求められます。