登壇者
殿村 桂司氏
長島・大野・常松法律事務所
パートナー弁護士
モデレーター
平岩 久人
PwC Japan有限責任監査法人
パートナー
AIエージェントが勝手に高額なホテルを予約したら、その契約は有効か。企業でのAIエージェント活用が加速する中、従来の法的枠組みでは想定されていなかった問題が相次いで浮上しています。本稿ではAI制度研究会の委員としてルールメイキングにも関与する長島・大野・常松法律事務所の殿村 桂司弁護士を迎え、2025年に成立した日本版AI法のコンセプトと今後の施策の方向性を解説するとともに、AIエージェントの利活用に伴う8つの法的問題に迫ります。（本文敬称略）
（左から）平岩 久人、殿村 桂司氏
日本のAI開発・活用を後押しするAI推進法の狙い
平岩：
最初に2025年5月に成立し、同年9月に全面施行された「人工知能関連技術の研究開発及び活用の推進に関する法律（以下、AI推進法）」とはどのような法律なのかを教えてください。
殿村：
まずAI推進法成立までの経緯からお話しします。生成AIが普及し始めた2022年末以降、翌2023年にはAI政策を巡る議論が本格化しました。最初の動きが2023年4月に自民党の政調審議会で承認されたAIホワイトペーパーです。AI国家戦略の策定やAI規制の新たなアプローチなどを提言したもので、私もプロジェクトチームのメンバーとして策定に関与しました。
これを受けて日本は、法的拘束力を持たないソフトローのアプローチを採り、2024年4月にAI事業者ガイドラインを策定しました。しかし、ガイドラインには事業者への強制力がないという課題がありました。そこで2024年8月、内閣府の下にAI制度研究会が設置され、ハードローの必要性が議論されます。2025年2月に中間取りまとめが公表され、同年5月にAI推進法の成立に至りました。
議論の根底にあったのは、「日本のAI開発・活用が国際的に遅れている」という強い危機感です。活用が進まない背景として、国民の間に根強いAIリスクへの不安があることが指摘されました。そこでAI推進法は、こうした不安を和らげ、安心してAIを活用できる環境を整えることを目的に設計されています。
AI推進法の名宛て人は基本的に政府です。省庁横断的なAI戦略本部を設置し、AI基本計画に基づく施策でAIの開発・活用を推進する枠組みを定めています。一方、事業者にも「国等の施策に協力しなければならない」という責務規定がありますが、違反してもペナルティはありません。こうした柔軟な枠組みの下、「日本をAIの開発・活用が最もしやすい国にする」というメッセージが打ち出されています。
長島・大野・常松法律事務所 パートナー弁護士 殿村 桂司氏
罰則なき法律の実効性と企業への影響
平岩：
この法律の名宛て人は基本的に国とのことですが、国の施策はどのような方向性で検討されているのでしょうか。
殿村：
16条に規定される国の施策は、二つに大別されます。
一つ目は「調査・研究等」です。国は国内外のAI関連技術の動向を継続的に把握するとともに、国民の権利利益を侵害するおそれがある事案が発生した場合には、その原因分析や対策の検討を行うことが規定されています。事業者に求められる協力としては、主にアンケート調査や個別ヒアリングへの情報提供が想定されています。ただし、企業秘密など開示が難しい情報もあり、どこまで開示すべきかについては法律に明記されておらず、今後の実務に委ねられています。
二つ目は、「国による指導・助言・情報提供」です。AIの開発・活用において望ましくない事案が生じた際には、国が注意喚起を行ったり、調査結果を公表したりすることができます。留意すべきは、この公表の中で対象事業者名が明かされる可能性がある点です。罰則はないものの、協力姿勢が不十分と見なされればレピュテーションリスクにつながるおそれがあります。企業は、どの範囲で協力できるのかを事前に整理しておく必要があります。
整理すると、「平時にはAIの活用状況や安全対策に関する情報収集が行われ、権利侵害のおそれがある事案が生じた場合には実態調査と対策の検討に移る」という二段構えの仕組みで運用されます。
AI推進法の趣旨でも触れたように、国民が抱くAIへの漠然とした不安を和らげるため、国が情報を収集・公表し、その結果を踏まえて施策を改善していく。いわばPDCAサイクルを回すことを前提とした法律です。すでに先行調査として「性的ディープフェイクを生成するAI」と「雇用・採用場面におけるAI活用」の二つが実施され、AI戦略本部の会合資料として公表されています。今後も同様の調査と公開が継続的に行われる見通しです。
平岩：
責務規定に罰則はないとはいえ、事業者としては実務上どこまで対応すべきなのか判断が難しいところです。今後、国が示す基準やガイドラインはどのように整備されていくのでしょうか。
殿村：
基準やガイドラインについては、AI推進法が定める「指針の整備」が中心的な役割を担います。AI推進法第13条に基づき、国はAIの開発・活用を適正に進めるための指針を策定することになっており、2025年12月にその案が公表されています。位置づけとしてはガイドライン、いわゆるソフトローです。
もっとも、事業者の自主的取り組みを促す枠組みでありながら、書きぶりは比較的強めです。各主体の規模や立場、リスクに応じて、その時点で取り得る技術や知見を踏まえ、適切な水準で対応することが求められると明記されています。
既存のAI事業者ガイドラインは法律の後ろ盾がない任意のものでしたが、本指針は AI推進法第13条を根拠としています。事業者の協力の責務規定と併せて読むと、違反に直ちにペナルティはないものの、より踏み込んだ対応が求められるようになると考えられます。
事業者が取り組むべき事項は、指針の中で次の5つに整理されています。
- AIガバナンスによる俯瞰的な適正性の確保
指針でも筆頭に掲げられており、企業全体でリスクを管理する体制づくりが求められています。 - 透明性の確保とステークホルダーとの信頼構築
開発者・提供者には、リスクに関する説明可能性の確保や注意喚起を積極的に行うことが期待されています。 - 十分な安全性の確保
犯罪悪用の防止、誤作動時の停止、偽情報対策としての電子透かしなど、技術的な安全対策が求められています。 - 事業継続性（BCP）の確保
AIを業務に組み込む前提で、障害発生時にも事業を継続できる体制の整備が求められています。 - データに関する配慮と権利保護
知的財産を含むデータ保有者との適切なコミュニケーションや利益還元の仕組みづくりなど、著作権を侵害しないデータ活用が求められています。
自律・接続・反復がリスクの質を変える
平岩：
続いてAIエージェントについて伺います。企業の活用事例も増えてきていますが、従来の生成AIとは何が違うのか、その特徴とリスクを教えていただけますか。
殿村：
AIエージェントは2025年に入って急速に普及した言葉ですが、まだ確たる定義はありません。ここでは「高度な目標を達成するために、タスクを自ら段階的に設定し、外部環境と接続しながら自律的に判断と行動を繰り返すシステム」と定義します。従来の生成AIとの違いは、従来の生成AIよりもはるかに高度な自律性を備えている点で、大きく三つの特徴に表れます。
具体例で説明しましょう。私に出張の予定が入り、AIエージェントに「出張の手配をお願い」と投げかけたとします。するとAIはまず私のメールや予定表にアクセスし、日程・場所・交通手段・宿泊の要否を自ら判断して、新幹線やホテルの手配といったタスクを設計します。これが一つ目の特徴である「自律的なタスク設計」です。
二つ目は「外部との接続性」です。ホテルのウェブサイトにアクセスし、アカウント情報を取得してログインし、予約まで完了します。そして三つ目が「連続反復実行」です。第一候補のホテルが満室なら第二候補を探す、エラーが出れば次の手段を考えるなど、目標を達成するまで自律的な判断と反復処理を続けます。
平岩：
それだけ高度な動きをするとなると、従来の生成AIとは別次元のリスクが発生しそうですね。
殿村：
そのとおりです。AIエージェントのリスクは二つに分けられます。
一つ目は、従来の生成AIと同種のリスクの「先鋭化・増幅」です。誤判断やハルシネーション、著作権侵害、バイアスなどの問題は生成AIにも共通しますが、AIエージェントは複雑なプロセスを自律的に実行し、外部環境へ直接アクセスできるため、同種のリスクがより深刻化する可能性があります。
二つ目は、AIエージェント特有のリスクです。人の監督がほとんどない状態でタスクを実行し、さまざまな外部環境にアクセスできるため、従来の生成AIでは想定されなかった新たなリスクが異なる経路で生じてきます。
PwC Japan有限責任監査法人 パートナー 平岩 久人
AI同士の価格調整はカルテルか。浮上する8つの法的論点
平岩：
AIエージェントが高度な判断と外部連携を自律的に行うとなれば、従来の枠組みでは想定していなかった法的問題も発生する可能性があります。具体的にどのような問題が想定されるのでしょうか。
殿村：
法的な論点は多岐にわたりますが、ここでは企業が実務で直面し得るものを8つに整理してお話しします。
- 契約の有効性
先の出張の例で考えると、AIエージェントが予約したホテルの宿泊契約は、そもそも有効なのかという問題です。AIエージェントはソフトウェアであり、法人格はありません。また、想定外の高額なホテルを予約してしまった場合、意図を外れた契約を後から解除できるのか。こうした論点はまだ十分に議論されていません。 - 不法行為責任
AIエージェントが外部環境にアクセスした結果第三者に損害を与えた場合、利用者に過失が認められるのかも曖昧です。AIエージェントを使ったこと自体は過失でないとすれば、どのような使い方であれば過失を問われないのか。判断基準の議論はこれからです。 - 製造物責任（PL法）
高性能なAIをロボットに搭載するフィジカルAIが普及すれば、製造物責任が問題になります。しかしAIエージェント自体はソフトウェアであり「モノ」ではないため、現行のPL法が適用されるか不透明です。また、どのような場合に瑕疵があると判断されるのかも未整理です。 - カルテル（独占禁止法）
A社とB社がそれぞれAIエージェントに適正価格の設定を委ね、エージェント同士が連携して価格をつり上げた場合、それはカルテルに該当するのか。人間同士であれば「意思の連絡」が成立しますが、AIエージェント間のやり取りを現行法でどう扱うかは議論が始まった段階です。 - 業規制・広告表示規制
AIエージェントが「我が社の製品が一番安い」と事実と異なる説明をすれば、景品表示法違反になりかねません。また、ユーザーに病名を示して受診を勧めれば医療行為に該当する可能性もあります。AIが高度化するほど既存規制への抵触リスクが高まり、AIエージェントを前提とした法整備の議論が求められます。 - 知的財産（特許）
個人のデータを学習したパーソナルAIエージェントが自律的に発明を行った場合、特許権で保護されるのか。人の関与が薄い以上保護されないという見方もあれば、本人のデータをすべて学習した分身である以上、本人の発明と同視できるという見方もあり得ます。 - 企業内パーソナルAIの帰属
従業員の業務データを学習したパーソナルAIエージェントは、従業員にとって業務遂行に不可欠な存在となり得ます。転職時に「持ち出したい」と考える可能性がありますが、企業側としては持ち出されると困ります。どのように帰属を定めるかといった、ルール整備が必要です。 - データガバナンス
AIエージェントを最大限活用するには部門横断的なデータアクセスが効果的ですが、現在のアクセス権は人間の利用を前提に設計されています。AIエージェントを前提とした、将来のデータガバナンスの在り方を再検討する必要があります。
AI推進法時代の企業に求められるスタンス
平岩：
契約の有効性からデータガバナンスまで、幅広い法的課題がよく分かりました。最後に、こうした状況を踏まえて、今後企業にはどのようなことが求められるでしょうか。
殿村：
AI推進法でも触れたように、日本ではAIの開発・活用がまだ十分とは言えません。だからこそ、企業の皆様には積極的にAIを使っていただきたい。お話ししてきたとおりリスクはありますが、それはどの企業にとっても同じ条件です。
重要なのは「ゼロにできないリスクとどう向き合い、どうコントロールするか」です。これがAIガバナンスの中核を成す考え方です。適切な枠組みを整えることで、AIをより安全かつ有効に活用し、事業価値につなげていくことができます。ぜひガバナンス強化と併せて、AI活用を一段と進めていただきたいと考えています。
平岩：
ありがとうございました。
（左から）平岩 久人、殿村 桂司氏
