AI音声が変える「声を聞けば分かる」の前提――AI犯罪被害を防ぐために個人・企業は何をすべきか

「交通事故で相手にケガをさせてしまった。至急弁護士費用を送金してほしい」――オレオレ詐欺で使われる典型的なセリフです。

これまで多くの人は、このような電話を受け取ったとしても「声が違うから、これは詐欺だな」で終わりがちでした。

ところが今、オレオレ詐欺に強力な“声優”が実装されようとしています。あなたの家族や友人の声やイントネーションを完璧に演じ、リアルタイムに通話の応答をすることで、詐欺の成功率を格段に上げようとしているのです。

親しい人の声による緊急の訴えが、AIによって生成された声だったとしたら、あなたはそれを本物と聞き分けることができるでしょうか？

AI時代の利便性の裏側には、急速に発展するAI音声技術を背景とした犯罪が数多く存在しています。AI音声技術がどのように悪用され、被害をもたらすのか。また、それらから身を守るために私たちはどうしたらよいのかを、「クローン音声」を例に取って説明します。

AI音声技術とその発展

AI音声技術は、AIがテキストや画像、音声、音楽、動画などの膨大なデータを学習し、人の声を解析してテキストデータ等に変換したり（音声認識）、新しい音声を生み出したりする（音声合成・音声生成）技術です。現在、この技術を応用したサービスや製品は急速に広がっており、日常生活の中で私たちがAI音声と触れる機会を増やしています。

AI音声技術を利用したサービス・製品の例

• 音声対応AIチャットボット
• バーチャルアシスタント（スマートスピーカー等）
• オーディオブックのナレーション
• 金融機関や各種コールセンターでの自動応答

一昔前のAI音声といえば、単調で温かみがなく、発音も不自然であると感じる人も多かったでしょう。

しかし、そんな私たちに救世主が現れます。AIボイスクローニングという、実在する人の声をAIに学習させ、その人特有の声質や話し方を模倣して新しい音声（クローン音声）を生成する最新技術です。

近年の技術進歩により、クローン音声は本人の声と区別がつかないレベルにまで向上しており、利用者が感じる違和感や負担は、以前と比べて軽減されてきています。

クローン音声を悪用した犯罪

とはいえ、AI技術の発展にリスクはつきものです。世界的にはAIボイスクローニングをはじめとする、ディープフェイクを悪用した犯罪が相次いで報告されています。ここでは、特にクローン音声を悪用した巧妙な詐欺事例や、被害状況について紹介します。

個人に対する詐欺事例

海外では、クローン音声を利用した、電話やボイスメッセージによるなりすまし詐欺が増加しています。具体的には、家族や友人といった、ターゲットの親しい人になりすまして、以下のようなトラブルに見舞われたことを騙り至急の送金を迫るといったものです。

• 交通事故：「交通事故で相手にケガをさせてしまった。至急弁護士費用を送金してほしい」
• 窃盗・強盗：「不注意で会社のお金を盗まれてしまった。大ごとにしたくないので、助けてくれないか」
• 海外旅行中のトラブル：「旅行中にトラブルに見舞われ、現地の警察に拘束され出国できなくなった。現地の弁護士費用や滞在費で急ぎお金が必要」

これら以外にも、クローン音声を利用して娘になりすまし、母親に身代金を要求した偽装誘拐の事例まで発生しています（図表1）。これらの詐欺では、発した声を瞬時に別の声に変換するツール（リアルタイムボイスチェンジャー）も活用されることが多く、単なる一方通行のボイスメッセージではなく、会話を通じてターゲットを信じ込ませることを可能としています。

図表1：クローン音声を悪用した偽装誘拐詐欺の流れ

企業・国家レベルの事例

こういった詐欺のターゲットは個人の枠を超え、企業や政府機関に及びます。代表的な事例を見てみましょう。

①多国籍企業の被害事例

多国籍企業にて、ディープフェイクによる映像や音声を利用して実在するCFOになりすますことにより、多額の資金が送金、詐取される事件が発生しました。発生の流れについては図表2のとおりです。

図表2：多国籍企業の被害事例

^{出所：IPA「情報セキュリティ10大脅威 2025」を基にPwCにて作成
https://www.ipa.go.jp/security/10threats/eid2eo0000005231-att/setsumei_2025_soshiki.pdf}

②政府高官へのなりすまし事例

米国では、悪意のある人物が、AI生成音声を含むソーシャルメディア上のメッセージで米国務長官になりすまし、州や連邦政府関係者の個人アカウントへアクセスを試みる事案が発生しました。

^{出典：OECD AIM（AI Incidents Monitor）
https://oecd.ai/en/incidents/2025-07-08-ebee}

忍び寄る危険

「AIを利用した犯罪は手間も技術も要するのでは？」と思われるかもしれません。

ところが現在では、短時間の音声データがあれば、専門的な知識がなくてもクローン音声を作成できるサービスが登場しています。例えば、わずか5秒ほどの音声を入手しアップロードするだけでその人の声そっくりにテキスト読み上げができる音声合成アプリも出てきており、こうしたツールやアプリは一般のユーザーも安価に利用が可能となっています。

^{出典：国立情報学研究所
https://www.nii.ac.jp/today/105/5.html}

また、ソーシャルメディア等に投稿された、声を含む動画等を学習させることにより、投稿主や動画に映る人物のクローン音声を生成する、といったことも可能であることから、悪意ある第三者による悪用リスクは非常に高まっています。

日本では、オレオレ詐欺のような個人を狙った詐欺でのクローン音声の悪用はまだ多くは報告されていない状況と言えますが、このような背景を踏まえると、他国のように、一般消費者をターゲットとしてその家族や知人のクローン音声で金銭を巻き上げようとする詐欺が急増することも考えられます。危機意識が低い状況で被害に遭わないよう、こういった悪用の可能性があることについて認識したうえで、今後はインターネット・ソーシャルメディアを利用していく必要があると言えるでしょう。

脅威から身を守るには

情報に対して正しく疑いを持つ

では、悪意あるクローン音声に惑わされないようにするには、どうしたらいいでしょうか？一個人としては、情報の発信源や今起こっていることに正しく疑いを持つことが重要になります。そのうえで、疑わしい連絡を受けた際には、「複数経路で本人性を確認する（例：折り返し電話をかける）」、「家族との間であらかじめ決めておいた合言葉を電話口で確認する」、といった対応が求められるでしょう。

また、「自分の声も簡単にコピーされる時代」だということを再認識することも大切です。ソーシャルメディアの普及が進むいま、声を含むわずか数秒の動画を何気なくアップロードしている人も多いのではないでしょうか。先述の通り、たった5秒の音声だけでクローン音声の生成が可能な時代です。日々の娯楽として利用するこのようなコンテンツでさえも、誰が閲覧しているのか、どのようなリスクにさらされているのか、立ち止まって考えてみる必要があります。例えば公開範囲の設定を通じ、投稿を本当の知り合いのみに制限する等、ほんの些細な取り組みがあなたの身の回りに起こる危険から守ってくれるかもしれません。

AIの脅威に備えたサービス・企業を利用する

一方で、急速なAI技術の発展に対して、一個人でできる対策は限られています。

ソーシャルメディア・通話サービス等を提供する企業側も、利用者が悪意あるクローン音声やAIによるなりすましの被害を受けないように、一定の対策が求められることになると言えます。企業側に想定される対策の例を図表3に示します。

このように、利用者にセキュアで安全なサービスを提供できるように、AI・ディープフェイクの脅威に対して継続的に対策を行っているプラットフォームや企業を消費者自らが選択していく、ということも一案かもしれません。

何をどう守るべきか

本稿を通じて見てきたとおり、AIが当たり前の存在になったいま、何気ない声や会話までもが、悪用されればなりすましや詐欺の素材になり得る時代です。AI時代においては、氏名、住所、ID・パスワードといった、従来重視されてきた情報にとどまらず、より幅広い情報を適切に保護し、その真偽を見極めることが一層重要になっています。

こうした環境の中で、個人も企業も、「何を守るべきか」「どのように守っていくのか」をそれぞれの立場で考え続けることが、AI時代を前向きに享受するための前提になっていくでしょう。