実際の事例から学ぶ、AI時代の新たなリスク

近年、AI技術の進化によって私たちの生活はどんどん便利になっています。
文書の作成や画像編集から音声認識まで、さまざまな場面でAIが活用されるようになりました。

独立行政法人情報処理推進機構（IPA）が発表した「情報セキュリティ10大脅威」の組織編において、新たに「AIの利用をめぐるサイバーリスク」が初選出でいきなり「第3位」にランクインしました 。このリスクの中で警戒されている手口の一つが、ディープフェイクを悪用した詐欺行為やなりすましです 。

引用：情報セキュリティ10大脅威 2026 | IPA 独立行政法人 情報処理推進機構

「ディープフェイク」と聞くと、有名人の偽動画やSNS上の話題を思い浮かべる方も多いかも知れません。ですが今、問題になっているのはエンタメ領域だけではありません。経営層の音声や映像を偽装し、社員に送金や機密情報の提供を指示するなど、企業そのものを標的にした詐欺が現実に起きています。
海外ではすでに、企業が大きな被害を受けた事例が報じられています。

本記事では、企業を狙うディープフェイク詐欺について、実際の事例を交えながら解説します。

1. そもそもディープフェイク詐欺とは

「ディープフェイク（Deepfake）」とは、「ディープラーニング（深層学習）」と「フェイク（偽物）」を組み合わせた言葉です。AIを用いて、実在する人物の声や顔を本物そっくりに再現する技術です。これにより、本人が話していない内容を話しているように見せる動画や、本人の声で指示しているように聞こえる音声を作ることが可能です。
この技術を悪用し、「相手を欺いて金銭や機密情報、アクセス権限などをだまし取る行為」をディープフェイク詐欺と呼びます。

ディープフェイク悪用の「2つの側面」
ディープフェイクの悪用は、大きく分けて以下の2つのリスクに分類されます。

1.ディープフェイク詐欺（本物そっくりの音声・映像による詐欺行為）
・経営者になりすまして経理担当者に緊急の「送金指示」を出す。
・取引先の担当者を偽装して「振込先口座の変更」を依頼する。
・上司を装って「社外秘データの提供」を求める。

2.ディープフェイクによる信用毀損（詐欺以外のサイバーリスク）
・経営者が不適切な発言をしている偽動画を拡散され、企業のブランドイメージを落とされる。
・虚偽の記者会見映像などによって株価操作を狙われる。

今回の記事では、特に直接的な金銭・情報被害を伴う「詐欺行為（なりすまし）」に焦点を当てていきます。

2. IPAも大警戒！セキュリティ10大脅威「第3位」に急浮上

IPA（情報処理推進機構）の「情報セキュリティ10大脅威 2026」において、「AIの利用をめぐるサイバーリスク」が組織向け脅威の第3位に初選出されました。

これまで「ランサムウェア攻撃（1位）」や「サプライチェーンを狙った攻撃（2位）」といったおなじみの脅威が並ぶ中、新興勢力であるAI悪用リスクがトップ3に食い込んできたことは、日本のサイバーセキュリティ業界でも非常に大きなニュースとなっています。

IPAが注意喚起を行う背景には、「音声や映像が本人のものに見えるため、従来のセキュリティ対策や人間の注意力だけでは見抜くことが極めて困難になっている」という危機感があります。

3. 世界で現実に起きている！恐ろしい被害事例

「うちの会社は大丈夫だろう」と考えるのは禁物です。海外では、すでに億単位の被害をもたらす極めて巧妙なディープフェイク詐欺が報告されています。

事例①：CEOの声にそっくりなAI音声による送金詐欺（イギリス）

2019年に、英国のエネルギー関連企業で、親会社幹部の声を模倣したAI音声を使ったとされる詐欺被害が報じられました。

報道によると、犯人は親会社のCEOになりすまし、現地法人の幹部に対して「至急、取引先へ送金する必要がある」と電話で指示。
声の抑揚やドイツ訛りまで非常に自然だったため、担当者は本人からの正式な指示だと信じ、約24万ドル規模の送金を実行してしまったとされています。

この事例が注目された理由は、メールではなく“音声そのもの”が信用材料として悪用された点です。
従来のビジネスメール詐欺であれば、不審な文面や送信元アドレスから違和感を持てることもありますが、本人そっくりの声で緊急指示が来れば、現場は冷静さを失いやすくなります。

事例②：ビデオ会議に“偽の役員”が全員集合した送金詐欺（香港）
近年特に大きな話題となったのが、香港で報じられたビデオ会議を悪用した詐欺事件です。

報道では、ある企業の従業員が、CFOを含む複数の関係者が参加しているように見えるオンライン会議に参加し、その場で送金を指示されました。
会議に映る人物たちは一見すると本物に見え、従業員は正規の業務指示だと判断。結果として、多額の資金を詐欺グループ側へ送金してしまったとされています。

このケースの怖さは、「電話」ではなく「映像つきの会議」だったことです。
私たちは一般に、音声だけよりも映像があるほうを信用しがちです。しかしディープフェイク技術が進化した今、“画面に映っているから本物”とは限らない時代になっています。

4. なぜ、従来の防衛策では防げないのか？

ディープフェイク詐欺がこれほど恐ろしいのは、「人間が誰かを信頼する際の本能的な判断基準（見た目や声）」をハッキングしてくるからです。

私たちは無意識のうちに、以下の判断を信じて行動しています。

「いつも聞いている社長の声だから本物だ」
「ビデオ画面に本人が映っているから間違いない」
しかし、AI技術はこれらの基準を簡単に突破します。
また、詐欺師は「極秘案件であるため、他言無用」「今すぐ振り込まないと契約が破談になる」といった心理的な時間的プレッシャー（緊急性）をかけて現場に相談させないように仕向けてきます。

つまり、技術の進化だけでなく、「人の心理の隙」と「組織の承認フローの緩さ」が重なったときに、被害は発生します。

まとめ：AI時代に必要なのは「新しい確認ルール」

ディープフェイク詐欺は、AIという最先端技術を用いた、極めて巧妙ななりすまし詐欺です。
IPAの「情報セキュリティ10大脅威 2026」において「AIの利用をめぐるサイバーリスク」が3位に初選出されたことからもわかるように、もはやどの企業にとっても他人事ではありません。

これからの時代に必要なのは、お互いを疑うことではなく、「どんなに本人らしく見えても、重要な指示は正規の確認フローを必ず通す」という組織としてのルール作りです。

自社のセキュリティ対策や承認フローが「過去の常識」のままになっていないか、ぜひこの機会に見直してみてはいかがでしょうか。

本件のお問い合わせ

本件につきましては、お問い合わせフォームまたは下記までお問い合わせください。
TEL：03-6380-8261
Email:sales_team@tohmatsu.co.jp