ディープフェイクとは？

ディープフェイクとは、「ディープラーニング」と「フェイク」を組み合わせた造語で、AI（人工知能）を用いて、人物の動画や音声を人工的に合成する処理技術を指します。もともとは映画製作など、エンターテインメントの現場での作業効率化を目的に開発されたものです。しかし、あまりにリアルで高精細であることから、悪用されるケースが増えたことで、昨今ではフェイク（ニセ）動画の代名詞になりつつあります。著名人のなりすましの事例では、2021年にSNSで拡散された世界的にヒットしたハリウッド映画の主演俳優のディープフェイク動画が有名です。実際にはモノマネタレントと俳優の顔を差し替えた動画ですが、その精巧な仕上がりが話題になりました。

ディープフェイクにおけるセキュリティリスク

AI技術の進化に伴い、高度なディープフェイク動画の制作が可能になったことから、ディープフェイクを巧妙な騙しの手口として悪用する犯罪が増えています。企業が被害に遇うケースも増えており、なりすましによる金銭的被害や、情報セキュリティへの攻撃が行われるケースが欧米を中心に報告されています。ディープフェイクは映像だけでなく音声も偽装可能です。企業の経営者などになりすまし、実際には言っていないことを言わせることも可能。2019年には、ある海外企業のCEOの声があまりにも似ていたため、部下が騙され、約2600万円を詐取される被害が起きました。被害金額の大きさも相まって、ディープフェイクの脅威が広く報道されました。

BECにディープフェイクが使われる可能性も

昨今、コロナ禍の長期化でテレワークが普及したことにより、対面からメール等のオンラインにシフトしてきました。これらの時流に乗じて、ディープフェイク技術を悪用した「ビジネスメール詐欺（Business Email Compromise、BEC）」も拡大しています。

BEC（ビジネスメール詐欺）とは

BECとは、Business Email Compromiseの略で、ビジネスメール詐欺のことです。企業の取引先や経営者になりすまし、従業員などをだまして送金させる行為であり、日本も含めて世界中の企業が被害を受けています。

BECの手口

BECの手口は、主に次の2つに分類されます。

1つ目は、「取引先からの請求書を偽装する行為」で、攻撃者は請求に関するメールのやり取りを盗み見て、偽の電子メールを送り付けるなどして、従業員を騙し、攻撃者の用意した口座へ送金させる手口です。

2つ目は、「経営者などになりすます行為」です。彼らのメールアドレスを使って本人になりすまし、従業員に偽のメールを送って振り込みをさせる手口です。これらは企業の資金を管理する財務や、経理の担当者が狙われる傾向にあり、ディープフェイク技術を使って本人の声を真似て電話をかけてくるなど、ますます巧妙化しています。

BECへの対策

BEC対策としては、従業員への教育が最も有効です。不審なメールはむやみに開封しないこと。添付ファイルを開いたり、リンク先を閲覧せず、社内で相談・共有すること。そしてチェック体制の強化も重要です。取引先から振込先や、決済手段の変更などの申し出があった場合には、メール以外の方法で二重に確認することが大切です。なりすましを防止するには、セキュリティソフトは最新の状態にしたうえで、メールを乗っ取られないようにメールアカウントには複雑なパスワードを設定することをおすすめします。また、多要素認証やアクセス制限の導入も有効です。なりすましが起きづらい環境を構築するためには、全社的に情報セキュリティ対策の見直しが必要です。

ディープフェイクを悪用した犯罪は最近の攻撃手法ではありますが、知人になりすまして信じ込ませるという人間の心の隙や、油断を突くアナログな面があります。少しでも違和感を覚えた場合は、本人に直接確認を取るのが確実です。

その社長は本物ですか？ “なりすまし”で億単位の金銭を奪う「BEC」

情報セキュリティ対策の見直しを

AI技術の発達により、ディープフェイクを悪用した犯罪は、日増しに精巧になっていくものと想定されます。また、攻撃対象は政治家やハリウッド俳優などの著名人に限らず、企業が被害に遭うケースも増えているのが現状です。年々複雑化・巧妙化するサイバー攻撃には、自社の情報セキュリティ対策のアップデートを常に最新にしておくことが大切です。