ディープフェイクはもはやSFスリラーのネタではなく、現実のものとなり、しかも非常に精巧です。有名人からのお薦めやリアルタイムでのなりすましにも利用され、現在のディープフェイクテクノロジーは以前のように簡単に見破ることができなくなっています。
脅威を理解する
ディープフェイクは誰かの顔や声、もしくはその両方を本物のように置き換えたり操作したりする合成メディア（シンセティックメディア）です。ディープフェイクは、詐欺、偽情報、不正に頻繁に利用されます。例えば、詐欺師はディープフェイクを使ってビデオ電話で経営幹部になりすましたり、有名人を騙って商品を勧めたりします。
DeepFaceLab/DeepFaceLiveやDeep Live Camといったディープフェイクの背後にあるソフトウェアテクノロジーによって、ディープフェイク作成がこれまで以上に容易になりました。これらのツールが簡単に利用できるようになったことで創造的かつ教育的な用途での利用が可能になった一方、悪意のある目的のために使うことも容易になりました。サイバー犯罪者や詐欺師は、これらのツールを研究し使いこなすための動機と時間を十分に持っていますが、レッドチームやセキュリティ意識向上の専門家は、限られた時間とリソースで常に手一杯の状態にあります。
そのため、私はレッドチームやセキュリティ意識向上の専門家が最新のテクノロジー、テクニック、検出方法に関する情報を簡単に得られるように、YouTubeの動画シリーズを作成しました。本ブログ執筆時点で、「The Defenders Guide to Understanding, Creating, and Detecting Deepfakes」（防御側がディープフェイクを理解、作成、検出するためのガイド）というタイトルで3本の動画を公開しています。このシリーズには以下の動画が含まれます。
最新の動画「Deepfake SECRETS EXPOSED: Outsmart AI Deception with These Tricks!（ディープフェイクの秘密を暴く：AIによる欺瞞を見破る方法！）」では、現在のディープフェイクに存在する奇妙な点やよく指摘される問題を取り上げています。本ブログではその内容を紹介します。
ディープフェイクに共通する警戒すべきサイン
ディープフェイクテクノロジーは日々進化しています。ディープフェイクと明示されていないからといって、それがディープフェイクでないとは限りません。しかし、現在最も一般的に使用されているディープフェイク作成プログラムには、いくつかの問題点があります。これらの注意すべき点を、動画のスクリーンショットを含めて説明します。
１．視覚的な不自然さ
横顔の貼付けの問題：多くのディープフェイクでは、被写体が横を向いたときに顔の整合性を保つことが課題です。顔の輪郭の歪みや不自然に合成されていないかを確認してください。
図1：横顔の貼付けの問題に注目。これらの問題は時間の経過とともに解消されるでしょうが、まだいくつかのディープフェイクソフトウェアでは問題として残っています。
境界線のずれ：被写体の周囲、特に文字や標識の近くにデジタルノイズや、一部の目立つ特徴に引きずられて周囲が歪んでしまうハロー効果がないかを確認してください。
図2：背後の不自然な側面を指摘しているニコラス・ケイジになった私。他のほとんどの部分がクリアでピントが合っていることに注目。
顔を隠す処理の問題：手や物体が顔の前を通過する際に、下にある画像が残像として現れたり、顔の前にある物体が透けて顔が見えたりする場合があります。
図3：手で顔を覆っているにもかかわらず、透けて顔が見えていることに注目。
２．特徴の欠落や矛盾：使用するソフトウェアによっては、ほくろ、傷跡、化粧など顔の特徴が変化したり、矛盾したりすることがあります。
舌がない：多くのディープフェイクは、被写体が口を開けたときに舌を表現できません。
図4：多くのディープフェイクは、被写体が口を開けたときに舌を表現できない。
図5：舌の表現の問題に関する別の例
ひげや化粧の不一致：特に単一画像を使用するディープフェイクソフトウェアでは、ひげや濃い化粧が透けて見えたり消えたりすることがあります。これは、主に顔のトポロジーをマッピングして解析し、その形や構造を3Dモデルとして再現することに重点を置いているため、顔の表面的な要素が十分な処理されないからです。
図6：極端な例。ホアキン・フェニックスが演じた「ジョーカー」のディープフェイクを作ろうとしたが…化粧のないホアキン・フェニックスになった。
３．不自然な動き
４．音声とリップシンクの不一致
リアルタイム検出のヒント
ビデオ通話は、被写体とリアルタイムでやり取りし、質問を投げかけることができるため、ディープフェイク検出にとって絶好の機会です。いくつかの不自然さは通常のビデオ会議の問題として捉えられるかもしれませんが、複数の危険信号が組み合わさっていれば疑いを持つ必要があります。試すべきテスト内容を以下に紹介します。
重要な問い
人間の目や耳だけの判断では信頼できないことが存在する世界において、コンテンツを評価するためのフレームワークを以下に示します。
図7：自分自身に投げかけるべき重要な問い
実践的な防御戦略
効果的な防御戦略を実行するには、技術的な認識と実践的な行動の組み合わせが必要です。
ビデオ電話
おわりに
ディープフェイクテクノロジーが進化するにつれ、従来の視覚的な検出方法は次第に効果を失いつつあります。デジタルメディア認証の未来は、強力なクリティカルシンキングスキルを身につけ、デジタルコンテンツに対する健全な懐疑心を維持することです。すべてのディープフェイクを見抜こうとするのではなく、ディープフェイクが使われている文脈、動機、潜在的な操作の可能性を理解することに重点を置いてください。
こうしたスキルを身につけることは偏執的になることではありません。デジタルレジリエンスを養うことです。ディープフェイクの能力と限界を理解することで、オンラインコミュニケーションのメリットを享受しながら、デジタル詐欺から自分自身と他人を守ることができます。
ディープフェイク、偽情報、AIによる欺瞞であふれる世界で生きる方法について詳細を知りたい方は、私の最新書籍「FAIK」とYouTubeチャンネルをご覧ください。
最後的な提言
AIDAはヒューマンリスクを大幅に低減し、セキュリティ運用の効率化を図ることで、組織全体に強固なセキュリティ文化を根付かせます。
AIDAの詳細はこちらをご覧ください。
原典：Perry Carpenter著 2025年1月28日発信 https://blog.knowbe4.com/tips-for-detecting-real-time-deepfakes-a-guide-to-staying-one-step-ahead