3月6日、私は米国証券取引委員会（以下SEC）の個人投資家に対する詐欺に関するパネルディスカッションにて、スピーカーおよび証言者として登壇する機会をいただきました。AIがいかに金融詐欺を加速させているかをメインテーマとした、非常に重要な議論でした。また、奇しくも、3月6日は “National Slam the Scam Day”（詐欺撲滅の日）でもあり、偶然ながらもぴったりなタイミングでした。
AIの急速な成長により、誰もがディープフェイクおよび合成音声を利用して、パーソナライズされた詐欺が簡単に行えるような時代になりました。サイバー犯罪者による大規模な攻撃がかつてないほど容易になっています。そのため、私はこのセッションで、リスクをリアルタイムで見せ、具体的な対策を提案することを目的としました。
このセッションには、さまざまな分野の専門家が集まり、AIを活用した詐欺の現状と、その抑制に向けた戦略について包括的なディスカッションが行われました。私たちは共に、行動の必要性を訴える強力な意見を発信しました。
パネルについて
私が参加したパネルは、Andrea Seidt氏（オハイオ州Security Commissioner兼SEC Investor as Owner Subcommittee）の司会のもと、金融詐欺において多角的な専門知識を持つ登壇者が集まりました。各スピーカーの興味深いセッションにより、進化する脅威についての理解が深まり、持続的な対抗策の構築につながる有意義な時間となりました。
私に加え、以下の登壇者が参加しました：
Erin West氏 - サンタ・クララ郡元地方検事であり、暗号資産関連の詐欺対策の第一人者でもあるWest氏により、”Pig Butchering”（豚の屠殺詐欺）と呼ばれる巧妙な詐欺の現状を紹介していただきました。また、West氏は、”educate, seize, disrupt”（教育、対抗、妨害）という3本柱で被害者の保護と資金回収に取り組む、Operation Shamrockの創設者でもあります。
David Maimon博士 - ジョージア州立大学犯罪学・刑事司法学部の教授であり、SentiLink社のFraud Insights責任者でもあるMaimon博士により、オンラインエコシステムにおける詐欺師の手口について重要な知見を共有いただきました。Maimon博士が率いるEvidence-Based Cybersecurity Research Groupは、Telegramやダークウェブ上で犯罪者たちが情報やツールを共有する実態を明らかにしており、ディープフェイクを用いた認証回避や “FraudGPT” のような犯罪専用のAIツールの存在も明らかにしています。
Claire McHenry氏 - ネブラスカ州Department of Banking and Finance Securities BureauのDeputy DirectorであるClaire McHenry氏には、全米の個人投資家に影響を与えている詐欺に関するデータを共有していただきました。NASAA（全米証券管理者協会）の2024年執行報告をもとに、インターネット、SNS、デジタル資産に関連する詐欺の調査件数が30％増加していることを紹介し、暗号資産詐欺、AIウォッシング、豚の屠殺詐欺などは、高齢者を特に狙っている点を強調しました。McHenry氏は、NASAA前会長および シニア議会の共同議長として、政府全体の取り組みと官民連携の強化を提言しました。
このように、我々のパネルセッションはAIを使った詐欺の技術的な仕組みから、対処するための枠組みに至るまで、脅威の全体像について議論しました。技術、法律、規制など、業界全体の視点を融合させたこのアプローチこそが、私が証言で述べた “Exploitation Zone” に対抗するために必要な協力体制です。以下、私がSECに対して行った主張の要点を紹介いたします。
私がSECに伝えたこと：詐欺の新しい側面
私のプレゼンテーションは次のような厳しい現実から始まりました。「我々は新たな詐欺の時代に突入しています。この時代では、大きな予算も、高度なハッキングスキルも必要ありません。AIはスキルの壁を消し去ったのです。」そして次に、 “Exploitation Zone” という概念を紹介しました。
Exploitation Zoneとは、技術の進歩と、それを防御する我々の能力との間に広がるギャップを指します。AIが進化すればするほど、このギャップは広がり、詐欺師の優位性が拡大するのです。
自身のプレゼンテーションを見直して、自分でも印象的だった一文があります。「何が可能かを知らない人々は、根本的に詐欺に対して無防備である。」
ライブデモ：AI詐欺の実演
私は、単にAI詐欺の話をするだけでなく、実際にその手口を披露しました。
- 完全自動化された生成AIベースの音声詐欺ボット
- AI生成音声によって信頼できる人物を装う手口
- 金融専門家や著名人による虚偽の推薦をAIで容易に生成する手法
- 誰にでもなりすますことが可能になる、リアルタイムのディープフェイク映像ソフトウェア
私はこれらを実演することにより、これは未来の話ではなく、「今」起きている現実だということを示しました。
今後必要な取り組み
SECはすでに以下のような取り組みを始めています：
- AI主導の金融詐欺対策のための Cyber and Emerging Technologies Unit（CETU）の設立
- 金融開示でAIの能力を誇張する、AI-washingへの監視強化
- 意思決定におけるAI活用に関連した利益相反に対する規制案の提示
しかし、さらなる対策が必要です。私は証言の中で、以下の3つの重点分野を提案しました：
- AI詐欺対策タスクフォースの拡充：CETU内にAI詐欺に特化したリソースを配置し、積極的に対応すること
- AIの透明性と認証の強化：ウォーターマーキング、電子署名、出所追跡などにより、AI生成コンテンツの検証をより容易にすること
- AI特化型の詐欺検出の義務化：金融機関がディープフェイク検出、行動異常検知、多要素認証などを高リスク取引に必ず導入すること
最後に：Exploitation Zoneはなくならない、ただ制御することは可能
一つだけ確かなことがあります。AIを活用した詐欺を完全に消し去ることはできません。しかし、それに対して私たちは決して無力ではありません。対策するには、以下の取り組みが鍵となります。
- 教育が鍵：個人、企業、規制当局がAI詐欺に常に先手を打つ必要がある
- 技術的対策が不可欠：AI生成コンテンツは追跡可能で検証可能であるべき
- 規制の適応が必要：SECや金融機関は、AI詐欺が制御不能になる前に行動を起こす必要がある
AI主導の詐欺は、我々にとって単なる技術的な問題ではなく、信頼の危機です。National Slam the Scam Dayに、このような議論ができたことは非常に意義深いものでした。セッションの動画はこちらからご覧いただけます。私の登壇部分は1時間17分あたりから始まりますが、他の登壇者の話も非常に有益なので、ぜひ全編をご覧ください。
原典：Perry Carpenter著 2025年4月10日発信 https://blog.knowbe4.com/seeing-and-hearing-isnt-believing-my-sec-presentation-on-ai-driven-scams