ChatGPTのような生成AIを悪用してソーシャルエンジニアリング攻撃を仕掛けるサイバー攻撃者が増加していることを、Check Pointのリサーチャーが指摘しています。
Check Pointのリサーチャーは次のように述べています。「悪意のあるスパムは、サイバー犯罪者のためのアンダーグラウンドフォーラムで見られる最も古い違法なサービスの一つです。スパムは、フィッシングやクレデンシャルハーベスティング、マルウェア配信など、さまざまな攻撃シナリオの最初の起点として最も広く悪用されています。あるスパムサービスが、15年以上の犯罪歴がある、その界隈では名うてのサイバー攻撃者によって、2023年11月に開始されました。サービスに対するフィードバックが好評だったことから、この攻撃者は自分のスパムサービスを生成AI（ChatGPT）で強化しました。ChatGPTを使用することで、スパムのメッセージをランダム化することができ、スパムメールが被害者の受信ボックスに届く確率を高めることが可能になりました。このサービスの客、つまり別の犯罪者は、AIを活用したスパムサービスは一般的なスパムメール対策やフィッシング対策をすり抜けるのに役立ち、標的まで届く確率を70%にまで高めることに成功したと述べています。」
犯罪者はまた、KYC（Know Your Customer：顧客身元確認）の手続きを回避するためにも生成AIツールを使用しています。
Check Pointのリサーチャーは次のように述べています。「KYC は、正規の所有者がパスワードリセットなどの従来の方法を利用できない場合に、アカウントを復旧するために重要な役割を果たします。」
KYCでは通常、政府が発行する身分証明書、パスポート、運転免許証などの有効な証明書を提出し、書類と一緒に写真を提供するなどの検証手続きも実行されます。本人確認を通過するために偽造書類の画像を作成する怪しげなサービスもアンダーグラウンドマーケットでは提供されています。このようなサイバー犯罪ではこれまで、関連する画像を手動で操作していました。しかし現在、ダークウェブでKYCサービスを提供している組織は、最新のAIテクノロジーを組み込むことで、「高品質」な偽の本人確認書類の作成を大幅にスピードアップできると述べています。
KnowBe4のセキュリティ意識向上トレーニングは、従業員のセキュリティ意識を高め、日々求められるセキュリティ上の判断に従業員一人ひとりが的確な意志決定を下すことを可能にします。世界の6万5千社を超える企業や団体がKnowBe4を採用して、防御の最終ラインとして「人」による防御壁を構築して、セキュリティカルチャーの醸成につなげています。
調査については、Check Pointの記事を参照してください。
原典：Stu Sjouwerman著 2024年2月8日発信 https://blog.knowbe4.com/generative-ai-used-to-launch-phishing-attacks
