名前は「Kawaii」でも中身は凶悪？WormGPT 4とKawaiiGPTがもたらすAI脅威

Palo Alto Networksの脅威インテリジェンスチームであるUnit 42によると、WormGPT 4とKawaiiGPTという2つの新しい悪意のあるAIツールが確認されており、攻撃者がフィッシングメールの作成やランサムウェアコードの生成に利用しているとしています。

これらはChatGPTのような広く使われているAIツールのブラックマーケット版ともいえる存在で、悪用を防ぐためのガードレールが設けられていません。最新のWormGPT 4は、無期限利用が220ドル、月額50ドルのサブスクリプションでも提供されています。

Unit 42は次のように説明しています。「WormGPT 4の言語機能は、説得力のあるテキストを生成するだけではありません。従来のフィッシングメールでよく見られた文法ミスや不自然な表現といった“違和感”を取り除くことで、CEOや信頼されたベンダーになりすましたメッセージをより本物らしく見せることができます。」

「この機能により、高度なスキルを持たない攻撃者でも、洗練されたキャンペーンを展開しやすくなり、メールセキュリティゲートウェイ（SEG）の自動フィルタリングや人の目によるチェックの両方をすり抜けやすくなります。WormGPT 4は、無料で出回る信頼性の低い簡易ジェイルブレイクとは異なり、サブスクリプション型の商用サービスとして提供されています。シンプルな操作画面と比較的手頃な料金設定により、利用を始めるハードルが下がっています。」

KawaiiGPTも同様の機能を備えていますが、GitHub上で完全に無料公開されている点が異なります。Linux環境で簡単にセットアップでき、攻撃を支援するツールとしてすぐに利用できるとされています。

Unit 42は次のように説明しています。「KawaiiGPTは、自前の大規模言語モデル（LLM）を用意して構築・運用する際に発生する技術的なハードルを大きく下げます。導入のしやすさと、すぐに使えるコマンドラインインターフェース（CLI）によって、必要とされるスキルや経験の水準が下がり、利用者が増えるおそれがあります。その中には、これまで他の悪意のあるLLMを扱うための専門知識がなく、関与できなかったユーザーも含まれます。」

KnowBe4のセキュリティ意識向上トレーニングは、従業員のセキュリティ意識を高め、日々求められるセキュリティ上の判断に従業員一人ひとりが的確な意志決定を下すことを可能にします。世界の7万社を超える企業や団体がKnowBe4を採用して、防御の最終ラインとして「人」による防御壁を構築して、セキュリティ文化の形成につなげています。

詳細については、Unit 42の記事を参照してください。