犯罪者向けのChatGPT？フィッシングメールやランサムウェアを即座に生成するAIとは

Certoのリサーチャーは、AIチャットボット「Venice[.]ai」がサイバー犯罪者に悪用されるリスクを警告しています。このツールは月額わずか18ドルで利用でき、サイバー犯罪者が集まるフォーラムで急速に人気を集めています。

Certoは次のように説明しています。「Venice[.]aiと、ChatGPTのような主流のAIシステムとの大きな違いの一つは、有害または悪意のあるリクエストへの対応です。ChatGPTは通常、OpenAIの利用規約や倫理的配慮を理由にこのようなリクエストを拒否しますが、Venice.aiはまったく異なるアプローチを取っています。Certoがテストした結果、Veniceは悪意ある出力をためらうことなく生成するように設計されているように見受けられました。」

実際、Certoが行ったテストでは、Veniceは被害者に気付かれにくい、思わず信じてしまうフィッシングメールを生成しました。

リサーチャーは次のように述べています。「あるテストでは、Venice[.]aiに、誰かを騙して不正なリンクをクリックさせたり、偽の請求書を支払わせたりするような、信憑性の高いフィッシングメールの作成を依頼しました。すると数秒で、慎重なユーザーでさえ騙されかねない、洗練されたメール文面が生成されました。そのメールは正規の銀行通知を装った文体と書式で、不自然な言い回しや文法ミスも一切ありません。攻撃者は今後、AIが生成する文面にフィッシングリンクを挿入して送信するだけで済むようになります。」

さらに、リサーチャーがVeniceにPythonでのランサムウェア作成を依頼したところ、すぐにそのコードが生成されました。

リサーチャーは次のように説明しています。「このツールは、指定されたフォルダ内のすべてのファイルを自動で暗号化するプログラムを生成し、さらに被害者に暗号通貨での支払いを求めるランサムノートまで出力しました。実質的に、Venice[.]aiは機能する暗号化コード付きのランサムウェアの設計図を提供したことになります。犯罪者が少し手を加えるだけで、現実の標的に対して展開可能な状態です。」

このようなAIを活用した攻撃の拡大を受け、Certoはユーザー教育の重要性を強調しています。

「AIによって強化された攻撃への対抗策として、ユーザーへの教育は極めて重要です。FBIなどの機関が警告しているように、異常なほど完成度の高いメッセージには十分な警戒が必要であり、メールの内容は必ず別のチャネルで確認するようにしましょう。また、各組織はAI関連の詐欺の兆候を含む内容に、研修内容をアップデートする必要があります。」

KnowBe4のセキュリティ意識向上トレーニングは、従業員のセキュリティ意識を高め、日々求められるセキュリティ上の判断に従業員一人ひとりが的確な意志決定を下すことを可能にします。世界の7万社を超える企業や団体がKnowBe4を採用して、防御の最終ラインとして「人」による防御壁を構築して、セキュリティ文化の形成につなげています。

詳細については、Certoの記事を参照してください。