ChatGPTを悪用したなりすましと情報操作、北朝鮮と中国の関与が発覚

OpenAIは、AIを悪用した攻撃活動に関するレポートを公開し、脅威アクターがAIツールを使って、ソーシャルエンジニアリング攻撃や影響工作に活用している実態を明らかにしました。

同社は、米国企業への就職を不正に試みた北朝鮮関与のChatGPTアカウントを停止したと発表しています。

OpenAIは次のように説明しています。「OpenAIは次のように説明しています。「今年2月に観測したキャンペーンと同様に、応募から採用までの各段階にAIが使われている事例を確認し、これを阻止しました。以前のキャンペーンでは、AIを使って米国拠点の人物になりすまし、著名企業での架空の経歴を含むペルソナを手動で作成していました。今回はレジュメの自動生成を一部試みていたほか、アフリカのオペレーターが求職者を装い、北米の人物を勧誘して代わりにPCを操作させていた可能性も示されています。」

OpenAIはまた、中国を拠点とする可能性のある別の活動についても報告しています。この活動では、ChatGPTを使って偽のSNS投稿を生成し、情報収集を目的とした不正行為に利用されていました。

「当社は、小規模なChatGPTアカウントのネットワークを停止しました。これらのアカウントは、SNS投稿の生成、データ分析、中国語から英語へのメールやメッセージの翻訳などに当社のモデルを利用しており、ソーシャルエンジニアリングを目的とした内容も含まれていました。

アカウントは中国語でプロンプトを入力し、主に中国本土の営業時間中に活動していました。投稿は『Focus Lens News』『BrightWave Media Europe』『Visionary Advisory Group（VAG）』の従業員を装う内容で、ChatGPTによって生成された文面は、各団体に関連するXアカウントの投稿やプロフィールと一致していました。これらの団体は、脅威アクター自身が情報収集および分析を目的としたフロント組織だと説明していたことも確認されています。」

AIの進化に伴い、AIを活用した攻撃は今後さらに高度化していくと考えられます。KnowBe4のセキュリティ意識向上トレーニングは、従業員のセキュリティ意識を高め、日々求められるセキュリティ上の判断に従業員一人ひとりが的確な意志決定を下すことを可能にします。世界の7万社を超える企業や団体がKnowBe4を採用して、防御の最終ラインとして「人」による防御壁を構築して、セキュリティ文化の形成につなげています。

詳細については、OpenAIの記事を参照してください。