ESETの研究者は、AIツールになりすましてユーザーにマルウェアをインストールさせる悪意のある広告キャンペーンについて警告しています。例えば、情報窃取型マルウェア「Rilide」は、SoraやGeminiなどになりすまし、悪意のあるブラウザー拡張機能として配信されています。
ESETの研究者は、この新しいマルウェアについて次のように述べています。
「通常はFacebookに掲載されている、偽の生成AIサービスの広告をユーザーがクリックした場合に、悪意のあるブラウザ拡張機能が配信されます。この拡張機能はGoogle翻訳を装っていますが、おとりとして使用しているAIサービスの公式ウェブページを提供しています。おとりには、OpenAIのSoraやGoogleのGeminiが含まれています。2023年8月以降、ESETの観測では、この悪意のある拡張機能をインストールしようとする試みが4,000件以上記録されています。」
さらに、Vidarマルウェアは、画像生成AIであるMidjourneyの偽のインストーラーを通じて拡散しています。
ESETの研究者は、次のように解説しています。
「この悪意のあるインストーラーは、Facebookの広告、Telegramのグループ、ダークウェブフォーラムを通じて拡散しており、画像生成AIである「Midjourney」を提供すると謳いながら実際には情報窃取型マルウェアであるVidarを配信しています。このインストーラーは、実行時にJava実行環境（JRE）がシステムにインストールされていないことを検出すると、不足しているランタイムに関するエラーメッセージを表示し、公式のJavaダウンロードページを開き、インストーラーを実行するにはJavaが必要であると伝えてきます。JREがインストールされている場合は、Midjourneyを宣伝するスプラッシュ画面が表示されます。」
ESETの脅威検出部門ディレクターであるJiří Kropáč氏は、次のように注意喚起しています。
「生成AIモデルの開発には、悪用を防止するための安全対策が講じられてきましたが、サイバー犯罪者が生成AIを話題にして人を騙すことを止めることはできていません。2023年以降、生成AIの話題で釣る攻撃の多数は、情報窃取型マルウェアで、この傾向は今後も続くと予想されます。生成AIモデルを利用できると謳うリンクを無闇にクリックせず、必ず生成AIベンダーの公式Webサイトにアクセスするようにしてください。そして、情報窃取型マルウェアから身を守るために、デバイスに信頼できるセキュリティソリューションを導入してください。」
KnowBe4のセキュリティ意識向上トレーニングは、従業員の一人ひとりがセキュリティ上、正しい判断ができるようにお客様を支援しています。世界の6万5千社を超える企業や団体がKnowBe4のプラットフォームを採用して、人に起因するリスクの低減と強力なセキュリティカルチャー(文化)の形成につなげています。
詳細については、ESETの全文を参照してください。
原典：Stu Sjouwerman著 2024年7月1日発信 https://blog.knowbe4.com/malware-impersonates-ai-tools