AIがフィッシングサイトを検索結果に表示？新たな落とし穴に注意

Netcraftのリサーチャーは、正規のログインページを検索しているユーザーに対して、AIがフィッシングサイトを提示するケースが確認されていると警告しています。

同社は、いくつかの人気AIモデルでテストを実施し、50の大手ブランドのログインページを求めました。その結果、34%の確率で誤ったサイトが提示されたことが明らかになりました。

リサーチャーは次のように説明しています。「ユーザーは従来の検索結果より先に、あるいはそれらを介さずに、AIによって生成されたコンテンツを見る傾向が増えています。」

「この変化は、ユーザーがWebとどう関わるかという点において、大きな転換である同時に、新たなリスクも生じます。AIによりフィッシングリンクや詐欺サイトが提示されると、ユーザーはその内容を信じ、リンクをクリックしてしまう可能性が高くなります。すでにこのようにAIを使った攻撃の事例も出ていますが、今後さらに大規模な被害が出ることが懸念されます。」

中には、Wells Fargoのログインページを装った明らかに悪意あるサイトが表示されるケースも確認されています。

リサーチャーはこの攻撃に関して、次のように述べています。「ページ自体も高度にブランドを模倣していますが、問題の本質はそこではありません。この偽装されたページがユーザーへ表示された理由が、検索エンジンではなく、AIの回答として提示された点にあります。」

「この事例では、Perplexityがリンクをユーザーに提示しました。従来であれば、ドメインの信頼性やレピュテーションといった要素が検索結果に反映されていましたが、このケースではそれが無視されていました。AIが生成する回答には、ドメインやプレビューなどの判断材料が排除されており、ユーザーは回答そのものを信用することが習慣になってしまいます。その結果、AIの回答が誤っていた場合、攻撃者はその信頼を逆手に取ってユーザーを騙すことができます。」

Netcraftは、AIが提示する内容が、フィッシングリンクをユーザーに届けるための新たな手段となっていると警告しています。

KnowBe4のセキュリティ意識向上トレーニングは、従業員のセキュリティ意識を高め、日々求められるセキュリティ上の判断に従業員一人ひとりが的確な意志決定を下すことを可能にします。世界の7万社を超える企業や団体がKnowBe4を採用して、防御の最終ラインとして「人」による防御壁を構築して、セキュリティ文化の形成につなげています。

詳細については、Netcraftの記事を参照してください。