生成AIソリューションがクラウドSaaSプラットフォームとして利用されるケースが増加しており、「GPT」のようなAIを利用する攻撃が増え、認証情報、支払情報、企業データが収集されるリスクが高まっています。
セキュリティ企業のNetskopeが公開した「Cloud and Threat Report 2024」（クラウドと脅威レポート2024年版）では、生成AIソリューションの利用が大幅に増加しており、2023年以前では、企業ユーザーはわずか2%強でしたが、昨年11月に10%を超えたことを明らかにしています。ChatGPT、Grammarly、Google BardのメジャーなAIサービスが、いずれも最も多く利用されています。
注目すべきは、その400%近い増加率です。
過去のブログでは、AIサービスでビジネス目的のために問い合わせの一部として使用されたデータを元のユーザー以外の第三者に漏洩する可能性があることを説明しました。昨年にKnowBe4はChatGPTがこの問題を引き起こしていることをレポートしていますが、同じ問題が規模が拡大して発生する可能性も考えられます。
また、サイバー犯罪者が、生成AIを使用して何か新たなスキームを考案したように装って、無防備なユーザーにこのサービスを「登録」させ、クレジットカード情報を詐取する可能性があることも別のブログでお伝えしました。生成AIの利用の拡大が、このような詐欺の増加を招き、組織が自社（およびそのデータ）の安全をさらに脅やかすことになる可能性は容易に想像できます。
従業員は、新しい便利なサービスを見つけては、それを利用しようとするものです。これらの従業員に、今回ご紹介した新しい詐欺に関する最新情報を提供することは重要です。そのために、新しいスタイルの先進的なセキュリティア意識向上トレーニングを組織のポリシーの一部に組み込んで、継続的に実施してみてください。
KnowBe4のセキュリティ意識向上トレーニングは、従業員のセキュリティ意識を高め、日々求められるセキュリティ上の判断に従業員一人ひとりが的確な意志決定を下すことを可能にします。世界の6万5千社を超える企業や団体がKnowBe4を採用して、防御の最終ラインとして「人」による防御壁を構築して、セキュリティカルチャーの醸成につなげています。
原典：Stu Sjouwerman著 2024年1月24日発信 https://blog.knowbe4.com/use-of-ai-apps-jumps-400-in-2023-signaling-more-ai-themed-attacks
