AIは驚異的なスピードで進化していますが、特にセキュリティに関しては深刻な懸念が生じています。最近注目を集めているAIは、中国のスタートアップ企業「DeepSeek」がリリースしたAIで、コストパフォーマンスに優れたモデルを提供し、業界に大きな変革をもたらしていますが、一方で、サイバーセキュリティの専門家は警鐘を鳴らしています。
しかし、問題点も浮上しています。DeepSeekのアウトプットにはバイアスがかかっており、中国共産党を支持する傾向が見られます。場合によっては、人権のようなセンシティブなテーマを扱うことを完全に拒否することもあります。
これは大きな危険信号です。DeepSeekのようなオープンソースAIツールは、単なる生産性向上のためだけではなく、ソーシャルエンジニアリングに悪用される危険性も秘めています。DeepSeekのインフラは軽量であり、誤った情報を拡散したり、フィッシング攻撃を大規模に実行したりするために悪用される可能性があります。個別に最適化されたプロパガンダや詐欺メールが、ほとんどコストをかけずに数秒で生成され、最もテクノロジーに精通したユーザーでさえ騙すことができる世界を想像してみてください。これは未来のシナリオではなく、今日私たちが直面しているリスクです。
DeepSeekの急速な成長はAI投資家の不安を招き、それに伴いAI関連株が下落しました。2023年初めからNASDAQ 100指数を14兆ドル以上増加させた市場において、これは注目に値する現象です。DeepSeekの効率性は驚異的ですが、それがどのように実現されたかはひとまず置いておくとして、AIが悪用されるリスクを警戒することの重要性を改めて示しています。
結論として、DeepSeekはAIが諸刃の剣であることを示しています。これは、より高速で低コスト、かつ手軽に使えるAIの未来の一端を見せていますが、一方で、その危険性に警鐘を鳴らしています。これらのツールが進化する中で、サイバー攻撃者の手口も進化しています。先手を取るためには、AIでAIに対抗する必要があります。
原典：Stu Sjouwerman著 2025年1月28日発信 https://blog.knowbe4.com/eye-opener-is-deepseek-the-next-threat-in-social-engineering