少し前までは、フィッシングメールやサイバー攻撃には「わかりやすいサイン」がありました。例えば、不自然な文法、スペルミスだらけのリンク、見るからに怪しい添付ファイルなど。どれも「これはフィッシングです」と自分から白状しているようなものでした。
ところが、AIの登場がすべてを変えてしまいました。稚拙な誤字は、完璧な文章へと置き換わりました。使い回されていた、わかりやすい誘い文句は、社内で実際に使われている言い回しを真似て、進行中のプロジェクトのスケジュールにまで合わせてくる、高度にパーソナライズされた攻撃へと進化しています。しかもこうした攻撃は、見たこともない規模で一斉に展開され、こちらが少しでも反応すればリアルタイムで手口を変えてきます。
脅威が絶え間なく続く中、防御だけが単発でいいはずがありません。年に一度のセキュリティ意識向上トレーニングは時代遅れです。今、組織に求められているのは、ライブコーチングへの移行です。つまり、従業員がリスクの高い判断を下そうとしている、その瞬間にリアルタイムでそっと導いてくれる仕組みです。
人とAIが混在する職場
組織で働いているのは、もう人間だけではありません。人間とAIエージェントが複雑に入り混じり、APIやSaaS連携が全体をかろうじてつなぎ止めています。
こうしたAIエージェントは、驚くほど頼りになります。コードを書き、スケジュールを管理し、顧客とのやり取りまでこなしてくれます。しかしその一方で、彼らには脆弱性もあります。攻撃者にとって、標的は必ずしも人間である必要はありません。エージェントを騙せば、機密情報を共有させることも、重要なファイルを上書きさせることもできてしまいます。
しかし、担当部署がこれを一律に禁止しても、問題は解決しません。従業員は、仕事を片付けるために必要なツールを、結局どこかで見つけて使うからです。こうして、許可されていないツールが水面下で使われる「シャドーAI」が生まれます。本当のリスクは、この隠れた領域にこそ潜んでいます。
AIが攻撃にもたらす影響
AIがサイバー攻撃に利用されると、実際に何が変わるのでしょうか。変わるのは主に2つ、精度とスピードです。
- 内容より文脈：攻撃者は今や、ごく普通の業務連絡にしか見えないメッセージを、一人ひとりに合わせて何千通も生成できます。危険信号は、もはやスペルミスではありません。現在フィッシングメールは、進行中のやり取りの途中に割り込み、いかにもありそうな「ちょっとしたお願い」を持ちかけてきます。こうした環境では、文面そのものをチェックすること以上に、その文脈を読み解くことが重要になります。
- マルチチャネルでの対話：最近の攻撃は一通きりのメールでは終わりません。攻撃はメールから始まり、チャットアプリへと移行し、本人確認と称したビデオ通話まで進むこともあります。
適切なコントロールを設定する
高まり続けるリスクに立ち向かうには、必要なその瞬間に、的確な助言を差し出してくれる仕組みが欠かせません。
たとえば、危険な行動を次のような一言で押しとどめてくれるシステムを想像してみてください。「この添付ファイルは見慣れない差出人からのものです。念のため担当部署に送って確認しますか？」あるいは「振込先の情報が変更されています。別の連絡手段で確認してください」。こうした仕組みがあれば、企業は効率と安全を両立できます。
同時に、私たちはAIエージェントに対しても、人間に求めるのと同じ厳格さでガバナンスを効かせる必要があります。
- 認証とアクセス権：エージェントには、固有かつ定期的に更新される認証情報を割り当てる。
- 最小権限：付与する権限を限定する。
- 人が最終確認：エージェントがリスクの高いタスク（送金や権限変更など）を実行しようとする場合は、人による承認を必須とする。
- ログの記録：すべてを記録に残す。もしボットがミスを犯したなら、「なぜそのアクションが妥当だと判断したのか」を後から追跡できる手がかりが必要です。
「罰しない」文化を育てる
突き詰めれば、最も強力な防御は組織の文化です。もし自社のセキュリティ運用が罰に依存しているなら、従業員は自らのミスを隠すようになります。叱責を恐れる人は、手遅れになるまで不審なリンクを報告してくれません。
私たちが報いるべきは、透明性です。ヒヤリハットを称え、いちばん安全な選択が、いちばん簡単な選択になるようにしましょう。ルールの背後にある「なぜ」を伝えれば、人はそのルールに従いやすくなります。
AIが介在する世界では、スレッドハイジャック（進行中のやり取りへの割り込み）が見抜かれるのは、誰かがタイミングやトーンのわずかな違和感に気づいたときです。こうした、要所で発揮される「一歩立ち止まって考える力」こそが、組織を守ります。
業務の流れに溶け込ませる
AIは、サイバー脅威をより速く、より高度なものにしました。対抗策は、セキュリティを実際の業務の流れそのものに組み込むことです。
人とAIが混在する職場は、人間の直感と機械のスピードが融合したハイブリッドな環境です。安全を守るためには、そのチーム全体を一つのものとして守り抜かなければなりません。
原典：Javvad Malik著 2026年7月22日発信 https://blog.knowbe4.com/new-face-of-ai-risk