Hugging Faceをはじめとする主要なAIリポジトリで相次いで明らかになった脆弱性は、サイバーセキュリティに関わる私たちすべてに対する重大な警鐘です。エージェンティックな未来へと加速していく今、イノベーションを支えるはずのプラットフォームそのものが、組織全体を揺るがすシステミックリスクの主要な侵入経路になりつつあります。
シャドーITからシャドーAIへ
CISOはこれまで長年にわたり、シャドーITとの戦いを続けてきました。そして今、私たちはさらに厄介な相手に直面しています。それが「シャドーAI」です。これは、従業員が業務効率を高めようとするあまり、悪意なく会社が許可していない一般向けのAIツールや、十分に検証されていないオープンソースモデルを使ってしまうことを指します。その結果、組織の機密情報や信頼を、本人も気づかないうちに危険にさらしてしまうのです。
今回のHugging Faceの事例は、AIサプライチェーンがいかに脆いかを浮き彫りにしました。リポジトリからモデルを取得するとき、私たちは単にコードを取り込んでいるわけではありません。実際に取り込んでいるのは、中身の見えないブラックボックス化されたロジックです。これはプロンプトインジェクションやデータポイズニングによって悪用されるおそれがあり、さらには完全に自律化されたランサムウェア攻撃に組み込まれる可能性さえあります。
高まるエージェンティックリスク
私たちは今、単純なチャットボットの段階を超え、取引の実行や意思決定を自律的に行える「AIエージェント」へと移行しつつあります。こうしたエージェンティックな進化は、レジリエンスやイノベーションをもたらす一方で、ガバナンス上の大きな空白地帯も生み出しています。
最近の調査では、AIガバナンスに関する規定を整備できている企業は半数にも満たないことが明らかになっています。こうした監督体制の欠如こそが、たった一つのモデルリポジトリの脆弱性を、組織全体へと波及させてしまう原因なのです。
さらに、すでにAIエージェントを本番環境に導入した企業でさえ、その挙動に不安を抱えています。実際、ディレクター職以上のテクノロジー分野の意思決定者のうち、自社のAIエージェントの動作を信頼していると答えたのは、世界全体でわずか34%にとどまっています。
「ヒューマン・イン・ザ・ループ」のロードマップを描く
この新たな領域を守るためには、技術的なパッチを当てるだけでは不十分です。求められるのは、ヒューマンリスクの管理方法そのものを根本から見直すことです。
- 人を起点とした審査：すべてのAIモデルやベンダーについて、導入前に専門家によるレビューを義務づける、人主導の評価プロセスを確立します。これにより、あらゆる連携が監督のもとで意図的に承認された状態を担保します。
- 継続的な監督：重要な意思決定の場面で人間の介在を必須とする「ヒューマン・イン・ザ・ループ」の仕組みを導入します。これにより、自律型エージェントが常に組織の定めた範囲内で動作し、監督のない状態で暴走することを防ぎます。
- 従業員の力を引き出すセキュリティ：セキュリティトレーニングを進化させ、従業員が脅威を見抜くだけでなく、自らが管理するAIエージェントを能動的に監視できるようにします。受け身の利用者から、組織の安全を担う頼れる存在へと変わってもらうのです。
進むべき道は？
目指すべきは、エージェントの利用を抑え込むことではなく、安全を保ちながらその力を最大限に引き出すことです。私たちは「制御されていないAI」という状態から脱却し、リスク評価と安全な実装に基づく実践的なロードマップへと歩みを進めなければなりません。
私は最近の講演で、聴衆に向けて「EEG」というシンプルなフレームワークを紹介しています。これは、Embrace（受け入れる）、Educate（教育する）、Govern（統治する）の3つの頭文字を取ったものです。
- Embrace（受け入れる）：イノベーションを抑え込むのではなく、後押ししましょう。自社の環境内で稼働しているAIエージェントを棚卸しし、評価できるツールを取り入れることが第一歩です。
- Educate（教育する）：これからは、従業員にフィッシングを見抜く訓練を施すだけでなく、その従業員が日々やり取りするデジタルエージェントがもたらすリスクをどう管理するかへと、焦点を移す必要があります。ユーザーが直面する現実の脅威に合わせて適応する、AIネイティブなセキュリティ意識向上トレーニングを活用しましょう。
- Govern（統治する）：審査は決して省略できません。「既製品（off-the-shelf）」のAIを業務フローに組み込む前に、ベンダーとモデルに対する厳格な審査プロセスを必ず確立してください。エージェントリスクマネージャーを活用すれば、AIエージェントの挙動をリアルタイムで把握するために必要な可視性を確保でき、「ヒューマン・イン・ザ・ループ」のガードレールを常に機能させることができます。
こうしたエージェンティックリスクを管理するためのツールは着実に進化しています。もはや問うべきは、「自社のチームがこうしたツールを使っているかどうか」ではありません。「そのツールがもたらすリスクを、どう管理していくか」なのです。
メールセキュリティ、セキュリティ意識向上トレーニング、そしてAIエージェントの防御戦略を一つに統合することで、従業員を「脆弱性」ではなく「組織の資産」であり続けさせることができるのです。
原典：Kawin Boonyapredee著 2026年7月24日発信 https://blog.knowbe4.com/open-source-paradox-ai-supply-chain-risk