私が投稿した2つのAIに関するブログでは、「エージェンティックAI」とそれがサイバーセキュリティに与える影響、そして悪意のあるエージェンティックAIマルウェアの登場について取り上げました。
これらの記事では、自動化されたエージェンティックAI防御のアイデアに触れる程度の説明をしました。この投稿では、エージェンティックAI防御の詳細についてもう少し説明します。
はじめに、エージェンティックAIの説明から入ります。エージェンティックAIとは、共通の目標に向かって働く自動化されたプログラム、つまり、ボットまたはエージェントの集合体です。エージェンティックAIは、40年以上前から存在する、混合専門家モデル（Mixture of Experts）として知られる機械学習の概念から派生しています。
単一のプラットフォームで多くのことを行う代わりに、より専門的で、得意なことに取り組むいくつかのプログラムを協力させ、専門家チームを作成します。
この仕組みを想像しやすくするために、家や建物の建て方に例えます。通常、家を建てる際、一人が全ての作業を行うことはありません。設計、測量、造園、基礎の作成、コンクリート打設、木造や鉄骨の枠組み構築、壁や屋根を設置する専門の人々がいます。さらに、電気、配管、乾式壁、床、塗装を行う、また別の人々がいます。全体を監督する責任者もいます。
このように、一人が全てを行うのに比べ、それぞれの専門家が集まり、お互いが目標のために協力するほうが成功の可能性が高まります。例外はもちろんありますが、社会のほとんどの組織はお互いのために協力する専門家の集まりで、それぞれが同じ目標に向かって仕事に取り組んでいます。
エージェンティックAIも同じ概念です。唯一の違いはチームが人ではなく、ソフトウェアコンポーネントで構成されています。現在、ほとんどのソフトウェアとサービスは、すべてをまとめて行おうとする、一つの中央プログラムで構成されています。そのプログラムをサポートするファイルが数十から数百あるかもしれませんが、それらはすべてそのプログラムの一部であり、単独では機能しません。これらのファイルは1つのポイントで起動しています。また、全体のプログラムの開始と停止に基づいて実行を開始し終了します。
今後のソフトウェアとサービスは、エージェンティックAIが欠かせない存在になるでしょう。建設業者のように、コンポーネントの一つ一つがそれぞれの専門家であり、単独で機能することができます。これらは、マネージャーのような存在（AI用語ではオーケストレーターエージェントと呼ばれます）からの注文を受け取り、共通の目標を達成するために働きます。
家の例に戻ると、私は壁の塗装ができますが、専門の業者は確実に私より速く、より上手に行うことができます。エージェンティックAIも同じです。それは従来のソフトウェアよりも速く、より優れたものを作るように設計されています。そして、それは従来のソフトウェアやサービスとは異なる新しい方法も誕生するでしょう。
私たちがソフトウェアプログラムやサービスを直接触る時間は今後かなり減ります。代わりに、ソフトウェアやサービスがいままで行っていたことを行うようになります。私たちは、タイプまたは口頭でプロンプトで指示し、エージェンティックAIがそれを実行します。これが私たちの未来の世界です。
私が家を建てるときも、私自身が直接建設に参加する必要はありません。私は業者に特定の指示や希望を伝え、彼らはそれを基に家の建設に取りかかります。私は必要に応じて途中で彼らからの質問に答える必要があるかもしれませんが、ほとんどの場合、私は、美しい家ができるのを想像しながら建設業者の方々の作業を見上げているだけで、家が完成します。エージェンティックAIも同じです。私たちが指示を与えた後、エージェンティックAIがほとんどの作業を行います。
別の例として、私と家族の予算を管理しているMicrosoft Excelを想定してください。現在、私は予算スプレッドシートを作成し、適宜、数字と数式を入力しています。エージェンティックAIを使えば、私はExcelに「銀行口座とクレジットカードに基づいて家族の予算を作成して」と頼みます。すると、AIが残りを行います。AIはAPIを使用して私の銀行口座、クレジットカードなどと連携し、全ての作業行います。しかも、AIが作成する予算は、私が手動で作るものよりもはるかに正確でしょう。そして、私は毎月の無駄遣いの金額に驚くことでしょう。
さらに、スプレッドシートは、私の現在、そして予想される未来の支出パターンに基づいて自動的に更新されます。
サイバーセキュリティのために使用するエージェンティックAIも同じような使用方法が予測されます。例えば、環境にパッチを適用するのための製品を使用する代わりに、AIに次のように入力したり質問します。「Windows、Linux、およびCiscoデバイスにパッチを適用して、ベンダーリリース後48時間でパッチを適用してください。ただし、パッチの適用によるトラブルがない場合に限ります。まずは、重要ではないシステムでテストし、24時間結果を待ってから、2日間かけて残りのデバイスに適用してください。」または、次のような指示を出すこともできます。「私たちを攻撃している新しいエージェンティックマルウェアプログラムを検出し、軽減するためのセキュリティログを更新してください。」今後のサイバーセキュリティ界は、私たちが指示を出し、AIが作業を行うのが当たり前になります。これによってより多くのことが実行され、より多くのタスクが自動化されます。
KnowBe4を含む、ほとんどの主要なソフトウェアおよびサービスベンダーは、エージェンティックAIに全力を注いでいます。私たちの業界では、ほとんどのものにエージェンティックAIが搭載されるまでに2〜4年かかるという人もいれば、10年以上かかると考える人もいます。ただ、タイムラインに関係なく、このような未来は確実にきます。
エージェンティックAIのサイバーセキュリティ防御
先週、私が投稿したブログでは、サイバー犯罪者がエージェンティックAIを使用した攻撃方法について話しました。この記事では、防御側が組織を守るためにエージェンティックAIをどのように使用するかを提案させていただきます。
攻撃者だけではなく、防御側も長年AIを使用してきました。KnowBe4は6年以上にわたり、製品とサービスでAIを積極的に活用しています。現在、KnowBe4の製品とサービスをより良くし、お客様の組織をより安全にするために働く一連のAIエージェントを提供しています。また、数年以内には、KnowBe4のAIへの取り組みは、今と比べて10倍以上になると予想されます。
KnowBe4のエージェンティックAI防御はまだ完璧なものではありませんが、日々それに近づいています。近いうちに、すべての組織のサイバーセキュリティ防御には、数十のエージェンティックAI対応のサイバーセキュリティ防御が含まれるでしょう。これまで手動または個別に行っていたことは、すべてエージェンティックAI対応になります。AIは組織のためにより多く、より良く、より速く動きます。
以下のリストは、私が思いつく様々なエージェンティックAIサイバー防御です：
オーケストレーターエージェント
このエージェントは家の建設の例にもでてきた「責任者」です。タスクを割り当てられると、他のエージェントと通信し、それぞれのエージェントの負荷の分配を管理し、必要に応じて研究エージェントを起動するなどします。ディレクターエージェントなど、他の名前で呼ばれることもあります。既存のエージェントを使用するだけでなく、新たなエージェントを導入、もしくは必要ないものは排除します。
エージェント更新エージェント
エージェンティックAIの最大の特徴の一つとして、自己管理をし、必要に応じて更新する能力があります。現在、ほとんどのサイバーセキュリティ防御プログラムは、最大で1日に1回程度更新します。ほとんどは四半期ごとかそれ以下の頻度でしか更新しません。エージェンティックAIは更新の必要性を一日に千回以上確認し、必要があれば即時更新します。
インベントリエージェント
すべてのデバイスとその属性（物理的位置、IPアドレス、ファームウェアバージョン、OS等）、実行しているソフトウェア、ユーザー、グループ、アクセス権限などを含む、優れたサイバーセキュリティインベントリがなければ、優れたサイバーセキュリティ防御は持てません。
エージェンティックAI対応のインベントリエージェントはかなり精密です。各デバイスとアプリケーションで実行されている暗号化だけでなく、デバイスやソフトウェアで実行できる暗号化アルゴリズムと最大キーサイズも教えてくれます。また、従業員が隠れて使用しているAIやその他ITサービスを見つけ、IT部署に報告します。
ログ設定/分析
このAIエージェントは、検知やアラートが正しく行われているように、デバイスのログを正しく設定します。適切なログが継続して記録されいぇいることを確認し、無駄なイベントメッセージの収集は排除します。
認証分析
このエージェントは組織全体で使用されているさまざまな認証方法を分析し、改善点を特定し、組織のポリシーに従って適切な認証を有効にします。今後は、セキュリティが重要な場面では、すべてフィッシング耐性のある多要素認証（MFA）または同等のものが適用される未来が来ることを願っています。
暗号化分析
ほぼすべてのデバイスやプロダクトは何らかの暗号化を使用しています。そして、5年から10年ごとに、最新の暗号化にハードウェアとソフトウェアを更新する必要があります（例：DESからAES、SHA1からSHA2からSHA3、RSAとDiffie-Hellmanからポスト量子暗号化など）。
今後は、おそらく、どの製品がどの暗号化アルゴリズムを使用しているか、関連するキーサイズ、証明書の有効期限などを目録化し追跡するAIエージェント開発されます。これは長く注目されていなかった分野ですが、私たちはこれらを管理するための専用エージェントが必要になります。うまくいけば、より多くのソフトウェアとハードウェアが暗号アジャイルになり、管理と操作が楽になるでしょう。
脆弱性スキャン
このAIエージェントは、環境内のソフトウェアとハードウェアの脆弱性スキャンを行い、レポートを作成し、ベストプラクティスのリスク軽減策を実施します。パッチ管理エージェントと密接に連携しますが、ゼロデイ脆弱性のリスクも高いため、事前にリスクを最善の方法で軽減することが狙いです。
パッチ管理
Mandiantのリサーチによると、データ侵害の33％は、ソフトウェアまたはファームウェアの脆弱性の悪用を含んでいると分かりました。そのため、すべての組織は、より優れたパッチ管理を必要としています。このエージェントは脆弱性スキャンエージェントから指示を受け、指示通りにパッチを適用します。パッチの適用後、デバイス、サービス、またはアプリが正常に動作しているかを確認するためのフォローも行います。
プルーニングエージェント
人はものを作るのは得意ですが、不要になったときに削除するを苦手とします。私たちのすべてのIT環境は、不要なユーザーアカウント、デバイス、グループ、ファイル、フォルダ、データなどで溢れています。プルーニングエージェントは組織のポリシーに従って、不要および重複しているものを探して削除します。
構成管理
ハッカーの大好物は、構成管理が一貫して適用されていないシステムです。設定ミスは、ソーシャルエンジニアリングと脆弱性の次に、データ侵害の大きな原因です。構成管理エージェントは、すべてのシステムが組織の規定通りに正しく構成されているか確認しまうす。また、定期的な監査を実施することで、正常な状態を維持します。さらに、このエージェントは不適切なアクセス権限を探し、それらを削除します。
サイバーセキュリティトレーニングエージェント
今後のトレーニングエージェントは、ユーザーが以前受けたトレーニング、合格および不合格のシミュレーションフィッシング、ユーザーに関連するリスクを学び、一人一人のユーザーに最適なトレーニングを実施します。
ネットワークトラフィック分析
ほとんどのコンピュータは他のコンピュータと通信しません。ほとんどのサーバーはコンピュータと通信しません。ほとんどのサーバーは他のサーバーと通信しません。しかし、通信が発生する場面としては、ハッカーまたはマルウェアがコンピュータを乗っ取り、攻撃のベースとして使用しているときです。ネットワークトラフィック分析エージェントはネットワークトラフィックを調査し、不正なファイル移動など、異常な動きを検知します。
マルウェアハンター
このエージェントは、現在のアンチウイルススキャナーがさらに進化したものだと考えてください。侵入検知プログラムで、いままでは認識されていなかったマルウェアを認識するだけでなく、ハッカーが使用している一見正当なツールまでも認識します。
脅威ハンティング
このエージェントは、悪意のあるエージェンティックAIや不正活動を検知します。悪意のあるエージェンティックAIに対する最も強力な対抗策になるでしょう。
DoS対策エージェント
DoSやその他のネットワーク特有の攻撃を検出して軽減するエージェントも必要です。
ニュース/研究エージェント
最新のタイプの攻撃を認識し、オーケストレーターエージェントに通知するエージェントが必要です。そうすれば、新しい攻撃に対する対策をすぐに開始できます。
リスク管理分析
サイバーセキュリティはビジネスリスク管理そのものです。このエージェントは、皆さまのビジネスに対して、セキュリティ脅威がどのような影響があるか認識し、その情報をオーケストレーターエージェントに提供します。
デセプションテクノロジー
機密のデータなど重要な資産になりすまし、ハッカーやマルウェアに接続された際、オーケストレーターエージェントにいますぐ対策を行うように通知するエージェントが必要です。デセプションテクノロジーエージェントは、なりすましを行うサービスや場所を決め、不正なイベントに対するアラート作成などを行います。
バックアップエージェント
バックアップエージェントは、すべての重要な資産が、適時かつ適切にバックアップされていることを確認し、バックアップの数を管理し、不正アクセスや変更から保護します。
ベンダーエージェンティックAI
最後に、これは皆さまが購入するすべての製品とサービスのプレースホルダーです。KnowBe4のエージェンティックAI製品とサービスがここに入ります。皆さまが利用する侵入検知ベンダーがここに入ります。皆さまのネットワークルーターベンダーの製品がここに入ります、など。
エージェンティックAIサイバーセキュリティ防御を構想するにあたり、既存の従来のインフラストラクチャによって現在提供されているサービスを、自律化し、より良くし、その学習曲線を加速させることを考えてください。
どのエージェンティックAI防御が欠けていますか？
これら全てのエージェントが作られるかどうかは不透明です。しかし、現在の脅威や開発されている技術などを見れば、自然な進化のように思えます。
組織は実際にエージェンティックAIを利用するでしょうか？
先日、私と友人の間で行った議論を共有します。友人の主張は、多くの組織はエージェンティックAIによる重要な運用を許可しないだろうというものです。彼は、ルート/管理者権限など、エージェンティックAIに与える必要がある権限、サーバーにパッチを適用する、脅威に対応するなど、重要な管理タスクを実行するようにAIへ指示することを想像したときに難しいと思いました。
また、彼はCrowdStrikeのようなシナリオを心配していました。すべての環境でエージェンティックAIが何をするのかテストすることはできないため、運用上の問題を引き起こす可能性があります。そのため、彼はエージェンティックAIを使用するリスクはあまりにも大きく、ほとんどの組織では使用されないと考えます。
私は、現在のソフトウェアが時々引き起こすように、エージェンティックAIが深刻なサービス中断を引き起こすケースもあると思います。しかし、それによって、エージェンティックAIを止めることはできないと思います。すべてのソフトウェア開発者がそのモデルに移行しています。時間が経てば、エージェンティックAIにならないサービスを利用したり製品を購入したりすることはできなくなるでしょう。
この現状を見て、私はクラウドを思い出します。2〜30年前、私が15年間勤めていた出版会社、InfoWorldは、クラウドコンピューティングの未来を見ていました。彼らはそれをSaaS（Software as a Service）と呼んでいました。私がプレゼンテーションでSaaSについて話すとき、いつも人々が近づいてきて、彼らの会社や組織は決してクラウドに移行しないだろうと言いきっていました。彼らのデータはクラウドに信頼するには価値があり過ぎ、プライバシーの問題が多すぎると言いました。彼らのオンプレミスソフトウェアとサービスには、クラウドには真似できない機能があるなどと言っていました。
私は彼らに、ハードウェアを購入しそのハードウェアとソフトウェアをサポートするチームに給料を払わずに、ユーザーあたり12ドルのクラウドで、ほぼ同じサービスと機能を得られることを伝えていました。そして、それがまさに実現しました。
現在は、高度なソフトウェア機能が欲しければ、クラウド製品を受け入れて購入する必要があります。クラウドから実行されないオンプレミスのソフトウェアプログラムはますます少なくなっています。まもなく、皆さまのOSやアプリケーションのすべてがクラウドに存在するでしょう。そして、まもなく、皆さまのOSとアプリケーションがエージェンティックAIになるでしょう。
これは推測ではありません。これは既に進行中のことです。
一部の人々が正当にもエージェンティックAIに慎重であることは理解していますが、この未来を止めることはできません。
今できる最善のことは、最新の情報を認識し、自分自身と周りを教育し、環境内でいつどこで展開し始めるかを考え始めることです。
最後に
繰り返しになりますが、私たちは良いエージェンティックAIと悪いエージェンティックAIが共存する世界に住むことになります。犯罪者は悪意のあるエージェンティックAIを使用して侵入し、多くの犯罪を成し遂げるでしょう。それに対して、防御側はエージェンティックAIを使用して、それらを阻止するでしょう。
私は防御側がこの戦いで初めて勝利する立場にあると思います。犯罪者よりも正当なAIユーザーの方が長くAIを使用し、開発してきました。ほとんどすべての場合、正当なAIユーザが何かを開発し、犯罪者がそれを見て悪用する方法を考え始めるようになりました。
そのため、私の36年以上のキャリアの中で初めて、防御側が犯罪者を打ち負かすという希望を持っています。私たちが最高のアルゴリズムを築きあげることを願いましょう。
原典：Roger Grimes著 2025年3月18日発信 https://blog.knowbe4.com/emergent-agentic-ai-defense