エージェンティックAIとは?
まず、「エージェンティックAI」とは何かを明らかにする必要があります。その前提として、そもそも「AI」とは何かを定義しなければなりません。この定義は、人によって見解はさまざまです。筆者の定義は以下の通りです。
学習、論理的思考、意思決定において「人間の知能」を模倣してタスクを実行できるシステムまたはサービス。
これは、プログラムにあらかじめ動作を定義する「IF-THEN」条件式のコードとは異なります。AIの大規模言語モデル(LLM)は、大量のデータを取り込み、アルゴリズムと目的に基づいてアウトプットを生成します。さらに、そのアウトプットは、新しい情報を取り込むことで変化させることができます。一方で従来のプログラムは、開発の時点ですべての情報と処理方法が定められており、新しく学習することはありません。AIは、新しい情報に応じて意思決定を変えることができ、これまで定義されていなかった判断も可能にします。
また、生成AIは、実在の人物や架空の人物の擬似的な音声や動画を簡単に生成できます。写真と数秒の音声データを使用し、その人物のリアルな映像や発言を生成するAIサービスが急増しています。さらには、実在する人物になりすまし、相手がAIであることに気づかないレベルで会話を続けることができるAIも存在します。
次に、「エージェンティック」を定義します。エージェンティックとは、複数の独立したモジュールが連携し、共通の目標を達成するソフトウェアまたはサービスを指します。多くの場合、「オーケストレーターエージェント」と呼ばれる統括役が、他のエージェントを指揮して目的に向かわせます。
わかりやすい例としては、家を建てる際の組織像が挙げられます。一人で家を建てることも不可能ではありませんが、多くの場合、建設責任者が全体を管理し、それぞれの電気や水道など、それぞれの専門家を指揮して、効率的に高品質な家を完成させます。エージェンティックAIも同じように、目的に応じて専門エージェントを組み合わせ、オーケストラエージェントが管理することで、より素早く、より高い成果を生みます。
以下は、模擬のエージェンティックAIの構造です。
現在、多くの新しいソフトウェアやサービスがエージェンティックAIによって開発されています。既存のサービスも次々と置き換えられています。もちろん、エージェンティックAIを使用せずに優れた機能を生み出すことはできますが、意思決定能力を持ち、アウトプットを状況次第で買えることができるAIは、従来のソフトウェアと比べて圧倒的な優位性を持ちます。実際、多くの企業がAIファーストの姿勢で、エージェンティックAIの活用を前提に開発を進めています。
AIによる攻撃はすでに現実に
昨年まで、私の講演ではよく次のような言葉を使っていました。「AIは確実にやってくるが、今年誰かが侵害されるとしたら、その原因はAIではないだろう。」しかし、すでにこの言葉は当てはまりません。
AIを活用した攻撃は、すでに現実のものとなっています。ソーシャルエンジニアリングやハッキングの多くが、すでにAIによって実行されています。実際、流通しているフィッシングキットの75%以上にはAI機能が組み込まれており、人間よりも巧妙にソーシャルエンジニアリング攻撃を行うことが可能になっています。
こちらは、エージェンティックAIマルウェアのモックアップ例です。
多くのエシカルハッカーやバグハンターはすでに、AIを活用したボットを使って脆弱性を特定しています。最近では、発見される脆弱性やゼロデイの多くは、こうした “ハックボット” によるものです。AIはハッキングツールとしての活用が進んでおり、今後はますます拡大していくでしょう。
エージェンティックAIによるランサムウェアが登場する日
ランサムウェア含む、エージェンティックAIを使ったマルウェアの登場が迫っています。エージェンティックAIランサムウェアとは、攻撃に必要なすべての工程を、AIによって効率的かつ高度に実行するボットの集合体です。
このAIエージェントは、脆弱なターゲットを探し、パッチの未適用箇所を突いたり、AIが収集した被害者の情報を元にカスタマイズされたディープフェイクを作成してソーシャルエンジニアリングを行います。SNSや業務投稿などの公開情報だけでなく、非公開データまで収集し、その人物に最も効果的なソーシャルエンジニアリングを仕掛けます。
以下は、エージェンティックAIランサムウェアのモックアップです。
AIエージェントは、侵入後にその環境を分析し、最大限の利益を得るための攻撃手法を判断し、実行します。
まずはクリプトマイニングを行い、次にパスワードを盗み出して他の攻撃に転用。そしてデータを抜き取り、身代金交渉や転売用に保存。最終的には暗号化してランサムを要求。このように、支払い対応や復号まで、すべての工程がAIエージェントにより自動化されている攻撃は増えると予想します。
さらに、攻撃が終わった後は、AIが自身のパフォーマンスを分析し、改善点を学習し、次の攻撃はさらに精度を上げたものとなります。
なぜエージェンティックAIによる攻撃が来ると断言できるのか?
それは、ここ数年のAIの活用事例と、サイバー攻撃の進化を見れば明らかになります。AIは1955年に誕生し、2022年11月にChatGPTが公開されたことで本格的に普及しました。
そして、それ以降のAIの進化は、常に「善良な使い方」が先行してきました。サイバーセキュリティを改善する目的で、AIによるリアルなフィッシング攻撃の作成および対策、リアルなディープフェイクによる攻撃の検証、エージェンティックAIの防御とエシカルハッキングへの応用などを実施してきました。
しかし、いままでの流れを見ると、攻撃者は防御側の6〜12か月後に追随していることがわかります。防御のために開発したAIの技術が、徐々に攻撃ツールやキットに組み込まれ、誰でも使えるようになります。
実際、現在のフィッシングキットの75%以上にはAI機能が搭載されています。人間よりも巧みにソーシャルエンジニアリングを行うAIもすでに存在しています。エージェンティックAIを活用したマルウェアやランサムウェアの登場は時間の問題です。
対策方法は?
防御側も、エージェンティックAIを積極的に活用することが必要です。すでに多くのセキュリティ企業が、AIを活用してより強力な防御ツールを開発しています。自社が使用しているツールやサービスにAIが搭載されているかだけではなく、AI攻撃を認識できるものであるか確認しましょう。
AIを活用したフィッシングやディープフェイクに関する教育を従業員に行うことも重要になります。怪しいメールやSMSに対して警戒心を持つように教育したように、音声と動画に対しても普段から疑念を持つことを伝えましょう。
予期せぬ連絡や前例のない要求を求めたメッセージには特に注意を促し、信頼できる情報源で事実確認を行うことが重要です。攻撃がAIによって進化しているように、私たちも同じように進化して対策する必要があります。
こちらは正しく疑念を持って、日々の脅威に向き合うためのプロセスです。
未来は、脅威ハンターやパッチ適用エージェントなど「Good AI」と、ランサムウェアや情報窃取を行う「Bad AI」が対峙し、最も優れたアルゴリズムが勝者となる時代へと突入します。勝者になるために、できる限りエージェンティックAIによる防御策を取り入れるようにしましょう。
※エージェンティックAIランサムウェアに関する1時間のウェビナーはこちらからご覧いただけます。
原典:Roger Grimes著 2025年5月16日発信 https://blog.knowbe4.com/agentic-ai-ransomware-is-on-its-way-soon