AIは強力な盾となる一方で、潜在的な攻撃経路にもなりつつある。サイバーセキュリティにおいて。
AIは、コードが展開される前に脆弱性を解消する機会をもたらす。
エージェント型AIは、サイバーレジリエンスの新たな時代を切り開く可能性を秘めている。ただし、それは私たちが今この瞬間を捉え、サイバーセキュリティの未来を共に形づくる場合に限られる。
AIは急速に、現代のビジネスを支える要の一つになりつつある。そしてそれに伴い、現代のITやサイバーセキュリティも同様である。わずか数年の間に、AIの活用は実験的なものから不可欠なものへと移行し、私たちの働き方や仕事に対する考え方を変えつつある。両者の重なりは大きい。
AIを活用したシステムの台頭は、サイバー防御のあり方を変えつつあり、エージェント型AIの台頭は、前例のない機会と複雑な新たなリスクの両方をもたらしている。AIが強力なサイバーの盾となる一方で、潜在的な攻撃経路にもなりつつある中、セキュリティリーダーは、それに対応できるよう、思考と手法の両面を進化させなければならない。
世界フォーラムは、グローバルなサイバーセキュリティの課題にどのように取り組んでいるのか。
サイバーセキュリティセンターは、リーダーが一堂に会し、進化するサイバーリスクとその体系的な影響を理解するための信頼できるプラットフォームを提供している。同センターは、ますます相互接続が進むデジタル社会において、理解と信頼の構築に重点を置いている。
セクターを越えた協力と知見の共有を可能にすることで、同センターはパートナーがサイバーレジリエンスを強化し、集団的な対応を必要とする課題に取り組めるよう支援している。
サイバーセキュリティの均衡を変えるAIの役割
歴史的に見て、サイバー防御は常に後追いの立場にあった。脅威アクターは、より速く革新し、より適切に連携し、組織がパッチを適用する前に隙を突くことができてきた。サイバーセキュリティという追いかけっこにおいて、優位にあったのは攻撃者側である。結局のところ、攻撃者は一度成功すればよいのに対し、防御者は侵害を避けるために毎回確実に脅威を阻止しなければならないからだ。
AIは、この流れを逆転させる独自の機会をもたらす。脆弱性がコードの展開前に検知されて解消され、システムが発生時に自律的にセキュリティ上の欠陥を修正し、すべてのエンドポイントとエージェントが世界規模の自己修復型防御ネットワークに参加する未来を想像してほしい。
今から数年後も攻撃者が技術革新の先頭に立ち続けているならば、私たちは今この瞬間を逃してしまったことになる。エージェント型AIは、この転換において主導的な役割を果たすことが期待されている。
エージェント型AIは、画期的な進歩であると同時に重荷にもなる。一方では、これらの自律型エージェントは、どの人間よりも速く脅威に対応し、環境を越えて連携し、単一の侵入試行から学習することで新たなリスクに先回りして防御できる。それはマシンの速度によるサイバー防御である。他方では、同じ能力が兵器化される可能性もある。敵対的AIは、やがてリアルタイムで進化する高度に標的化された攻撃を仕掛けてくるかもしれない。エージェントを用いれば、人間の関与なしに実行され、従来の防御を完全に回避しうる。攻撃者と防御者の双方がマイクロ秒単位で動くようになれば、サイバー紛争の性質は一変する。盾と剣の境界線は、これまでになく薄くなっている。
新たな種類のリスク
AIワークロードにおいても、従来のサイバーセキュリティリスクは依然として当てはまるが、現在ではそれに全く新しい脅威が加わって深刻化している。プロンプトインジェクション、LLMのジェイルブレイク、モデルの完全性の操作、予測不能なエージェントの振る舞いは、攻撃への備え、監視、検知、対応の方法を根本的に変えつつある。AIエージェントの保護は、従来のシステムの保護よりも根本的に困難である。静的なロジックに基づいて動作するのではなく、動的な入力に基づいて学習し、進化し、行動するからだ。
この学習の規模は、加速し続けている。人間のユーザーと異なり、AIエージェントは継続的かつ自律的に数百万件の処理を実行する。つまり、非人間のIDや取引という、膨大かつ新たな集団を管理・保護しなければならないということである。この活動の量、速度、多様性は、リアルタイムのオーケストレーションと適応性のために構築された新たなセキュリティモデルを求めている。
この新たなAIを活用した環境を保護する前に、まずそれを明確に把握しなければならない。シャドーAI、すなわち無許可または管理されていないAIの導入の増加により、可視化が最優先事項となっている。検知は、エンドポイント、ネットワーク、クラウドワークロード、あらゆる執行ポイントにまたがり、継続的、動的かつ包括的でなければならない。可視化を実現したら、次に必要なのはインテリジェントな制御である。どのモデルが使用されているのか、どのようなデータとやり取りしているのか、機密情報が適切に保護されているかを把握することだ。データ損失防止、暗号化、状況に応じたアクセス制御も、AIの流動性と自律性に対応できるよう進化しなければならない。
AIオペレーティングシステムの必要性
私たちが本当に必要としているのは、サイバーセキュリティのためのAIオペレーティングシステムである。要するに、これは企業全体にわたり、ユーザー、資産、アプリケーション、脅威をリアルタイムで状況認識できるインテリジェントなプラットフォームである。単に変化を検知するだけでなく、それを予測し、文脈と精度をもって行動すべきである。従業員一人ひとりの意図、行動履歴、リスクプロファイルを理解し、環境を守るために即座に判断を下せる仮想管理者として捉えてほしい。
しかし、社内の文脈だけでは十分ではない。このAIオペレーティングシステムは、より広い世界とも接続し、グローバルな脅威インテリジェンスを取り込み、新たなリスクに適応し、外部の出来事に基づいて防御を再構成する必要がある。セキュリティが自律的で、適応的かつ常時稼働している未来を想像してほしい。MCP（モデルコンテキストプロトコル）やA2A（エージェント間通信）などのAIネイティブなプロトコルの開発は、その第一歩である。これらの標準により、AIシステムは集合的に推論し、統一された安全な防御ファブリックとして機能できるようになる。
協働こそが触媒である
この未来に対する最大の障壁は技術ではなく、断片化である。今日、依然として多くの組織がサイロの中で活動し、互いに連携しないポイントソリューションを導入している。敵対者がかつてないほど連携している中で、これは敗北につながる戦略である。
AIの可能性を真に引き出すためには、クラウドプラットフォーム、サイバーセキュリティツール、AIシステムをまたぐ抜本的な協働と知見の共有が必要である。ベンダー、顧客、さらには競合企業までもが協力し、隙間を埋め、死角をなくさなければならない。最終的には、人間の洞察と機械の知能を組み合わせ、脅威が顕在化する前に予測するために、共に推論しなければならない。
リアルタイムの世界のためのリアルタイムのレジリエンス
AIによる攻撃の世界では、時間は最も貴重な資源である。従来のパッチサイクルや対応プロトコルは遅すぎる。私たちは、マシンの速度に対応したレジリエンスのために設計されたインフラを必要としている。イノベーションの速度は、信頼モデル、ガバナンス、倫理に関する新たな思考を喚起するだろう。結局のところ、AIの約束は、それを支えるプラットフォームを信頼できなければ実現しない。その信頼を築くには、共通の標準、透明性の高いポリシー、そしてデータ、ID、成果の保護への絶え間ない注力が求められる。
AI、サイバーセキュリティ、クラウドコンピューティングの融合は、デジタル社会の姿を変えつつある。課題は極めて大きいが、機会もまた同様に大きい。協働を重視し、リアルタイムの可観測性を優先し、インテリジェントで適応性の高いシステムを開発することで、防御者に有利な形へと均衡を傾けることができる。
エージェント型AIは、あらゆる攻撃から学習し、リアルタイムで適応し、脅威が拡散する前に防ぐことができる。サイバーレジリエンスの新たな時代を切り開く可能性を秘めているが、それは私たちが今この瞬間を捉え、サイバーセキュリティの未来を共に形づくる場合に限られる。
