セキュリティ対策が不十分なAIエージェントにどう対処するか――誰も語らないサイバー脅威

Cropped shot of a young computer programmer looking through source code; AI agents
Many companies are quickly moving AI agents from prototype into production across various functions.Image: Getty Images/PeopleImages
Este contenido ha sido traducido automáticamente con IA.
  • 企業は、営業や調査からコンテンツ制作、財務に至るまで、さまざまな業務に人工知能(AI)エージェントを導入しています。

  • こうしたシステムは自律的に判断し、計画を立てることができますが、組織を新たなサイバーセキュリティ上の脅威にもさらします。

  • ゼロから開発する場合も既製ツールを活用する場合も、組織はAIエージェントにセキュリティ、相互運用性、可視性を組み込む必要があります。

現代の労働力は急速な変革のさなかにあります。組織は、開発から営業、顧客サービス、調査、コンテンツ制作、財務に至るまで、ますます多くの業務機能に人工知能(AI)エージェントを導入しています。

こうした自律型AIシステムは、人による監督を最小限に抑えながら、複雑なタスクを達成するための判断や計画を行えます。企業はこれらのAIエージェントを、試作段階から本番環境へ急速に移行させています。

こうした導入の加速により、非人間およびエージェント型のIDの数は、現在では今年末までに450億を超えると予想されています。これは、現在の世界の労働力に含まれる人間の概算数の12倍を超えます。

この爆発的な増加にもかかわらず、回答者の10%しか、経営幹部260人を対象としたOktaの調査で、非人間およびエージェント型のIDを管理するための十分に整備された戦略があると回答していません。これは重大なセキュリティ上の懸念です。侵害の80%には、何らかの形で侵害または窃取されたIDが関与しています。さらに生成AIは、脅威アクターがより巧妙なフィッシング攻撃やソーシャルエンジニアリング攻撃を仕掛けられるようにし、この脅威を深刻化させています。

企業がエージェントの導入を急ぐ中、最初の段階からID管理の統制を確立し、セキュリティを優先することが不可欠です。そうすることで、過剰な権限を与えられた、セキュリティ対策が不十分な可能性のあるAIエージェントに伴う重大なリスクを回避できます。

AIのスピードと複雑さに対処するため、企業には新たなアプローチ、すなわちアイデンティティ・セキュリティ・ファブリックが必要です。この新たなカテゴリーは、人間、非人間、エージェント型のあらゆるIDを、あらゆるIDの利用場面、アプリケーション、リソースにわたって保護します。このアプローチは、AI主導の未来において企業を守る鍵となります。

AI攻撃がエージェントを標的にする方法

脅威アクターは、悪意ある活動にAIをいち早く活用し、既存の脅威をより危険にするとともに、新たな、より個人に合わせた脅威を生み出しています。生成AIは、すでにさまざまな攻撃を支えています。マルウェア、ディープフェイク、音声クローン、フィッシング攻撃などです。

AIエージェントの登場は、企業のセキュリティ環境に新たな複雑さをもたらします。価値が高く、機密性を含む可能性のある企業データを学習したエージェントは、適切に構築、導入、管理、保護されなければ、新たな攻撃経路になり得ます。

組織には、エージェントの有効性を高めるために、より多くのデータやリソースへのアクセスを許可する動機があります。しかし、アクセス範囲の拡大は事業リスクの増大を伴います。たとえば脅威アクターは、プロンプトインジェクション攻撃を通じてAIエージェントの動作を操作する可能性があります。探りを入れる質問を使い、エージェントをだまして特権情報を共有させようとするのです。

AIエージェントのアクセス範囲が広いほど、脅威アクターが企業に侵入しやすくなります。その結果、データ漏えい、不正な操作、あるいはシステム全体の侵害につながる可能性があります。

2025年のサイバーセキュリティ:リスク、報酬、そして成功への道
2025年のサイバーセキュリティ:リスク、報酬、そして成功への道
01:39

エージェント型AIのIDが抱える課題

AIエージェントはユーザー固有のデータやワークフローにアクセスする必要があるため、それぞれに固有のIDが必要です。十分な統制がなければ、これらのIDには過剰なアクセス権と自律性が与えられるおそれがあります。

エージェントが時にどれほど「人間らしく」見えても、そのIDの管理は人間のユーザーの管理とは根本的に異なります。非人間およびエージェント型のIDには、いくつかの相違点があります。

今日、企業に新しい従業員が入社すると、そのユーザーが会社のアプリケーションやデータへのアクセスを必要とする時点は明確です。パスワード、生体認証、多要素認証(MFA)を使ってアカウントにログインし、本人であることを確認できます。しかし、AIエージェントは人間の従業員と同じ方法では認証できません。その代わり、アプリケーション・プログラミング・インターフェース(API)トークンや暗号証明書などを使って、自身を認証します。

AIエージェントのライフサイクルも、独自に非人間的なものです。エージェントの稼働期間は変動し、限られた期間に限って極めて具体的な権限を必要とし、機密情報へのアクセスが必要になることも少なくありません。組織は、エージェントのアクセス権を迅速に付与し、解除できるよう備える必要があります。

エージェントは人間のユーザーより追跡やログ記録が難しい場合もあり、侵害後の監査や修復対応を複雑にします。

これらの要因を踏まえると、セキュリティチームがAIエージェントとその権限を慎重に管理することが極めて重要です。

エージェント型AIの未来に備える

ほとんどの組織では、エージェント型AIの取り組みはまだ初期段階にあります。これは、適切なID管理とセキュリティの手順を最初から確立する好機です。サードパーティ製エージェントを導入する組織にとって、安全なID管理の基盤を築くには、導入時が最適なタイミングです。エージェントを一から構築する場合は、開発段階からID管理を優先すべきです。

組織がゼロから始める場合も既製ツールを活用する場合も、自律型AIエージェントについて、ID管理の観点から考慮すべき重要事項がいくつかあります。

1. セキュリティ

AIエージェントは自律的に動作するため、権限を連鎖させ、本来アクセスすべきでないリソースにアクセスする可能性があります。エージェントが機密情報を共有しないよう、セキュリティチームはきめ細かなアクセス方針を設ける必要があります。AIエージェントには、一定期間に限ってリソースへのアクセス権と認可を付与すべきです。

2. 相互運用性

組織は、AIエージェントが相互運用性の標準に準拠するようにしなければなりません。エージェントは他のエージェントやAIシステムと連携できると、より強力になりますが、その過程でセキュリティを犠牲にしてはなりません。Model Context Protocol(MCP)などの標準は、エージェントが外部のツールやデータソースに安全に接続するための枠組みを提供します。

3. 可視性

エージェントの行動やアクセスパターンを明確に把握できなければ、異常な動作を見逃し、セキュリティ上の脆弱性につながる可能性があります。こうしたリスクを軽減するため、組織はエージェントの活動を追跡し、管理を維持する包括的な監視・監査機能を必要とします。

AIエージェントの今後を安全に切り開く

組織がエージェント型AIの未来について把握できているのは、まだほんの一部です。AIエージェントの構築と導入は、セキュリティ対策の道のりの第一歩にすぎないことも忘れてはなりません。

ユースケースが増え続けるにつれて、組織のセキュリティチームの責任も増していきます。AIエージェントが安全に、意図どおりに機能するようにするには、可視性、ガバナンス、管理に継続的に取り組む必要があります。

安全なID管理の強固な基盤があれば、組織はエージェントの導入を安全に拡大し、より多くのユーザーがその恩恵を受け、AIツールの事業上の可能性を引き出せるようになります。

Licencia y republicación
Los artículos del Foro Económico Mundial pueden volver a publicarse de acuerdo con la Licencia Pública Internacional Creative Commons Reconocimiento-NoComercial-SinObraDerivada 4.0, y de acuerdo con nuestras condiciones de uso. Las opiniones expresadas en este artículo son las del autor y no del Foro Económico Mundial.