企業内のあらゆる環境でエージェンティックAIを保護する

AIのリスクは、これまでユーザーの入力やAIの出力を通じてデータが外部にさらされることが中心でした。エージェンティックAIでは、自律的な動作が加わります。そのため、エージェントが何にアクセスし、何と接続し、何を実行し、何から影響を受けるのかについても、セキュリティ対策が必要になります。

こうしたリスクは、従業員によるAI利用と、自社開発のAIアプリケーションの双方に及びます。これらの環境には、マシンやデバイス上で動作するローカルエージェントと、クラウドベースのプラットフォームを通じて動作するマネージドエージェントという、2つのエージェントモデルがあります。

エージェントは、ツールやAPIと連携し、ワークフローを実行し、人による指示が限られた状態でも動作できます。一方で、外部ツールから取り込む悪意あるコンテンツや改ざんされたコンテンツが、判断や行動に影響を与えるという、新たな攻撃経路も生まれます。

本eBookでは、セキュリティ責任者やAIの推進を担うリーダーに向けて、エージェントのリスクがどこに存在し、どのような動作を管理すべきかを整理します。さらに、企業内のさまざまな環境に一貫した制御を適用する方法を、実践的に解説します。

本資料でわかること：

• エージェンティックAIが企業のリスクをどう変えるか : 自律的な行動によって、セキュリティ上の検討事項が、プロンプト、出力、データの露出を超えてどう広がるのかを解説します。
• エージェントのリスクが生じる場所： 従業員によるAI利用と自社開発のAIアプリケーションが、それぞれどのようなセキュリティとガバナンスの課題を生むのかを整理します。
• ローカルエージェントとマネージドエージェントの違い： 各モデルが、マシン、デバイス、クラウドプラットフォーム、企業システムにまたがってどう動作するのかを説明します。
• エージェントの動作を管理するガバナンスモデル： 可視化と制御が必要な行動、アクセス、ワークフロー、外部からの影響を明らかにします。
• エージェンティックAIの環境全体に一貫した制御を適用する方法： Catoが、AI利用と自社開発のAIアプリケーション全体に、可視性、監視、保護、実行時の制御をどう提供するのかを解説します。