エージェンティックAIを保護する実践的フレームワーク

エージェンティックAIが生んだセキュリティの隙間を埋める

AIエージェントの動作は、従来のセキュリティ制御では想定されていません。エージェントはプロンプトを解釈し、タスクを推論し、ツールを呼び出して、自律的に行動します。しかし、多くのセキュリティ制御では、意思決定から実行に至る一連の流れを把握できません。

この可視性の不足は、エージェントの種類、実行環境、アクセスできる対象によって異なります。

ローカルエージェント、マネージドエージェント、カスタムエージェントでは、セキュリティ責任者が対処すべき、信頼に関する課題もそれぞれ異なります。

本ホワイトペーパーでは、既存のセキュリティ制御にどのような死角があり、エージェンティック攻撃がその隙間をどう悪用するのかを解説します。さらに、可視性、実行時の検査、ツール呼び出し時の制御を通じて、効果的な保護を実現するための要件を示します。

本資料でわかること：

• 可視性の不足を把握する： 従来のセキュリティ制御では、指示から実行に至る一連の流れを把握できない理由を解説します。
• エージェントの種類を区別する： ローカル、マネージド、カスタムの各エージェントが、それぞれどのような信頼上の課題を生むのかを整理します。
• 攻撃経路を把握する： ジェイルブレイク、間接的なプロンプトインジェクション、難読化、複数ターンにわたる検知回避が、エージェントの動作をどう狙うのかを解説します。
• 実行時に必要な制御を定義する： エージェントの保護に、一連の流れ全体の可視性、検査、ガードレールが必要な理由を説明します。
• 実行が完了する前に制御する： 安全でないエージェントの動作を阻止するうえで、ツール呼び出しが実用的な制御ポイントとなる理由を解説します。
• 何が起きたかを証跡で裏付ける： 一連の処理を漏れなく記録した監査証跡が、調査、ガバナンス、コンプライアンスの確認をどう支えるのかを説明します。