AI 에이전트를 위한 제로 트러스트는 로그인 후에 시작됩니다

제로 트러스트는 ‘네트워크 내부에 있으면 신뢰할 수 있다’는 기존 가정을 바로잡기 위해 만들어졌습니다. 이러한 가정은 이후 클라우드, SaaS, 원격 근무가 등장하면서 무너졌습니다. 이에 따라 보안은 신원 확인, 장치 검사, MFA, 최소 권한, 지속적인 검증 중심으로 발전했습니다.

하지만 오늘날 에이전트 시대에는 문제가 액세스 후에 시작됩니다. 에이전트는 프롬프트를 읽고, 컨텍스트를 가져오고, 도구를 선택하고, API를 호출하며, 워크플로를 실행할 수 있습니다. 로그인은 에이전트가 ‘신뢰할 수 있음’을 알려줄 뿐입니다. 다음 작업이 적절한지 여부는 알려주지 않습니다.

에이전트는 머신 아이덴티티 문제를 그대로 물려받습니다

보안팀은 이미 머신 아이덴티티를 통해 눈에 잘 띄지 않는 형태의 유사한 문제를 경험해 왔습니다. 서비스 계정, API 키, 토큰, 인증서는 프로젝트를 위해 생성되고 액세스 권한이 부여되지만, 프로젝트가 변경된 후에도 오랫동안 실행 상태로 방치됩니다.

상시 권한이 유지되고, 소유자가 불명확하며, 문제가 터진 뒤에야 로그를 확인하는 상황은 낯설지 않습니다.

에이전트는 판단이라는 요소를 더하면서 기존 문제를 더 복잡하게 만듭니다. 서비스 계정은 일반적으로 코드에 따라 동작합니다. 에이전트는 목표를 해석하고 실시간 컨텍스트를 읽으며 도구를 선택하고 다음에 무엇을 시도할지 결정합니다.

이제 보안은 에이전트가 접근할 수 있는 모든 시스템과 에이전트가 수행하려는 모든 작업에 적용되어야 합니다.

자율성이 높아질수록 필요한 통제 수준도 높아져야 합니다.

이와 관련해 Gartner의 2026년 5월 분석 자료는 흔히 혼동되는 두 가지, 즉 에이전트가 얼마나 높은 자율성을 갖는지와 얼마나 많은 접근 권한을 갖는지를 구분한다는 점에서 유용한 관점을 제시합니다.

이 둘의 조합이 중요합니다. 문서를 요약하는 에이전트는 범위가 지정된 읽기 액세스 권한과 명확한 로그가 필요합니다. 기록을 업데이트하거나, 코드를 작성하거나, 워크플로를 변경하는 에이전트라면 승인 단계, 강력한 안전 장치, 모니터링, 소유권, 롤백 경로가 필요합니다.

관찰, 조언, 승인 후 실행, 자율 실행으로 구분되는 Gartner의 자율성 단계는 좋은 출발점이 됩니다. 각 단계를 거칠 때마다 에이전트는 비즈니스 작업을 수행하는 수준에 가까워지므로 더 강력한 통제가 적용되어야 합니다.

에이전트를 위한 제로 트러스트는 바로 이 지점에서 기존 방식과 달라집니다. 신원 정보는 누가 행동하는지 알려줍니다. 런타임 컨텍스트는 그 행동이 상황에 적합한지 알려줍니다.

정책을 결정하려면 로그인 이후에 보안 체계에서 흔히 놓치는 정보를 파악해야 합니다. 이러한 정보에는 어떤 데이터가 관련되어 있는지, 어떤 도구가 호출되는지, 어떤 지시가 요청을 형성했는지, 다음에 어떤 시스템이 영향을 받는지 등이 포함됩니다.

보안팀이 지금 해야 할 일

우선 간단한 자산 목록부터 작성하십시오. 현재 사용 중인 에이전트, 실행 위치, 액세스 대상, 소유자를 목록으로 정리하십시오.

에이전트가 사용되는 위치에 따라 분류합니다. 엔드포인트의 코딩 에이전트, SaaS 플랫폼 내부에서 관리되는 에이전트, 내부 팀이 구축한 맞춤형 에이전트, OAuth를 통해 연결된 개인 또는 제3자 에이전트로 구분할 수 있습니다.

자율성 수준을 분류하십시오. 에이전트가 관찰하는지, 조언을 제공하는지, 승인을 받은 후 실행하는지, 스스로 실행하는지를 구분합니다. 그런 다음 이를 데이터 액세스 권한, 도구, 허용된 작업, 소유자, 승인자와 연결합니다.

아래 제시한 바와 같이 자율성 수준을 첫 번째 통제 기준으로 활용합니다.

수행하는 작업에 따라 권한 범위를 제한합니다. 각 작업을 별도의 정책 기준으로 관리합니다. 기록을 조회하는 작업과 기록을 삭제하는 작업은 비즈니스에 매우 다른 영향을 미칩니다.

런타임 경로에 보호 장치를 배치하고 프롬프트와 검색된 콘텐츠는 신뢰할 수 없는 입력으로 취급합니다. 민감한 데이터가 외부로 전송되기 전에 응답을 검사하고 실행 전에 도구 호출 매개변수를 검증합니다. 기록 삭제, 자금 이동, 대량 통신, 외부 API 호출과 같은 중대한 결과가 따르는 작업은 반드시 사람의 승인을 거치도록 합니다.

감사 기록은 실제로 활용할 수 있어야 합니다. 결과를 이해하려면 프롬프트, 응답, 도구 호출, 액세스된 데이터, 정책 결정 내용이 필요합니다. 에이전트가 예상치 못하게 동작할 경우, 보안팀은 다음 작업을 중단하고 발생한 일을 설명할 수 있는 충분한 근거를 확보해야 합니다.

아키텍처는 작업을 볼 수 있어야 합니다.

보안팀은 작업이 진행되는 동안 프롬프트, 응답, 도구 호출, 데이터 이동, 워크플로 단계를 검사할 수 있는 지점이 필요합니다.

에이전트를 위한 Cato AI 보안은 바로 이러한 지점에 적합합니다. 이 솔루션은 에이전트 활동을 발견하고, 도구 사용 및 데이터 흐름을 관리하며, 도구, API, 데이터, 워크플로 전반에 걸쳐 감사에 활용할 수 있는 가시성을 제공합니다.

가치는 실행하는 작업의 주변 맥락에 있습니다. 에이전트 행동을 사용자, 애플리케이션, 네트워크, SaaS, 보안 텔레메트리와 함께 살펴볼 수 있다면 증거를 바탕으로 조사를 시작할 수 있습니다. 어떤 에이전트가 실행되었는가. 누가 에이전트를 소유하고 있는가. 어떤 데이터가 이동했는가. 어떤 도구가 호출되었는가.

이는 리더가 사용자, 애플리케이션, 에이전트 전반에 걸쳐 명확한 거버넌스를 구축할 수 있음을 의미합니다. 보안팀의 입장에서는 제로 트러스트가 로그인 후 사라지지 않고 에이전트가 작업을 수행하는 과정에까지 적용될 수 있다는 의미입니다.

하나의 워크플로로 시작하십시오

이미 사용 중이거나 프로덕션 단계에 가까운 에이전트 워크플로 하나를 선택합니다. 신원, 자율성 수준, 데이터 액세스 권한, 도구, 허용된 작업, 승인 지점, 로그, 롤백 경로를 매핑합니다.

이 한 번의 점검만으로도 어디에 빈틈이 있는지 파악할 수 있습니다. 작업을 확인하거나 승인하거나 중단할 수 없고, 나중에 그 작업을 설명할 수도 없다면, 실제 작업과 너무 동떨어진 지점에서 통제가 이루어지고 있는 것입니다.

AI 에이전트를 위한 제로 트러스트는 로그인 후에 시작됩니다. ‘이 작업을 지금, 이러한 조건에서 수행해도 되는가’라는 질문에 대한 의미 있는 결정이 바로 그 시점에 이루어지기 때문입니다.