AI 에이전트 보안 — 자율 실행을 감시하는 방식 (2026)
AI 에이전트 보안의 출발점은 에이전트가 사람처럼 로그인하고 사람처럼 작업하지만 사람이 아니라는 점이다. 기존 보안 도구는 사람의 행동을 전제로 만들어졌기 때문에, 스스로 판단해 실행하는 주체를 그대로 다루기 어렵다. 이 글은 AI 에이전트가 만들어내는 보안 문제와 감시 방식, 그리고 이 흐름이 보안 지출에 미치는 영향을 정리한다.
무엇이 달라졌나
기존 소프트웨어는 정해진 명령만 수행한다. 사람이 버튼을 누르고, 그 기록이 남는다.
에이전트는 다르다. 목표를 주면 스스로 단계를 나누고, 필요한 도구를 호출하고, 결과를 보고 다음 행동을 정한다. 여기서 세 가지 문제가 생긴다.
첫째, 승인 단계가 사라진다. 사람이 중간에서 확인하던 절차가 없어지면, 잘못된 판단이 곧바로 실제 변경으로 이어진다. 코드 배포나 설정 변경처럼 되돌리기 어려운 작업일수록 영향이 크다.
둘째, 권한이 넓어진다. 에이전트가 여러 시스템을 오가며 일하려면 그만큼 넓은 접근 권한이 필요하다. 계정 하나가 탈취되면 피해 범위가 사람 계정보다 넓어질 수 있다.
셋째, 행위 주체를 구분하기 어렵다. 로그에는 계정 이름만 남는다. 사람이 한 작업인지 에이전트가 한 작업인지, 어떤 지시에 따른 것인지 추적하려면 별도의 기록 체계가 필요하다.
비인간 아이덴티티라는 개념
보안 업계에서는 이런 주체를 비인간 아이덴티티(non-human identity) 로 부른다. 서비스 계정, API 키, 봇, 그리고 AI 에이전트가 여기 속한다.
관리 방식은 사람 계정과 다르다.
| 항목 | 사람 계정 | 에이전트 계정 |
|---|---|---|
| 인증 | 비밀번호, 다중 인증 | 토큰, 인증서 |
| 권한 부여 | 직무 기준 | 작업 단위 기준이 바람직 |
| 수명 | 재직 기간 | 작업 기간으로 제한 가능 |
| 이상 판단 기준 | 근무 시간·위치 | 평소 호출 패턴과의 차이 |
핵심 원칙은 최소 권한과 짧은 수명이다. 필요한 작업에만, 필요한 시간 동안만 권한을 주는 방식이다. 다만 실제 운영에서는 권한을 좁힐수록 작업이 자주 막히기 때문에 균형을 잡는 일이 과제가 된다.
감시는 어디에서 이뤄지나
에이전트는 한 곳에서만 움직이지 않는다. 사내 기기, SaaS 서비스, 클라우드 인프라, 브라우저를 오간다. 그래서 감시도 이 여러 지점에서 이뤄져야 한다.
일반적인 기능은 다음과 같다.
- 행위 기록: 어떤 도구를 호출하고 무엇을 변경했는지 남긴다.
- 이상 탐지: 평소와 다른 접근이나 대량 조회를 표시한다.
- 정책 강제: 특정 작업은 실행 전에 차단하거나 승인을 요구한다.
- 범위 제한: 접근 가능한 데이터와 시스템을 미리 한정한다.
여기에 프롬프트 주입(prompt injection) 이라는 별도의 위험이 붙는다. 에이전트가 읽어 들인 문서나 웹페이지에 악의적인 지시가 숨어 있으면, 에이전트가 그것을 사용자 지시로 오인할 수 있다. 이는 기존 악성코드 탐지 방식으로 잡히지 않는 유형이다.
보안 지출이 늘어나는 구조
에이전트 도입은 보안 예산에 두 방향으로 작용한다.
늘리는 쪽은 감시 대상의 증가다. 관리해야 할 계정 수가 사람 수를 넘어서고, 기록해야 할 행위도 많아진다. 기존 도구를 그대로 쓰기 어려워 교체 수요가 생긴다.
줄이는 쪽도 있다. 탐지와 초기 대응을 자동화하면 사람이 처리하던 반복 작업이 줄어든다. 다만 자동 대응이 잘못 작동할 위험이 있어 도입은 단계적으로 이뤄진다.
투자 관점에서 확인할 항목은 다음과 같다.
- 신규 모듈 매출: 에이전트 보안 관련 제품이 별도 매출로 잡히는지.
- 고객당 매출(ARPU): 기존 고객이 모듈을 추가로 구매하는지.
- 경쟁 구도: 보안 전문 기업, 클라우드 사업자, 모델 제공사가 같은 영역에 진입하고 있다.
- 원가 구조: 감시에도 연산이 들어가므로 총마진에 영향을 준다.
정리
AI 에이전트는 사람의 승인 없이 실행하고, 넓은 권한으로 여러 시스템을 오간다. 이 구조 때문에 기존 보안 도구로는 행위를 추적하고 통제하기 어렵다.
관리 개념은 비인간 아이덴티티로 정리되며, 최소 권한과 짧은 수명이 원칙이다. 감시는 기기·SaaS·클라우드·브라우저 여러 지점에서 이뤄지고, 프롬프트 주입처럼 새로운 유형의 위험도 함께 다뤄야 한다.
산업 측면에서는 관리 대상이 늘면서 보안 지출이 확대되는 방향이다. 관련 기업을 볼 때는 신규 모듈이 실제 매출로 잡히는지, 기존 고객의 구매 규모가 늘어나는지를 확인하는 것이 순서다.
이 글은 기술과 산업 구조를 정리한 것이며, 특정 종목의 매매를 권유하지 않는다.