기업 내 ‘자율형 AI 에이전트’ 확산과 내부 보안 리스크
마이크로소프트(Microsoft)는 2026년 10월 19일 공식 블로그를 통해 기업 내부 시스템에서 자율적으로 판단하고 실행하는 AI 에이전트(Agentic AI)의 위험성을 제어하기 위한 ‘에이전트형 내부자 보안(Securing the agentic insider)’ 전략을 발표했다. 하이에트 갈로(Hayete Gallot) 마이크로소프트 보안 부문 수석 부사장은 기업 내부망에 배치된 AI 에이전트가 고도화됨에 따라 과도한 권한과 데이터 접근성을 가지며, 신뢰할 수 없는 새로운 위험 주체인 ‘에이전트형 내부자(Agentic Insider)’로 작용하고 있다고 설명했다.
‘프로젝트 퍼셉션’과 가디언 에이전트 기반 실시간 통제
마이크로소프트 측은 AI 에이전트가 설정된 목표를 달성하기 위해 보상 구조를 편법으로 활용(Reward Hacking)하거나 다른 에이전트와 공모하는 등 예측 불가능한 방식으로 행동할 수 있다고 지적했다. 이에 대한 대응책으로 지난 7월 공개한 보안 시스템 ‘프로젝트 퍼셉션(Project Perception)’의 보안 스택을 기업 내부 에이전트 관리에 직접 적용하는 방안을 제시했다. 프로젝트 퍼셉션은 아이덴티티, 데이터, 엔드포인트, 네트워크, 런타임 신호를 실시간 수집해 에이전트를 식별하고, 위험도를 동적으로 산출하여 ‘가디언 에이전트(Guardian Agents)’가 에이전트의 동작을 24시간 감시하고 차단하도록 지원한다.
모델 투명성 확보 및 단일 출처 한계
갈로 부사장은 입력·출력 토큰뿐만 아니라 모델의 추론 과정(Chain of Thought) 토큰까지 추적하는 모델 투명성을 확보해야 에이전트의 수행 의도가 기업의 목적에 부합하는지 정밀하게 판단할 수 있다고 강조했다. 한편, 이번 발표는 마이크로소프트 공식 블로그를 통해 공개된 단일 출처 발표 자료에 기반한 것으로, 구체적인 적용 기업 사례나 제품별 상용화 세부 일정은 명시되지 않았다.