AI 보안 보고서 ‘사이버 펄스’ 발표… 가시성 격차·이중 에이전트 등 신종 리스크 경고
마이크로소프트가 AI 보안 보고서 ‘사이버 펄스(Cyber Pulse: An AI Security Report)’를 발표하고, 기업이 AI 에이전트를 안전하게 도입해 혁신을 가속하기 위한 보안 전략을 제시했다. 보고서는 가시성 확보, 거버넌스 강화, 제로 트러스트 원칙 적용을 핵심 과제로 강조했다.
전 세계적으로 사람과 에이전트가 협업하는 ‘사람-에이전트 팀(human-agent team)’이 빠르게 확산되고 있다. 포춘 500대 기업의 80% 이상이 로우코드·노코드 도구를 활용해 활성 에이전트를 구축·운용 중인 것으로 나타났다.
보고서는 AI 에이전트의 급격한 확산이 ‘가시성 격차’라는 새로운 비즈니스 리스크를 만들어내고 있다고 분석했다. AI 도입 경쟁에서 앞서는 조직은 비즈니스·IT·보안팀이 협력해 에이전트 활동을 관측하고 거버넌스를 적용하며 보안을 강화하는 체계를 갖춘 곳이 될 것이라고 전망했다.
마이크로소프트는 제로 트러스트 원칙의 중요성도 강조했다. 이는 필요한 권한만 부여하는 최소 권한 액세스, ID·기기·위치·리스크 기반의 명시적 검증, 침해 가능성을 항상 전제로 하는 침해 가정을 핵심으로 한다고 업체 측은 설명했다.
2026년, AI 에이전트 도입 본격화
마이크로소프트는 2026년을 ‘AI 에이전트의 해’로 전망했다. 로우코드·노코드 도구 확산으로 지식 근로자들이 직접 에이전트를 개발할 수 있는 환경이 마련되면서, AI 기반 자동화가 산업 전반으로 빠르게 확산되고 있다는 설명이다.
지역별 활성 에이전트 비중은 유럽·중동·아프리카 42%, 미국 29%, 아시아 19%, 아메리카 10% 순으로 나타났다. 산업별로는 소프트웨어·기술 16%, 제조업 13%, 금융 서비스 11%, 리테일 9% 비중을 기록했다.
마이크로소프트는 패브릭, 파운드리, 코파일럿 스튜디오, 에이전트 빌더 등 다양한 플랫폼을 통해 기업이 에이전트를 직접 구축·배포할 수 있는 환경을 제공하고 있다.
이중 에이전트와 메모리 포이즈닝 등 새로운 위협
에이전트 도입이 확산되면서 보안·컴플라이언스 통제를 앞지르는 사례도 늘고 있다. 섀도우 AI 리스크가 확대되는 가운데, 악의적 행위자가 에이전트의 접근 권한을 악용할 경우 에이전트가 의도치 않은 ‘이중 에이전트’로 전락할 수 있다는 우려도 제기됐다.
마이크로소프트 디펜더 팀은 최근 메모리 포이즈닝 기법을 활용한 사기성 공격 캠페인을 포착했다. 이는 AI 어시스턴트의 메모리를 지속적으로 조작해 향후 응답을 은밀히 유도하는 방식으로, 시스템 신뢰성을 약화시킬 수 있다.
마이크로소프트 AI 레드 팀은 에이전트가 기만적 인터페이스 요소나 조작된 작업 프레이밍에 의해 왜곡된 추론을 수행하는 사례도 확인했다.
관리적 리스크 역시 드러났다. 조사에 따르면 직원의 29%가 미승인 AI 에이전트를 업무에 사용한 경험이 있는 것으로 나타났다. 생성형 AI 보안 통제를 도입한 조직은 47%에 불과해, 안전한 AI 도입을 위한 가시성 확보가 시급한 과제로 제시됐다.
에이전트 보안을 위한 통합 제어 체계
보고서는 에이전트 보안의 출발점으로 ‘가시성 확보’를 제시했다. 이는 IT·보안·개발자 등 조직 전 계층을 아우르는 제어 플레인을 구축해 에이전트 존재 여부, 소유자, 데이터 접근 범위, 행동 양식을 통합 관리하는 체계를 의미한다.
가시성은 레지스트리, 액세스 제어, 시각화, 상호 운용성, 보안 등 5개 핵심 영역으로 구성된다.
AI 에이전트 보안 강화를 위한 7가지 실행 과제
보고서는 AI 에이전트 리스크 최소화를 위한 7가지 실행 과제를 제시했다.
- 운영 범위 정의: AI 에이전트별 목적을 문서화하고 최소 접근 권한을 부여한다.
- 데이터 보호 체계 강화: AI 채널에 데이터 보호 규칙을 적용해 라벨링·감사 추적을 유지한다.
- 승인된 AI 플랫폼 제공: 기업이 승인한 플랫폼을 통해 섀도우 AI를 억제한다.
- 사고 대응 계획 수립: 시나리오 기반 비즈니스 연속성 계획을 수립하고 관측 지표를 관리한다.
- 규제 대응 체계 수립: 학습 데이터 관리와 편향성 평가, 인적 감독 체계를 마련한다.
- 전사 통합 리스크 관리: 리스크를 경영진 차원으로 격상해 책임과 KPI를 명확히 한다.
- 보안 혁신 문화 조성: 전 임직원을 대상으로 안전한 AI 사용 교육을 강화한다.
마이크로소프트는 AI 에이전트 도입 경쟁에서 성공하는 조직은 가시성·거버넌스·보안을 유기적으로 실행하는 체계를 갖춘 곳이라고 강조했다. 이를 위해 비즈니스, IT, 보안, AI팀, 개발자가 협업하고 모든 에이전트를 단일 중앙 제어 환경에서 일관되게 관리·관측해야 한다고 설명했다.
마이크로소프트 에이전트 365는 이러한 통합 제어 환경을 구현하는 플랫폼으로, 자사 생태계뿐 아니라 오픈소스 및 타사 시스템에서 구축된 AI 에이전트까지 등록·관리·보안·감시·운영을 중앙에서 통합 지원한다고 업체 측은 밝혔다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
