‘Shadow AI’ 확산에 대응… AI 에이전트·모델·스킬의 악성코드 및 백도어 검사
카스퍼스키(지사장 이효은)는 8월 18일, AI 에이전트와 AI 모델, 특정 작업 수행을 위해 기능을 확장하는 ‘에이전트 스킬’을 대상으로 악성코드와 백도어 검사 기능을 제공한다고 밝혔다.
업체 측에 따르면, AI 에이전트가 외부 프레임워크, API, 플러그인 및 스킬 등에 의존하는 새로운 공급망 계층으로 자리 잡고 있는 만큼, AI 구성요소 자체에 대한 보안 검증이 중요해지고 있다. 이번 기능은 카스퍼스키가 기존에 진행해 온 소프트웨어 공급망 보안 영역을 AI 스택으로 확대한 것으로, 직원들이 기업 환경에 AI 구성요소를 도입하기 전에 보안 위험을 확인할 수 있도록 지원하는 것이 목적이다.
카스퍼스키 애드리안 히아 아시아태평양(APAC) 총괄 사장은 중국 광저우에서 열린 APAC 사이버보안 위켄드(APAC Cyber Security Weekend)에서 “연구개발 조직이 AI를 활용해 제품을 개발하는 데 가장 빠르게 움직이고 있는 만큼 특히 주목해야 할 대상이다”라고 말하며, “다운로드하는 AI 에이전트에 백도어나 트로이목마가 포함돼 있지 않다는 것을 어떻게 알 수 있는가? 현재 AI 에이전트에 대한 이러한 보안 검증이 충분히 이뤄지지 않고 있다”라고 강조했다.
AI 에이전트·모델·스킬을 기업 환경에 도입하기 전 검사
카스퍼스키의 AI에이전트를 위한 악성코드와 백도어 검사 기능은 기존 엔드포인트 및 위협 인텔리전스 제품 아래에 위치하는 인프라 및 공급망 계층에서 작동한다. 우선 OpenClaw 스킬을 다운로드하는 시점과 실제 구현하는 시점에 각각 검사를 수행한다. 검사 대상에는 AI 에이전트와 모델, 다운로드 가능한 에이전트 스킬 등이 포함되며, 카스퍼스키는 이를 대상으로 악성코드와 백도어, bias 등을 확인할 수 있다고 업체 측은 전했다.
카스퍼스키는 공개 라이브러리에서 제공되는 에이전틱 AI 스킬을 테스트했으며, 지속적으로 취약점이 발견되고 있다고 밝혔다. 특히 올해 들어 카스퍼스키는 에이전틱 AI 소프트웨어로 위장한 악성코드 샘플을 1만5,000개 이상 확인했다. 카스퍼스키는 앞서 2026년 1월부터 5월 초까지 전 세계에서 AI 에이전트와 AI 서비스를 사칭한 악성코드 및 잠재적으로 원치 않는 애플리케이션 공격 9만2,000건 이상을 탐지했으며, 이 가운데 가짜 ChatGPT 애플리케이션이 49%, Claude와 Gemini가 각각 18%를 차지했다고 밝혔다.
카스퍼스키 애드리안 히아 아시아태평양(APAC) 총괄 사장은 “AI 에이전트는 새로운 공급망 계층을 형성한다”라고 말하며, “에이전트가 서드파티 프레임워크, API, 플러그인 등에 동적으로 의존하기 때문에 하나의 침해된 상위 공급망 구성요소가 하위 시스템으로 연쇄적으로 확산될 수 있다”라고 설명했다.
AI 활용 확산으로 ‘Shadow AI’ 보안 위험도 증가
Shadow AI는 과거 IT 부서의 관리나 승인 없이 직원들이 클라우드 서비스를 사용하는 ‘Shadow IT’와 유사하게, 직원들이 회사의 관리 범위를 벗어나 챗봇, 코딩 보조 도구, AI 에이전트 마켓플레이스 등을 업무에 활용하는 현상을 의미한다.
카스퍼스키 애드리안 히아 아시아태평양(APAC) 총괄 사장은 “AI 활용 과정에서 기업의 민감한 정보가 외부 AI 서비스에 입력될 수 있다”며, “개인적으로 사용하든 업무에 사용하든 AI 도구를 이용할 때마다 공유하는 정보가 공개 정보가 될 수 있다는 점을 고려해야 한다”고 밝혔다.
이어 “무엇을 보유하고 있는지 모른다면 그것을 보호할 수 없고, 이러한 Shadow AI가 기업의 보안 가시성에 공백을 만들 수 있다”며, “기업이 보유한 노트북, 서버, 클라우드 인스턴스는 파악하고 있더라도 네트워크에 연결된 카메라, 프린터, 스마트 기기 등의 규모까지 정확히 파악하지 못하는 경우가 있다”라고 말했다.
AI 활용한 공격으로 악성코드와 침입 방식도 변화
AI가 공격자들의 악성코드 개발과 공격 방식에도 활용되고 있다.
지난해 카스퍼스키는 하루 평균 50만 개의 고유 악성 파일을 차단했으며, 이는 2024년보다 7% 증가한 수치다. 히아 총괄 사장은 공격자들이 AI를 활용해 악성코드 변종을 생성하는 것도 이러한 증가의 일부 원인이었다. 또한 일부 악성 활동은 장기간 탐지되지 않는 것으로 나타났다는 것이다.
카스퍼스키 보고서에 따르면 분석한 침해 사고의 31%에서 악성 활동이 3개월 이상 지속됐으며, 고위험 침해 사례의 52%는 90일이 지나서야 발견됐다. 지난 1년 동안 확인된 사례 가운데 가장 오랫동안 탐지되지 않은 공격은 4년간 지속됐다.
카스퍼스키 세르게이 로즈킨 아시아태평양 및 META(중동·튀르키예·아프리카) 지역 연구센터 총괄은” AI를 활용한 사이버 공격이 변화하고 있다”며, “이제 가장 위험한 것은 대규모 피싱이나 딥페이크, 음성 위조가 아니다”고 말했다. 이어 “현재 가장 위험한 것은 AI를 활용해 공격을 개발하고, 악성코드를 만들며, 침입을 계획하고 실행하는 것이다”라고 말했다.
카스퍼스키 글로벌 리서치·분석팀(GReAT)은 현재 900개 이상의 공격 활동 및 그룹을 추적하고 있으며, 2025년에는 190건 이상의 보고서를 발표했다. APT 그룹들은 분석을 어렵게 하기 위해 Rust와 Go 같은 프로그래밍 언어를 사용하고 있으며, 정상적인 서비스를 이용해 명령제어(C2) 트래픽을 숨기는 방식도 활용하고 있다.
일부 공격 그룹은 Outlook 캘린더 이벤트를 통해 통신을 전달했으며, 한국 정부 기관을 대상으로 활동해 온 Kimsuky APT 그룹은 Visual Studio Code 터널링을 악용한 것으로 확인됐다. 카스퍼스키는 Kimsuky의 악성코드에서 대규모 언어 모델(LLM)이 생성한 것으로 보이는 코드 흔적도 발견했다고 업체 측은 전했다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
