LLM 늘어나는 만큼 보안 위협도 커져…AI 보안 가드레일 솔루션 ‘아이오나 해치’ 공개
윈즈(사장 양승천)와 클라비(대표 안인구)가 업무협약(MOU)을 체결하고 생성형 AI 플랫폼 구축 및 보안 협력에 나선다고 밝혔다.
최근 공공기관과 기업을 중심으로 LLM 도입이 늘면서 개인정보·기밀 유출, 부적절한 프롬프트 및 응답 생성 등 운영 단계의 보안 위협이 커지고 있다. 이를 막기 위한 실시간 검사·차단 안전장치 마련이 이번 제휴의 출발점이라는 것이다.
윈즈는 이번 협력을 통해 AI 보안 가드레일 솔루션 ‘아이오나(AIONA) 해치(HAECHII)’를 선보였다.
‘아이오나 해치’는 선악과 옳고 그름을 판단하고, 화재와 재앙을 막는 상상의 동물 ‘해치’에서 착안한 이름이다. 윈즈는 이 의미를 바탕으로 LLM과 사용자 사이에서 입력과 응답을 정책에 따라 검증·통제하는 AI 보안 가드레일로 아이오나 해치를 개발했다는 설명이다.
업체 측에 따르면, 아이오나 해치는 LLM과 사용자 사이에서 입력과 응답을 정책에 따라 검증하고 통제하는 솔루션이다. 외부 인터넷 연결 없이 폐쇄망 내부에서 검사와 판정을 수행하며, 사용자 질문부터 최종 응답까지 7개 구간을 각각의 정책으로 통제할 수 있다.
또 개인정보와 민감정보, 기밀정보 등을 탐지한 뒤 허용·경고·차단·마스킹·기록 등의 조치를 적용할 수 있다. 모든 판정 기록은 해시 연결 방식으로 보존해 사후 변조를 방지하도록 설계됐다.
양사는 클라비의 생성형 AI 구축 역량과 윈즈의 보안 기술을 결합해 AI 활용성을 유지하면서도 정보 유출과 오남용 위험을 줄일 수 있도록 지원한다는 방침이다. 구축과 보안을 연계해 보안성 검토와 운영 관리 부담을 줄이는 것도 목표라고 업체 측은 전했다.
양승천 윈즈 사장은 “LLM 구축 사업이 확대되면서 안전한 운영이 핵심 과제가 되고 있다”며, “클라비와의 협력을 통해 LLM 서비스와 AI 보안을 결합한 사업 모델을 다양한 시장으로 확대해 나갈 것”이라고 말했다.
안인구 클라비 대표는 “생성형 AI가 실제 업무 환경에 빠르게 적용되면서 LLM의 활용성과 함께 데이터 보호와 보안 위협 대응 역량이 중요한 경쟁력으로 부상하고 있다”며, “생성형 AI 구축 경험과 AI 보안 기술을 결합해 LLM 도입부터 운영까지 안전성을 확보할 수 있는 통합적인 AI 환경을 제공하겠다”고 밝혔다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
