‘오픈 시큐어 AI 얼라이언스’ 출범…개방형 모델·에이전트 하네스·보안 도구 공동 개발
엔비디아가 AI 안전과 사이버 보안을 강화하기 위한 ‘오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)’의 출범을 발표했다. 엔비디아와 창립 회원사들은 책임 있는 AI 활용과 신뢰도 향상을 지원하는 개방형 모델, 에이전트 하네스와 보안 도구를 공동 개발하고 공유할 예정이라고 밝혔다.
오픈소스 소프트웨어는 세계 경제를 지탱하는 핵심 기반이다. 기술을 전문가 커뮤니티가 자유롭게 활용하고 검토할 수 있도록 함으로써 클라우드 컴퓨팅, 금융 서비스, 제조, 통신, 정부와 인터넷 서비스 전반을 뒷받침하고 있다고 업체 측은 전했다.
사이버 보안은 오픈소스 소프트웨어의 3대 수혜 분야 중 하나다. 리눅스 재단(Linux Foundation)의 아크리테스(Akrites) 이니셔티브와 오픈SSF(OpenSSF) 커뮤니티의 활동을 기반으로 기반으로 하는 오픈 시큐어 AI 얼라이언스는 개방형 기술을 활용해 취약점을 해결하고 공개하는 데 협력할 예정이다.
오픈소스가 소프트웨어를 위한 공동의 기반을 마련했듯, 미국과 파트너 국가들은 이제 AI 보안과 관련한 선택의 기로에 놓여 있다. 인프라를 보호하는 방어 체계를 소수의 불투명한 시스템 안에 둘 것인지, 아니면 모든 보안 담당자가 검토하고 조정하며 배포할 수 있는 개방형 모델과 하네스, 도구를 기반으로 구축할 것인지 선택해야 한다는 것이다.
업체 측에 따르면, 세계에는 폐쇄형 모델과 개방형 모델이 모두 필요하다. 특히 사이버 보안 분야에서 개방형 모델과 개방형 하네스는 필수적이라는 설명이다. 방어 역량에 대한 접근성을 확대하고, 보안 담당자를 위한 투명성을 높이며, 데이터를 보호하면서 사이버 방어를 수행할 수 있도록 지원하기 때문이다. 또한 맞춤화와 현지화가 가능한 제어 기능을 통해 최첨단 폐쇄형 모델을 보완한다. 오픈소스는 단일 장애점 없이 커뮤니티가 주도하고 각 조직이 직접 통제할 수 있는 대규모 분산형 방어 체계를 가능하게 한다고 업체 측은 전했다.
개방형 모델도 다른 강력한 기술과 마찬가지로 악용될 수 있다. 여기에는 안전장치를 약화하거나 기능을 사이버 공격에 전용하려는 시도도 포함된다. 그러나 이러한 위험은 개방형 시스템에만 존재하는 것이 아니며, 첨단 AI가 배포되는 모든 환경에서 관리돼야 한다.
최근 발생한 허깅페이스(Hugging Face) 보안 사고는 사이버 보안 담당자에게 자체 방어를 위한 개방형 최첨단 에이전틱 시스템이 필요하다는 점을 분명히 보여줬다. 당시 공격자와 방어자를 구분하지 못한 폐쇄형 AI 도구가 필수적인 포렌식 분석을 차단하자, 허깅페이스는 자체 인프라에서 오픈 웨이트 GLM 5.2 모델을 실행해 1만7,000건 이상의 활동을 분석하고 침입을 차단했다.
이 사건은 실질적인 사실을 보여줬다. 보안 담당자가 첨단 AI를 직접 검토하고 조정하며 자체 인프라에서 실행할 수 없다면, 신속한 대응이 가장 중요한 바로 그 순간에 대응 역량이 제한될 수 있다. 기업과 국가는 핵심 산업이 멀티벤더 생태계 전반에서 보안 시스템을 구축하고 단일 장애점을 방지할 수 있도록 개방형 최첨단 방어 도구와 기술을 확보해야 한다고 설명했다.
클라우드 컴퓨팅, 사이버 보안, 엔터프라이즈 소프트웨어, 오픈소스 재단과 AI 연구 분야의 주요 기업과 기관들이 오픈 시큐어 AI 얼라이언스의 창립 파트너로 참여한다.
일각에서는 개방형 모델이 사이버 공격에 악용되거나 가드레일을 제거하도록 수정될 수 있기 때문에 본질적으로 안전성이 낮다고 주장한다. 그러나 이러한 위험은 실제로 존재하지만 폐쇄형 시스템에서도 사라지지 않는다. 단순히 모델 가중치를 비공개로 유지한다고 해서 공격자가 강력한 AI를 확보하거나 악용하려는 시도까지 막을 수 있는 것은 아니라는 것이다.
올바른 대응은 보안 담당자가 강력한 개방형 시스템에 접근하지 못하도록 제한하는 것이 아니다. 개방성과 함께 강력한 안전장치, 악의적 사용을 금지하는 명확한 규칙, 엄격한 평가와 신속한 취약점 대응 체계를 마련해야 한다. 사이버 보안에서 더 안전한 방향은 더 많은 보안 담당자가 사회가 의존하는 시스템을 시험하고 검증하며 강화할 수 있도록 하는 것이다.
보안 담당자에게는 최첨단 폐쇄형 모델과 최첨단 개방형 모델이 모두 필요하며, 두 모델이 함께 작동해야 한다. 이를 통해 보안 담당자는 업무에 적합한 시스템을 선택하고, 보안상 필요한 모든 환경에서 투명성과 맞춤화, 소버린 통제권을 확보할 수 있다고 업체 측은 전했다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
