영국 요크대학교와 SDV AI 안전성 검증 기술 개발
키사이트테크놀로지스가 영국 요크대학교(University of York)의 자율성 보장 센터(Centre for Assuring Autonomy, CfAA)와 소프트웨어 정의 차량(SDV) 내 인공지능(AI)의 안전한 도입을 가속화하기 위한 공동 연구 협약을 체결했다고 발표했다.
이번 협력은 AI 시스템을 검증하는 실용적인 방법을 개발하고, 시스템의 안전성과 신뢰성을 증명하는 데 필요한 근거 데이터를 생성하는 데 초점을 맞춘다. 완성차 업체와 부품 공급업체는 이를 통해 개발 리스크를 줄이고 고도화되는 산업 요구사항 및 규제 기준을 충족하면서 AI 기반 자동차 시스템의 도입을 앞당길 수 있게 된다.
인공지능은 첨단 운전자 보조 시스템(ADAS), 자율주행 기능, SDV의 핵심 기술로 급부상하고 있다. 이러한 기능이 고도화됨에 따라 완성차 및 관련 기업들은 개발 단계뿐만 아니라 차량의 전체 수명주기 동안 AI 시스템이 안전하고 신뢰할 수 있으며 의도한 대로 작동함을 입증해야 하는 거센 압박을 받고 있다. 진화하는 규제와 안전 기대치를 충족하면서 한층 더 지능화된 차량을 시장에 선보여야 하는 자동차 업계에 이러한 증명 근거를 확보하는 작업은 가장 중요한 과제 중 하나이다.
키사이트와 요크대 CfAA는 체계적인 AI 안전 사례(AI safety cases) 구축 방법론을 발전시키고 AI 기반 자동차 시스템의 안전성에 대한 정당한 신뢰를 형성함으로써, AI 안전 연구와 실제 공학적 기술 구현 사이의 격차를 줄이는 데 협력한다.
이번 연구는 ISO/PAS 8800 요구사항 이행을 지원하는 근거 기반 접근 방식을 창출하고, 학술 연구 및 산업 표준에 기반한 측정 가능한 안전성 평가 방법론을 탐구하며, 감사 가능한 AI 안전 근거 생성을 위한 실용적 프레임워크를 구축하는 데 집중한다. 연구 결과로 도출되는 방법론은 AI 안전 사례 구축 프로세스를 지원하고 AI 검증에 대한 신뢰도를 향상시켜, 엔지니어링 팀이 제품 수명주기 전반에 걸쳐 더욱 효율적으로 AI 안전성을 입증할 수 있도록 돕는다.
영국 요크대학교는 운송 및 자동차 분야를 포함해 복잡한 시스템의 안전 공학 및 안전 보장 연구 분야에서 세계적인 명성을 얻고 있다. 요크대의 학술적 전문성과 키사이트의 AI 검증 기술이 결합되어 자동차 AI 개발에 실질적으로 적용 가능한 진일보한 방법론이 도출될 것으로 기대된다.
"국제 표준 준수하는 신뢰할 수 있는 AI 기술 배포 지원할 것"
요크대학교 시스템 안전학 석좌교수 사이먼 버튼(Simon Burton)은 "자동차 산업은 AI 기술이 차량 기능의 핵심으로 자리 잡는 결정적 전환점에 서 있으며, 강력한 데이터 기반 접근 방식으로 이러한 시스템을 평가할 수 있도록 보장하는 것이 필수적이다"라며, "이것이 바로 CfAA가 키사이트를 지원하는 가장 이상적인 이유이다"라고 밝혔다. 이어 "CfAA는 운송 분야의 산업 안전 전문가들이 이미 활용 중인 다양한 프레임워크와 지침을 공개해 왔으며, 이번 협력은 AI 안전 원칙을 안전이 필수적인 환경에 적용 가능한 공학적 실무로 전환하도록 지원하는 또 하나의 계기이다"라고 말했다.
키사이트 자동차 AI 솔루션 센터 총괄 루카스 클로제(Lukas Klose)는 "자동차 기업들은 AI 기반 시스템에 대한 신뢰를 구축할 수 있는 실용적이고 확장 가능한 수단을 필요로 한다"라며, "안전 보장 연구 분야를 선도하는 요크대와의 협업에 키사이트의 포괄적인 AI 검증 프레임워크를 결합하여, 엔지니어링 팀이 구조화된 AI 안전 근거를 생성하고 ISO/PAS 8800과 같은 국제 표준을 준수하는 신뢰할 수 있는 AI 기술 배포를 지원하겠다"라고 강조했다.
이번 연구 결과는 향후 키사이트의 AI 소프트웨어 무결성 빌더(AX1000A Keysight AI Software Integrity Builder) 개발에 반영되어 자동차 산업의 기대 수준에 부합하는 AI 안전 논거 수립, 안전 근거 생성 및 검증 활동 지원을 더욱 강화할 예정이다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
