운전은 단조로운 경험이 될 때가 많다. 때로는 도착 시간에 대한 대략적인 예상만 세운 채 차에 올라 운전을 시작하기도 한다. 운전이 아무리 일상적이라 하더라도, 우리는 여정 내내 잠재적인 사고를 대비해 항상 경계하고 주의를 기울여야 한다. 특히 악천후 상황이나 교통이 혼잡한 도심 지역에서는 더욱 그렇다. 우리는 오랜 시간에 걸쳐 축적한 경험을 바탕으로 어떤 요인이 사고로 이어질 수 있는지, 어떤 상황을 주의 깊게 살펴야 하는지, 그리고 필요할 경우 어떤 행동을 신속하게 취해야 하는지를 판단한다.
이미지 출처:?Best/Stock.adobe.com; generated with AI?
센싱 기술은 차량의 자율주행 시스템이 주변 환경을 가상으로, 그리고 실시간으로 매핑하는 데 필요한 핵심 데이터를 제공한다. 이 지도는 차량 간 통신(V2V)과 차량-인프라 통신(V2I)을 통해 수집된 정보로 더욱 정교해진다. 이러한 중요한 정보 자원을 바탕으로 자율주행 머신 러닝 신경망은 잠재적인 위험을 지속적으로 감지하고 대응하면서 안전하게 주행을 수행할 수 있다. 자율주행 차량은 주의가 산만해지거나 판단 착오를 일으킬 수 있는 인간 운전자보다 본질적으로 더 성실하고 신뢰성이 높다. 그럼에도 불구하고, 사망 사고로 이어질 수 있는 상황이 발생할 가능성은 여전히 존재한다. 자동차 제조사 입장에서는 자율주행차가 생명과 직결된 상황에서 의사결정을 내리도록 하는 것이 중대한 도덕적·윤리적 과제를 수반한다.
?
도로 위에서 완전 자율주행 차량 시대로 나아가면서, 자율 시스템이 직면하게 될 윤리적·도덕적 딜레마는 소비자와 입법 기관, 보험사, 자동차 제조사를 포함한 자동차 산업 전반에 걸쳐 중요한 과제로 부상하고 있다. 앞으로 쉽지 않은 결정들이 이어질 것이며, 이러한 문제들은 언론에서도 큰 주목을 받게 될 가능성이 크다. 안타깝게도 이미 자율주행 차량과 관련해 사고 사례가 발생했는데, 예를 들어 센싱 알고리즘이 임박한 사고의 가능성을 제대로 추론하지 못하거나, 다른 차량이 매우 위험한 거리로 앞을 지나가고 있음을 감지하지 못한 경우가 있었다[1]. 이들 시스템이 고도화된 시뮬레이션 기법과 광범위한 시험 과정을 거친다 하더라도, 예측 불가능한 돌발 상황이나 무작위적 시나리오가 발생할 가능성은 언제나 존재한다.
?
생명과 죽음의 윤리
?
사망 사고를 피할 수 없는 상황에서 내려야 하는 결정은 극도로 복잡하다. 우리는 이러한 순간에 상황을 깊이 분석하기보다는 본능에 가까운 판단으로 순식간에 결정을 내리곤 한다(그림 1). 보행자를 치는 것을 피하기 위해 방향을 틀었다가, 대신 노상 카페에 있는 여러 사람의 생명을 위험에 빠뜨리는 선택을 우리는 과연 어떻게 판단해야 할까? 더 나아가 자율주행 시스템은 버스 안이나 카페에 몇 명의 사람이 있는지를 인식하도록 설계되어야 할까?
?
?
그림 1: 자율주행 차량은 위험 요소를 식별할 수 있지만, 올바른 회피 결정을 내릴 수 있을까? (출처: scharfsinn86/stock.adobe.com)
?
인간이 어떤 행동을 선택할 것인지에 대한 인식은 지역에 따라 다르며, 이러한 점은 네이처(Nature) 매거진에 실린 ‘도덕적 나침반 딜레마’ 관련 기사에서도 강조된 바 있다[2]. 해당 연구는 이러한 도덕적·윤리적 상황에 직면했을 때 자율주행 차량이 따를 수 있는 전 세계적으로 사회적 합의가 가능한 원칙의 집합을 연구·개발하는 것을 목표로 했다. 만약 이러한 지역별 인식 차이가 국가 차원에서 합의된다면, 신경망 파라미터를 미세 조정하는 방식으로 충분히 반영할 수 있을 것이다.
?
유럽에서는 유럽연합 집행위원회(European Commission)가 유럽 도로망의 특정 구간에서 완전 자율주행 차량을 허용하는 방향으로 정책을 추진하고 있다. 2022년 7월 발효된 차량 일반 안전 규정(Vehicle General Safety Regulation)은 레벨 4 및 레벨 5 완전 자율주행 차량에 대한 기술적 요구 사항과 더불어, 모든 도로 차량에 필수적으로 적용해야 하는 최소한의 첨단 운전자 보조 시스템(ADAS) 법정 기준을 규정하고 있다[3].
EU 내부에서 윤리라는 난제에 대한 대응은 국가별로 분산돼 있으며, 일부 회원국은 독자적으로 앞서 나가고 있는 상황이다. 예를 들어 독일은 2017년에 자율주행 차량을 위한 윤리 강령을 제정했다[4]. 피할 수 없는 사고 상황에서 머신러닝 알고리즘이 학습해야 할 핵심 원칙으로는 동물이나 재산보다 인간의 생명과 신체적 피해를 우선시하는 판단 기준이 꼽힌다. 영국 정부는 아직 이러한 윤리적 논의에 본격적으로 참여하고 있지는 않지만, 일정한 기준 하에서 공공 도로에서 자율주행 차량 시험을 수행하기 위한 가이드라인은 이미 제시한 바 있다[5].
?
책임은 누가 지는가?
?
사고의 책임을 어떻게 귀속시킬 것인지는 또 하나의 흥미로운 과제다. 인간 운전자 간의 사고에서 과실을 판단할 때, 보험사는 일반적으로 당사자들의 사고 진술과 긴급 구조 기관의 보고서를 바탕으로 사고 원인을 규명하고 책임 소재에 합의한다. SAE 기준 레벨 4와 레벨 5의 주행 자동화 차량은 인간의 개입이 전혀 필요하지 않다[6]. 이러한 경우 사고의 원인을 규명하는 과정에는 자동차 제조사, 알고리즘 개발사, 센서 제조사, 혹은 다른 차량의 인간 운전자가 포함될 수 있다.
레벨 3의 경우에는 회색지대가 존재할 수 있다. 레벨 3는 자율 시스템이 필요하다고 판단할 경우 인간 운전자가 주행을 인수해야 한다고 규정하고 있기 때문이다. 하지만 실제 상황에서는 지정된 운전자가 반응할 시간이 거의 없거나, 사고를 막기 위해 할 수 있는 일이 사실상 없을 수도 있다.
?
자율주행 차량이 관련된 사고를 조사할 때의 한 가지 장점은 차량의 데이터 로그에 접근할 수 있다는 점일 것이다. 미국 캘리포니아주에서는 자율주행 시험 차량이 사고 발생 전 30초 동안의 전체 시스템 데이터를 제공하도록 법적으로 의무화하고 있다[7]. 그러나 이러한 요구사항이 전 세계에서 판매되는 모든 자율주행 차량에 공통 기준으로 적용될지는 아직 불확실하다.
기술적 과제이든 도덕적 과제이든 앞으로 해결해야 할 난제가 많지만, 자율주행 차량의 궁극적인 목표는 모든 도로 이용자의 안전을 높이고, 교통 혼잡을 줄이며, 오염을 감소시키는 데 있다. 사회적으로 수용 가능한 윤리적 프레임워크가 실제로 구현되는 것도 결국 시간문제일 것이다.
?
참고 문헌
[1]?https://www.transportation.gov/sites/dot.gov/files/2024-08/HASS_COE_Understanding_Safety_Challenges_of_Vehicles_Equipped_with_ADS_Aug2024.pdf[2]?https://doi.org/10.1038/d41586-018-07135-0[3]?https://ec.europa.eu/commission/presscorner/detail/en/ip_22_4312[4]?https://www.bmv.de/SharedDocs/EN/publications/report-ethics-commission-automated-and-connected-driving.pdf[5]?https://www.gov.uk/government/publications/trialling-automated-vehicle-technologies-in-public/code-of-practice-automated-vehicle-trialling#safety-driver-and-operator-requirements[6]?https://www.sae.org/news/blog/sae-levels-driving-automation-clarity-refinements[7]?https://leginfo.legislature.ca.gov/faces/codes_displaySection.xhtml?sectionNum=38750&lawCode=VEH
?
저자 소개
?
마크는 2014년 7월 마우저 일렉트로닉스(Mouser Electronics)에 합류했으며, 그 이전에는 RS 컴포넌츠(RS Components)에서 선임 마케팅 직책을 역임했다. RS에 근무하기 전에는 텍사스 인스트루먼트(Texas Instruments)에서 애플리케이션 지원과 기술 영업 분야에서 8년간 근무했다. 또한 그는 코번트리 대학교(Coventry University)에서 전자공학(Electronic Engineering) 전공으로 1급 우등 학위를 취득했다.
?
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
