한국판 뉴딜 종합정책의 핵심 AI, 역기능 보완책도 필요



인공지능(AI) 기술이 산업 전반에 중요한 영향을 끼치고 있는 가운데, 인공지능 기술?산업 활성화와 역기능 대응을 위한 입법 필요성이 또다시 제기됐다.

4차 산업혁명 시대 국가 경쟁력의 핵심으로 부상한 인공지능은 우리 사회의 모든 영역에 걸쳐 패러다임의 변화를 초래할 것으로 보인다. 이미 세계 주요 국가와 기업들은 인공지능 기술개발을 위한 대규모 투자와 연구를 진행하고 있다. 우리나라도 이에 대한 중요성을 인식하고 지난해 12월 관계부처 합동으로 인공지능 국가전략을 발표했으나, 정책 수립을 위한 근거 규정이 부재하고 제도적 지원이 산발적으로 이루어지고 있다는 지적이다.

이에 지난 8월에 인공지능 기술 현황과 현형 법제도를 점검하고 앞으로의 경쟁력 확보 방안과 입법 대응 방안을 모색하고자 ‘디지털 뉴딜 시대의 인공지능 경쟁력 확보와 입법 대응’ 세미나(이하 인공지능 입법대응 세미나)가 열렸다.

김하중 국회입법조사처장은 개회사를 통해, “우리나라의 인공지능 경쟁력은 7개 선도국 중 낮은 편이다. 디지털 뉴딜 시대에 인공지능 경쟁력을 확보하기 위해서는 아직 준비할 부분이 많다”며, “우리 법제도가 인공지능으로 인한 사회 변화에 잘 대응하고 있는지 진단해야 한다. 인공지능의 순기능은 확대하고 역기능은 축소하는 입법 노력이 필요하다”고 밝혔다.

이어 국회4차산업혁명포럼의 이상민 공동대표는 축사에서, “대한민국이 AI 강국으로 나아가기 위해서는 인공지능 기술과 산업 경쟁력 확보 뿐만 아니라 기술 발전으로 인한 역기능에 대비하고 인공지능 윤리체계를 만들어 국제적 논의를 선도해야 한다”며, “그러한 의미에서 인공지능 경쟁력 확보와 입법 대응 방안을 모색하는 세미나는 매우 시의적절하다”고 강조했다.





마찬가지로 서병수 공동대표도 “인공지능 기술의 발전은 우리 생활을 보다 편리하고 스마트하게 변모시키는 것은 물론 새로운 부가가치를 창출하고, 뉴노멀 시대 국가의 핵심 경쟁력으로 자리매김하게 될 것”이라며, “그러한 의미에서 인공지능 경쟁력 확보는 뉴노멀 시대의 핵심 아젠다가 될 것이고 이를 지원하기 위한 법제도와 환경 조성은 물론 인공지능 시대 도래에 따른 노동시장 변화 등 사회적 문제에 대해서도 다각적이고 종합적인 대책 마련이 필요하다”고 말했다.

인공지능 법적 쟁점

데이터 기계학습을 하는 인공지능의 특성으로 안전성 결여와 오남용 등 역기능을 우려하는 목소리가 높다. 인공지능 기술은 대량의 데이터를 학습하여 성능을 향상시키는 기계학습에 기반하고 있어 불확실성과 불투명성을 갖고 있으며, 노이즈 데이터로 오류를 일으킬 가능성도 존재하기 때문이다. 인공지능 기술이 특정 분야에서 인간의 능력을 넘어서면서 이를 고의적으로 악용할 수 있다는 우려가 존재하며 인공지능에 의한 인간의 노동 대체, 사생활 침해, 양극화 심화 등의 사회 문제도 논의가 필요하다는 주장이다.



현재의 기술 수준과 사안의 시급성, 중요성을 고려한 논의의 선택과 집중이 필요하다. 국회입법조사처의 신용우 입법조사관은 인공지능 시대 준비를 위한 법제도 쟁점 및 대응방안, 이라는 발제에서 “인공지능을 둘러싸고 다양한 사안들이 혼재되어 있다”며, “우선, 인공지능 기술 발전 및 산업 진흥을 위해 시급히 해결이 필요한 사안, 두 번째로 가까운 시일 내에 위험이 현실화될 것으로 전망되어 논의가 필요한 사안, 마지막으로 중요도가 낮거나 당장 발생하기 어려울 것으로 전망되는 사안으로 나눌 수 있다”고 정의했다.

주요 법적 쟁점은 ▲정책 추진 및 추진체계 법적 근거 검토 ▲인공지능 학습을 위한 데이터기반 강화 필요 ▲인공지능 오작동 및 악용 우려 해소를 위한 법제도 연구 및 입법 필요 ▲법령 또는 가이드라인으로 인공지능의 안전성 등 기준 마련 ▲인공지능의 창작물에 권리를 부여하거나 사고발생시 법적인 책임 등이다.

우선, 정책 추진의 법적 근거 마련에 대한 문제는 인공지능 기술의 조기 확보 및 산업 확산을 위한 신속한 정책 추진, 과감한 예산 집행 및 지원, 유연한 규제 특례 제도 운용 등이 포함될 수 있다. 또한 기존 ICT 산업 진흥 법률과의 차별성, 소관 범위의 명확성을 검토해야하고 개별 분야별 정책추진의 법적 근거 필요성을 검토해야 한다. 인공지능 기술개발 및 산업진흥 정책 총괄 조정, 사회적 합의 도출을 위한 거버넌스 정립이 필요하다.

두 번째 쟁점은 데이터와 저작권 관련 사항이다. 데이터 관련해서 현행법제에는 인간/공공데이터가 구분되어 소관 기관과 법률 근거가 분리되었다. 일본은 2016년 12월 공공 데이터를 포괄하는 ‘관민데이터 활용 추진 기본법’을 시행하였다. 민간과 공공 데이터를 포괄하는ㄴ 데이터 활용 정책, 데이터 거래 유통 활성활 정책을 검토해야 한다.

저작관 관련해서는 인공지능의 저작물 기계학습 시 필요한 경우 복제를 허용하여 저작권 침해가 안 되도록 해야하며 공정이용 여부 판단 요소는 비영리성, 저작물 종류 및 용도, 원저작물의 시장 또는 가치에 미치는 영향 등이며 법령 또는 판례로 기준을 마련해야 한다.



세 번째, 인공지능 오작동?악용 우려 해소를 위한 법제도 연구 및 입법이 필요하다. 인공지능 기술의 내재적 특성에 따른 오작동(알고리즘 불확실성, 데이터 편향성 등)과 고의적 악용을 우려하고 있다. 외국 사례가 있다. 뉴욕시의 알고리즘 책임법, 캘리포니아주 경찰관 카메라 안면인식기술 금지, 미국 상원 알고리즘 책임 법안 등이 있으며 유럽에는 EU GDPR ‘자동화된 의사결정의 대상이 되지 않을 권리’가 있다.

윤리 기준을 마련한 케이스는 EU 집행위 ‘인공지능 윤리 가이드 라인, 인공지능 발전과 신뢰를 위한 백서 등이 있다. 우리나라 사례로는 입법 사례로, 지능정보화 기본법과 신용정보법이 있다. 윤리적 기준은 정보문화포럼에서 마련한 바 있고 정부는 2019년 인공지능 국가전략에서 역기능 방지 시책을 담은 기본 법제 마련 및 인공지능 윤리기준 확립을 표명하였다.



마지막으로, 인공지능에 따른 새로운 권리 책임 쟁점이다. 인공지능의 창작물에 권리를 부여하거나 사고발생시 법적인 책임을 지도록 하는 법제를 논의중이다. 그림, 음악, 소설 등 인공지능 창작물이 활용되면서 경제적 가치가 부각되고 있고 인공지능 창작물의 보호에 관한 쟁점이 있다. 또한 인공지능 사고시 법적 책임문제이다. 자율주행자동차 사고시 법적 책임이 논의되고 있고 완성차 업체의 기금 조성, 공적 보험이 논의된다. 제조물 책임법은 판례상 인정되는 ‘결함 등의 추정’을 2017년 법제화하여 피해자 입증책임을 완화하였다.

"한국판 뉴딜 종합정책에서 가장 화제가 된 사업은 ‘데이터 댐’이었는데
그 중에서 올 한해에만 2925억 원이 투입되는 AI 학습용 데이터 구축 산업이다.
하지만 실제 산업에서 쓸 수 없는 데이터만 양산할 수 있다는
우려의 목소리가 나오고 있고 과연 시장이 정책을 수용할 수 있을까 의문이 든다.
그래도, 다량의 데이터 확보가 중요하게 작용한다는 점 등에서 정부의 시도는 의미가 있다."
<김경훈 센터장, 인공지능전략센터>


"디지털 전환의 최전선에서 모든 산업의 생산성을 끌어올리는
인공지능 기술은 문자 그대로 데이터를 먹고 자란다.
하지만 우리나라는 아직 데이터와 관련 된 관행이나 법제도가
완비되어 있지 않아서 양질의 데이터가 많이 있음에도 충분히 활용되고 있지 않다.
데이터의 거래와 소유에 과한 법제도가 조속히 정비된다면
개인들의 자발적 거래에 힘입어 데이터가 가장 가치 있는 방향으로
흘러가고 가공되고 활용될 것이다."
<이상용 교수, 건국대학교 법학전문대학원>


어떤 법이 발의 되었나

지난 5월20일 국가정보화 기본법 전부개정안이 국회를 통과하였고 4월 4일에는 자율주행 시범운행 관련 법률안이 통과되었다. 또한 2018년 6월28일에는 드론산업 육성지원 관련 법률안이 통과되었고 같은 해(3월, 5월 11월)에 개별 산업 진흥 및 규제 특례 관련 법률안에 통과되어 지능형 로봇, 스마트도시, 의료에 관한 법률이 제정되었다.



이처럼 20대 국회는 대체로 개별 분야 인공지능 기술 개발 및 산업 진흥 법률안은 통과되었고 새로운 권리 부여나 의무 부과 법률안은 폐기되는 특징을 나타내었다. 다시 말해 자율주행차, 드론, 로봇, 스마트도시, 제약산업 등 개별 분야 지원 근거 및 규제 특례를 담고 있는 법률안은 통과된 반면 인공지능 기술 활용에 따라 새로운 권리를 부여하거나 의무를 부과하는 법률안은 충분한 사회적 합의 부족 등으로 입법화되지 않았다.

지난 5월 30일에 출범한 21대 국회는 8월 현재까지 정책 추진체계, 개별 분야 진흥, 행정 분야 적용 관련 법안이 발의되었다. 법안명은 자동차관리법(개정안), 행정기본법(제정안), 인공지능 연구개발 및 산업 진흥, 윤리적 책임 등에 관한 법률(제정안), 산업집적활성화 및 공장설립에 관한 법률(개정안), 비대면 중소벤처기업 육성에 관한 법률(제정안) 등이다.

이에 신용우 입법 조사관은 “인공지능 기술개발 및 산업 진흥 정책추진, 총괄 조정, 사회적 합의 도출을 위한 체계 정립과 같은 정책추진 및 추진 체계의 법적 근거와 데이터 기반 구축의 법적 근거가 필요하다”며, “특히 인공지능 기술의 수용성을 높이기 위한 기준 및 법제가 필요하다”고 강조했다.

‘21세기판 인형 눈 붙이기‘ 성공하려면

이어진 토론에서도 다양한 의견이 개진되었다. 먼저 정보통신정책연구원 인공지능전략센터의 김경훈 센터장은 “지난 7월14일 발표된 한국판 뉴딜 종합정책에서 가장 화제가 된 사업은 ‘데이터 댐’이었는데 그 중에서 올 한해에만 2925억 원이 투입되는 AI 학습용 데이터 구축 산업은 ‘21세기판 인형 눈 붙이기‘라는 평을 받은 사업으로 정부의 AI 국가 경쟁력 강화 의지를 보여주고 있다”며, “하지만 실제 산업에서 쓸 수 없는 데이터만 양산할 수 있다는 우려의 목소리가 나오고 있고 과연 시장이 정책을 수용할 수 있을까 의문이 든다. 그럼에도 불구하고 다량의 데이터 확보가 중요하게 작용한다는 점 등에서 정부의 시도는 의미가 있다”고 최근의 인공지능정책을 평했다.



김 센터장은 특히 “실제적으로 산업 지능화 혁신을 이끄는 것은 데이터와 인재”라고 강조했다. 그는 이어 “산업 지능화 혁신을 가속화하기 위해서는 이론 단계에서 실제 AI 시장으로 확산하기까지 단계별 이슈를 도출하고 이에 대응하기 위한 정책 프레임워크 구축이 우선되어야 한다”며 “인공지능 중심의 범국가 위원회로 역할을 재정립한 4차산업혁명위원회를 중심으로 산업 지능화 혁신 정책 프레임워크 설계를 위한 추진 체계를 가져가야 할 것”이라고 밝혔다.

건국대학교 법학전문대학원의 이상용 교수도 한국판 뉴딜정책에 우려를 나타내었다. 일시적일 수 밖에 없는 경제정책에 사회안전망 강화라는 지속적 사업을 포함시키는 것은 장기적 재정 건전성에 심각한 문제를 일으킬 수 있다는 것이다. 그럼에도 불구하고 이 교수는 디지털 뉴딜의 경우, 효율성과 성장성이 수십 년간 증명된 분야로 방향성을 잘 잡았다고 평가했다. 정부가 발표한 디지털 뉴딜 정책은 대체로 법제를 정비하고 공공재 공급을 지원하는 정부 본연의 역할에 충실하다고 말했다.

“디지털 전환의 최전선에서 모든 산업의 생산성을 끌어올리는 인공지능 기술은 문자 그대로 데이터를 먹고 자란다. 하지만 우리나라는 아직 데이터와 관련 된 관행이나 법제도가 완비되어 있지 않아서 양질의 데이터가 많이 있음에도 충분히 활용되고 있지 않다. 데이터의 거래와 소유에 과한 법제도가 조속히 정비된다면 개인들의 자발적 거래에 힘입어 데이터가 가장 가치 있는 방향으로 흘러가고 가공되고 활용될 것이다.”

데이터 법제와 관련하여 데이터 보호와 활용의 조화라고 강조한 이 교수는 “오히려 우리가 감시하고 견제해야 할 것은 정부이다. 개인정보에 대한 자기 결정권은 그 자체로도 중요한 권리이기는 하지만 그보다 사생활의 비밀과 자유의 보장을 통해 표현의 자유와 정치적 자유의 보장을 통해 표현의 자유와 정치적 자유를 보장받는 수단으로서의 중요성이 더 크다”고 말했다.

이에 이 교수는 인공지능 산업 정책과 관련하여, 정부와 시장의 역할 중요성을 빼놓지 않았다. “정부가 해야할 진정한 역할은 어설픈 지원책이 아니라 시장 경제가 잠재력을 제대로 발휘할 수 있도록 경쟁과 혁신의 토양을 쇄신하는 것이다. 타다 서비스의 좌초가 대표적이지만 원격의료를 막는 의료법이나 AI 변호사의 출현을 막는 변호사법도 좋은 예이다.”


"학습된 AI 모델은 경제적 가치가 매우 높음에도 불구하고
이에 대한 적절한 보호 방안이 마련되어 있지 못하다.
기존 저작권법상의 컴퓨터프로그램저작물 보호나
부정경쟁방지법 상의 부정경쟁행위의 보호가 과연 충분하고
적절한 것인지 새로운 연구가 필요하다."
<하이퍼커넥트의 전정현 변호사>


"최근 디지털 뉴딜에 관한 관심에 비해 아직까지
인공지능에 대한 비전들이 ‘손에 잡히지 않는다’는 점이다.
경쟁국에 비해 데이터 인공지능 활용 기반이 약한 상황에서
미래의 모습에 초점을 맞추고 현재의 정책을 설계하다보니
전망적이고 추상적인 측면이 강하기 때문이다.”
<정준화 입법조사관, 국회입법조사처>


손에 잡히지 않는 AI 비전

하이퍼커넥트의 전정현 변호사는 AI 개발과 관련된 법적 쟁점을 크게 보아 ▲개인정보 보호법 등 프라이버시 보호법제와 관련된 쟁점과 ▲저작권법 등 IP법제와 관련된 쟁점으로 구분하였다. 우선, 개인정보 보호 법제와 관련된 쟁점에 대해 이 변호사는 “8월에 시행된 개정 데이터3법은 가명정보의 개념이 도입되었다. 가명정보란 실무적으로는 통상 개인 식별자를 삭제 또는 대체하는 가명처리를 통해 개인을 알아볼 수 없도록 처리된 정보를 일컫는 것으로 이해되는데, 영상 정보, 음성정보나 텍스트 정보에 대해 어떻게 가명처리를 할 수 있을 것인지는 상상하기 어렵다”고 토로했다.

또한 전 변호사는 IP 법제와 관련된 쟁점에 대해, 학습 데이터와 관련된 지적재산권과 AI 기술과 관련된 지적재산권으로 구분하였다. 이에 그는 “인터넷을 통해 공개된 데이터을 크롤링하여 AI 학습데이터로 활용할 경우, 저작권이나 데이터 베이스 제작자의 권리를 침해하는 것인지는 불명확하다”며, “기계학습을 위해 빅데이터에서 필요한 정보를 추출, 비교, 분류, 기타의 분석을 실시하는 것을 광범위하게 허용하는 방향으로는 명확한 입법 개선이 바람직하다”고 의견을 피력했다.

특히 학습된 AI 두뇌를 어떻게 법적으로 보호할지를 고민해야 한다고 주장했다. “학습된 AI 모델은 경제적 가치가 매우 높음에도 불구하고 이에 대한 적절한 보호 방안이 마련되어 있지 못하다. 기존 저작권법상의 컴퓨터프로그램저작물 보호나 부정경쟁방지법 상의 부정경쟁행위의 보호가 과연 충분하고 적절한 것인지 새로운 연구가 필요하다.”

마지막 토론자로 나선 정준화 입법조사관은, 최근 디지털 뉴딜에 관한 관심에 비해 아직까지 인공지능에 대한 비전들이 ‘손에 잡히지 않는다’는 점을 지적했다. 경쟁국에 비해 데이터 인공지능 활용 기반이 약한 상황에서 미래의 모습에 초점을 맞추고 현재의 정책을 설계하다보니 전망적이고 추상적인 측면이 강하기 때문이란다. 이에 구체적인 인공지능 정책 이야기로 ▲설명가능한 AI 정책 ▲서비스 ▲소프트웨어 ▲정보격차 등을 꼽았다.

정 조사관는 이에, “먼저 설명가능한 인공지능(XAI)처럼 인공지능 정책의 도출 과정도 설명이 가능해야 한다. 어떠한 이유로 현재의 정책을 구성하고 있는 인공지능 이슈들이 도출되었는지, 목표 설정과 예산 배정의 근거가 무엇인지 설명할 수 있어야 한다”고 말하며, “다음으로 인공지능도 상당부분 서비스로(as a service) 국민들에게 제공될 가능성이 큰데 공급자 관점에서만 하드웨어, 인프라 정책을 강조하다 보니 수요자가 소비하는 서비스에 관한 정책적 관심이 낮아졌다. 인공지능 서비스가 국민들에게 제공될 수 있는 기반 조정이 병행되어야 한다”고 지적했다. 또한 그는 인공지능 서비스가 ‘응용 소프트웨어’ 형태로 제공될 것이기 때문에 인공지능 정책은 반드시 SW 개발 지원과 병행되어야 한다고 말했다. 정보 격차(divide)도 마찬가지다. 데이터를 기반으로 하는 인공지능 시대에서도 모든 사람들의 접근, 참여, 활용을 보장할 수 있는 방안이 마련되어야 한다고 봤다.