딥러닝 의사결정에 큰 영향 미치는 입력 변수 기여도 계산해 이슈되기도



"산업 지능화는 인공지능을 통해서 산업의 생산성을 높이는 것이라고 생각합니다. 여기서 산업은 제조업, 의료, 금융 등을 포함한 산업이고, 여기에 디지털 기술 및 인공지능 기술이 가미된 도구를 적극적으로 활용해서 더 많은 정보를 빠르고 정확하게 수집 및 취합하고, 산업 환경에서 앞으로 일어날 일을 예측하여 최적의 의사결정을 돕는 것을 포함한다."

최재식 교수(KAIST 김재철AI대학원, (주)인이지 대표)는 최근, 정부가 처음 개최한 산업디지털 전환위원회에 민간 위원으로 참여했다. 위원회는 그 자리에서 산업 인공지능 내재화 전략에 대해 논의했다.

AI를 우리 산업에 적용(AI 내재화)하는 부분에 정책 주안점을 두자는 것이다. 위원회는 AI 내재화가 빠르게 진행될 수 있도록 AI 수요기업과 공급기업간 협업, 역량 강화와 민간 주도 생태계 조성에 중점을 두기로 했다. 마침 기업을 함께 운영하고 있는 최 교수가 가장 현실적인 답변이 가능하리라 생각했다. 최 교수에게 산업 AI 내재화, 인공지능 스마트팩토리에 대해 여러 가지 물었다.


Q.  산업디지털 전환 위원회는 산업 AI 내재화를 꾀한다고 들었다. 정확히 어떤 개념인지.

A. 산업강국 도약을 지원하는 것을 목표로 합니다. 인공지능을 통한 디지털전환은 더 적은 비용으로, 더 많은 제품을 효율적으로 생산을 도모하고 있는데요. 그 중에는 대용량 데이터를 자동을 분석하는 기술, 주요 공정과 설비를 자동으로 운전하는 기술, 디지털트윈 등을 기술과 결합하여 최적의 설계를 도출하는 기술 등이 있습니다. 좀 더 구체적으로는 이런 솔루션을 도입하는 수요기업이 적극적으로 AI 기술을 적용할 수 있도록 금융, 교육 및 솔루션 등을 제공하고, 이런 AI를 개발하여 공급하는 공급기업이 잘 성장해서 해외 진출까지 할 수 있도록 지원하고 육성하는 사업을 진행합니다.


Q.  이처럼 산업분야에 인공지능이 본격적으로 접목되면서 산업지능화, 라는 말이 많이 쓰이고 있는데요. 그렇다면 '산업지능화'라는 개념이 무엇인지요. 산업지능화는 어떤 식으로 진행될 것으로 보이고 그 종착역은 어디라고 보시는지요.

A. 저는 산업 지능화는 인공지능을 통해서 산업의 생산성을 높이는 것이라고 생각합니다. 여기서 산업은 제조업, 의료, 금융 등을 포함한 산업이고, 여기에 디지털 기술 및 인공지능 기술이 가미된 도구를 적극적으로 활용해서 더 많은 정보를 빠르고 정확하게 수집 및 취합하고, 산업 환경에서 앞으로 일어날 일을 예측하여 최적의 의사결정을 돕는 것을 포함합니다. 구체적인 사례를 들어 보겠습니다. 화학공정에서 생산되는 제품의 물성 및 품질의 변화를 미리 예측해서 균일한 품질의 고부가 화학 제품이 생산되도록 하는 것이나, 뜨거운 열 반응기에 불필요한 열을 더 가하는 것을 막아 에너지를 아끼는 것, 인공지능이 대규모 교차로 시스템을 모니터일하고 자동으로 제어해서 더 많은 차들이 교차로를 통과하여 더 빨리 귀가하는 것을 돕는 시스템을 생각할 수 있습니다.


"ChatGPT가 정보 수집에 있어서는 정확하지만
아직도 미래에 일어날 일에 대한 예측은 부족한 점이 있습니다.
세계적인 예측 기술을 솔루션화해서 여러 분야에서
가장 적확한 예측을 제공하는 서비스를 개발 및 출시하고 싶습니다."


Q.  지난해 교수님 연구팀이 인공지능 딥러닝의 의사결정에 큰 영향을 미치는 입력 변수의 기여도를 계산하는 세계 최고 수준의 기술을 개발했다고 화제가 되었습니다. 딥러닝 예측 모델의 판단 근거를 제공함으로써 신뢰도를 높여 딥러닝 모델의 활용성에도 크게 기여할 것으로 기대하고 있는데요. 어떤 식으로 활용이 가능한지 사례로 설명해 주신다면요.

A. 딥러닝의 설명성은 현재 두 가지 점에서 큰 관심을 갖고 있습니다. 첫 번째는 입력 변수 중 현재 딥러닝의 출력에 큰 영향을 준 변수가 어떤 것인지 계산하여 도출하는 것이고, 두 번째는 딥러닝 내부의 변수들이 출력을 예측하는데 어떤 기여를 하는지 확인하는 것입니다.

첫 번째는 구글에서 ‘Guided Integrated Gradient’라는 방법을 사용해서 정확한 설명을 제공하는데요. 이 방법은 현재 입력에서만 변수의 출력 기여도를 계산하는 것이 아니라, 입력에서 우리가 주요하게 생각하는 변수가 없어진 상황을 가정하고, 그 상태부터 현재 상태까지 변수를 변화 시키면서(내삽) 출력에 대한 변수 기여도가 어떻게 변하는지 확인합니다. 그 때 도출된 변수의 기여도를 적분으로 더해서 변수의 기여도를 도출하는 방법입니다. 저희는 이 방법이 계산을 하기 위해서 내삽을 하는 과정에서 우리가 관심을 갖는 주요한 입력 변수 뿐만 아니라, 직접적으로 관련이 적은 변수가 중요한 것처럼 계산되는 문제가 있다는 것을 확인하고, 이런 입력 들을 제외하는 방법을 통해서 그 정확도를 높였습니다.

예를 들면, 이미지에서 사람이 트럼펫을 불고 있는 부분이 어디인지 확인하고 싶은데요. 사람과 트럼펫이 없는 이미지부터 사람과 트럼펫이 다 나타난 이미지 사이를 탐색해서 계산하는 중, 트럼펫과 상관없는 뒷 배경에 있는 사람의 얼굴만 중요한 것처럼 나올 때, 이런 것들을 제외하는 방식을 통해서 출력에 기여를 하는 입력을 더 정확하게 찾을 수 있었습니다.


Q.  이번 개발은 교수님이 대표로 있는 (주)인이지 연구원과 함께 개발한 것으로 알려져 있는데요, 인이지를 창업하게 된 동기와 함께, 어떤 기업인지 소개 바랍니다.

A. 인공지능 기술은 산업 지능화 뿐만 아니라 검색, 질의 응답에 있어서 많은 변화를 가져왔고, 앞으로도 세상에 긍정적인 변화를 견인할 것으로 생각합니다. 얼굴 검출 및 인증의 자동화, 디지털 광고, 디지털 미디어의 자동화 고도화에 인공지능이 큰 역할을 하고 있으며, 현재 물류창고의 무인화에도 여러 인공지능 기술이 활용되고 있습니다.

다만, 이런 기술이 발전이 되어도 우리 기업들이 외산 솔루션을 도입하는 경우가 많습니다. 예를 들어, 물류창고를 자동화 하는 로봇 기술은 세계적으로 중국 기업들이 경쟁력이 있다고 알고 있습니다. 그러니, 이렇게 인공지능을 통해서 자동화 무인화되면서, 기존 일자리가 줄어들고 있고, 인공지능 솔루션을 제공하는 업무에 대한 일자리를 늘어나고 있는데요. 저는 인이지가 우리 땅에 본사가 있는 세계적인 인공지능 솔루션을 공급하는 기업이 되기를 기대하고 있습니다.
 
Q.  산업의 지능화가 급속도로 진행되면서 이것을 진행하면서 어려움도 적지 않을 것 같습니다. 그래서 앞서 말씀드린 전환위원회와 같은 기구도 생기는 것 같은데요. 정책(규제)이나 시장 측면에서 어떤 어려움이 있고 어떻게 해결해 나가야 한다고 생각하시는지요.

A. 산업 전반적으로 데이터를 인공지능 모델의 학습 용도로 사용할 때 아직도 제약이 많은 것으로 알고 있습니다. 중국의 얼굴인식 기술이 세계적인 수준이 된 것은 중국 수억 명의 얼굴 데이터를 활용할 수 있게 되어 그렇다고 알고 있습니다. 우리도, 주요한 분야에 대해서 한시적, 단기적으로라도 인공지능 산업 육성을 위해서 데이터를 학습하는 것을 허용하는 법적 정책 및 문화가 있으면 좋겠습니다.


Q.  끝으로 앞으로 연구하고 싶은 분야(과제)나 이루고 싶은 목표가 있다면요.

A. ChatGPT가 정보 수집에 있어서는 정확하지만 아직도 미래에 일어날 일에 대한 예측은 부족한 점이 있습니다. 세계적인 예측 기술을 솔루션화해서 날씨, 경제, 운송, 물류, 교통, 공정 등 여러 분야에서 가장 적확한 예측을 제공하는 서비스를 개발 및 출시하고 싶습니다.