AI 출력 결과 편차 대응과 업무 프로세스 부족 위험 추출

사진:본지DB
사진:본지DB

기업들은 AI를 새로운 기회로 활용하는 것은 물론 일부 비즈니스의 문제 해결에 적용하고 있다. AI가 발전하면서 더 많은 비즈니스 기회도 생겨나고 이로 인해 AI 사용이 계속 증가할 것으로 전망된다.

하지만 AI가 일반적인 업무에서 의사 결정을 수행하는 등 더 핵심적인 업무로 이동됨에 따라 이미 결정한 최종 결과의 근거와 도출과정의 타당성을 제공하지 못하고 있다. 또 오류 원인을 즉각적으로 알지 못하고 어떻게 이런 결정을 했는지 개발자조차 파악하지 못하면서 블랙박스가 존재하는 AI에 의존할 수 없다는 인식 또한 커지고 있다.

이에 AI가 내린 결정이나 답을 AI 스스로가 사람이 이해하는 형태로 설명하고 제시할 수 있는 '설명 가능한 AI(eXplainable Artificial Intelligence, 이하 XAI)'가 핵심적인 비즈니스에 필수적으로 대두되고 있다.

지난 27 일부터 히타치 제작소가 히타치 컨설팅과 설명가능한 AI(이하 XAI)을 활용하여 업무 시스템에 AI의 도입과 지속적인 운영 개선을 지원하는 'AI 도입·운용 지원 서비스'를 본격적으로 제공하고 있다.

히타치는 고객의 업무 시스템에 AI를 적용할 때 XAI를 활용해 AI의 예측·판단 결과에 근거를 정량적으로 알기 쉽게 제시하고 AI가 결정한 최종 결과의 근거와 도출과정의 타당성을 제공함으로써 현장 담당자의 견해 차이를 파악하고 운용 단계에서는 AI의 동작 모니터링을 실시하는 것과 동시에 지속적인 개선을 가능하게하고, 중요한 결정을 수반하는 업무에서 AI 적용을 추진한다고 밝혔다.

이처럼 AI의 도입 및 운영 개선 프로세스에 XAI와 동작 모니터링 방식을 도입하면서 체제 · 구조의 정비 등 정착화를 위한 컨설팅도 실시하는 것으로, 새로운 서비스 창출과 경영 과제의 해결 등 고객의 디지털 트랜스포메이션의 실현을 지원하고 있다.

히타치는 지금까지 디지털 혁신을 가속하고 자사의 IoT 플랫폼인 루마다(Lumada) 유스 케이스와 데이터 활용의 검증에서 프로토타이핑 가치 검증, 제공 및 운영의 데이터에서 가치를 창출하는 솔루션인 '데이터 분석 마이스터 서비스'를 지원하고 히타치 컨설팅과 연계해 고객의 디지털 변환을 지원해 왔다.

특히 AI의 업무에서 수요 예측 및 품질 관리, 위험 관리 등에서 급속히 확산되고 있으며, AI의 도입에서 시스템의 운용 · 개선까지 일관된 지원이 더욱 중요 해지고 있다. 그러나 AI의 대부분은 머신러닝을 기반으로 하고 있기 때문에 AI가 출력하는 예측·판단의 근거를 이해하기 어려운 것이 중요한 판단을 수반하는 업무에서의 적용을 저해하는 원인이 되고 있다.

이러한 배경으로 히타치는 업무 시스템에 AI 적용 검토 단계에서부터 도입 후 지속적인 운영 개선을 지원하고 AI의 출력 근거 확인에 유효한 XAI의 활용에 의해 강화된 서비스로 'AI 도입 · 운영 지원 서비스'를 새롭게 출시한 것이다.

서비스는 히타치와 히타치 컨설팅이 지금까지 수많은 디지털 트랜스포메이션에서 쌓아온 다양한 노하우와 지식을 살려 업무의 AI 적용을 전제로 한 기획 검토에서 PoC 실시, 구축, 운영 · 개선까지를 일관되게 지원한다. 

히타치는 다양한 XAI와 그 활용 노하우를 적용해 AI 출력 근거를 제시함으로써 현장 담당자의 AI 적용에 대한 이해도를 높인다. 또한 AI 출력 근거와 현장 담당자와 업무 전문가의 지식을 비교하고 그 차이를 파악하고, 필요에 따라 AI 모델의 개선을 실시한다. 이는 현장 담당자에게 받아들여지는 AI 모델을 만들고 현장에서의 활용을 촉진한다.

또 운용 때 'AI의 동작 모니터링 및 지속적인 개선'으로 AI를 적용한 업무 시스템은 기존 시스템과는 달리 입력 데이터에 따라 행동이 달라지기 때문에 히타치는 2018 년 4 월에 일본 내 AI 제품의 품질 보증 기술에 관한 조사와 체계화 지원 및 응용 연구 개발을 추진하기 위해 설립된 컨소시엄(Consortium of Quality Assurance for Artificial-Intelligence-based products and services, QA4AI) 활동으로 얻은 지식과 노하우 등을 활용하고 AI의 변화를 모니터링하고 XAI를 활용하여 현장 직원과 AI의 판단 근거를 확인하고 AI 모델의 정확도 또는 저하되는 그 요인을 파악하고 개선해야 할 부분에 지속적으로 지원한다.

아울러 고객에 AI 적용의 목적과 기대 효과, 적용 기술과 데이터 체제 및 업무 프로세스 등 프로젝트의 전체를 확인한 후, AI의 정착화와 지속적인 개선을 실현하기 위한 지원과 관련 분야의 법령 및 업계의 각종 지침 등의 동향을 근거로 AI 출력 결과의 편차에 대응하는 체제와 업무 프로세스의 부족 등의 우려되는 위험을 추출하고 기업의 거버넌스 체제 구축 또는 업무 프로세스를 지원한다.

한편, 히타치는 '딥러닝, XAI 관한 최첨단 연구'라는 주제로 캐나다 몬트리올 대학교의 인공지능 연구소 MILA(Montreal Institute for Learning Algorithms)와 공동 연구를 진행하고 있다. 그 연구 성과 등을 통해 본 서비스를 더욱 강화하고 AI를 활용한 새로운 서비스의 창출과 비즈니스 전개와 디지털 트랜스포메이션의 실현을 지원하고 있다.

저작권자 © 인공지능신문 무단전재 및 재배포 금지