기업들은 인공지능(AI)을 새로운 기회로 활용하는 것은 물론 일부 비즈니스의 문제 해결에 적용하고 있다. AI가 발전하면서 더 많은 비즈니스 기회도 생겨나고 이로 인해 AI 사용이 계속 증가하고 있다.

하지만 AI가 일반적인 업무에서 의사 결정을 수행하는 등 더 핵심적인 업무로 이동됨에 따라 이미 결정한 최종 결과의 근거와 도출과정의 타당성을 제공하지 못하고 있다. 또 오류 원인을 즉각적으로 알지 못하고 어떻게 이런 결정을 했는지 개발자조차 파악하지 못하면서 블랙박스가 존재하는 AI에 의존할 수 없다는 인식 또한 커지고 있다.

이에 AI가 내린 결정이나 답을 AI 스스로가 사람이 이해하는 형태로 설명하고 제시할 수 있는 '설명가능한 AI'가 핵심적인 비즈니스에 필수적으로 대두되고 있다. 특히, 중요 공장 및 공정의 인프로세스 또는 설비 및 장비에는 더욱 그렇다.

여기에, 한국생산기술연구원(이하 생기원, 원장 이낙규)이 포항공과대학교(총장 김무환)와 함께 제조설비의 고장 징후를 딥러닝 기술로 포착하고 그 원인과 판단기준을 시각적으로 표현해줄 수 있는 ‘설명가능한 인공지능(eXplainable AI. 이하, XAI) 기반의 설비 고장 진단기술’을 공동 개발했다.

기존에 개발된 제조현장의 AI 고장 진단기술은 설비가 현재 ‘정상 또는 고장’이라는 단순한 판정 정보만 제공할 뿐, 고장 발생이 어떤 이유로 예측되는지에 대한 설명과 근거를 제공해주지 못한다는 한계가 있었다.

이 같은 AI 동작 해석의 어려움과 또한 고장 신호가 들어왔을 때 작업자가 그 원인을 파악하기 위해서는 다른 방법으로 다시 분석하거나 제조설비를 직접 살펴봐야해 번거로웠고 시간도 오래 걸렸다.

이러한 문제점을 극복하기 위하여, 생기원 첨단메카트로닉스연구그룹 AI응용제조설비연구센터 윤종필 박사와 포항공대 전자전기공학과 박부견 교수, 김민수 학생연구원(박사과정)이 이끄는 공동연구팀은 설비에 부착된 다양한 센서로부터 획득한 시계열 진동신호를 이용하여 설비상태를 실시간 진단해주는 XAI 모델을 고안해냈다.

대다수의 핵심 제조설비들은 일정한 진동을 발생시키는 반복 공정을 수행하기 때문에 주파수의 변화로부터 고장 징후를 발견할 수 있다. 개발된 컨볼루션 신경망(Convolutional Neural Network)은 진동이 일정할 때는 ‘정상’으로, 주파수가 어긋나거나 흐름이 갑자기 바뀌었을 땐 ‘고장’으로 판정한다.

연구팀은 센서가 보내온 기초 시계열 진동신호들을 주파수 변환 작업 없이 그대로 입력값으로 활용하는 ‘End-to-End Model’을 적용해 진단시간을 크게 단축시켰고, 판정결과와 함께 그 원인 파악에 도움이 되는 주파수 특징도 제공함으로써 신뢰성과 활용도를 높였다.

나아가, 연구팀은 정상·고장 상태 분류에 대한 AI의 판단기준을 주파수 영역에서 시각화해 보여주는 '주파수 도메인 기반 그라데이션 가중치 클래스 활성화 매핑(FG-CAM, Frequency-domain based Gradient-weighted Class Activation Mapping)' 알고리즘’ 개발 연구도 병행했다.

이 알고리즘은 딥러닝 모델이 제조데이터를 통해 스스로 기계 학습한 정상·고장 판단기준을 작업자가 이해하기 쉽게 주파수로 표현해 기존 기술로는 알기 어려웠던 AI의 동작 해석을 돕고 블랙박스 영역도 줄여준다.

이로 인해 작업자는 제조설비의 이상 징후가 포착되는 즉시 AI의 판단을 믿고 고장 진단을 신속하게 내릴 수 있게 됐으며, 그 원인 규명 작업도 보다 수월해졌다.

생기원 윤종필 박사는 “생기원 대표기술 ‘키테크(Key-tech)’ 중 하나로, 생기원과 포항공대가 2020년 7월 맺은 ‘AI 기반 제조혁신 업무협약’의 첫 성과”라며, “반복적인 진동 신호를 얻을 수 있는 제조설비, 발전시설, 회전기기, 수송기기 등의 진단에 다양하게 활용 가능한 원천 플랫폼 기술로써 현재 부품제조기업과 실증사업도 추진 중”이라고 말했다.

한편, 이번 성과는 IEEE의 컴퓨터과학 및 산업공학 분야 우수 학술지인 EEE Transactions on Industrial Informatics에 '리니어 모션 가이드의 오류 진단을 위한 설명 가능한 컨볼루션 신경망(An explainable convolutional neural network for fault diagnosis in linear motion guide-보기)'이란 제목으로 지난 6월 게재됐다.