인공지능(AI)은 이미지, 음성뿐만 아니라 문장 등 새로운 콘텐츠를 생성하는 데 널리 활용되고 있다. 이런 생성모델의 발전에도 불구하고 최근 개발된 모델도 여전히 블랙박스의 존재로 국방, 의료, 제조, 금융, 자율주행 등의 매우 다양하고 중요한 작업에 모델을 활용하기에는 어려운 점이 따른다.

AI가 일반적인 업무에서 의사 결정을 수행하는 등 더 핵심적인 업무로 이동 됨에 따라 이미 결정한 최종 결과의 근거와 도출과정의 타당성을 제공하지 못하고 있다. 또 오류 원인을 즉각적으로 알지 못하고 어떻게 이런 결정을 했는지 개발자조차 파악하지 못하면서 블랙박스가 존재하는 AI에 의존할 수 없다는 인식 또한 커지고 있다. 

특히, 금융, 의료 등 도출 과정이나 결과에 설명이 필요한 분야에서 공정성, 신뢰성이 떨어진다는 평가가 있다. AI가 내린 결정이나 답을 AI 스스로가 사람이 이해하는 형태로 설명하고 제시할 수 있는 '설명가능한 인공지능(eXplainable Artificial Intelligence, XAI)'가 핵심적인 비즈니스에 필수적으로 대두되고 있다. 

이와 함께, 성능이 아무리 우수한 인공지능 모델이라도 용량이 큰 경우 다양한 엣지임베디드 디바이스에 배포하기 위해서는 메모리, 추론 속도, 정확성 등의 관계를 고려하여 가장 적합한 형태로 배포하기 위한 모델 경량화가 요구된다.

이에 개발자, 엔지니어 및 과학자들을 위한 선도적 테크니컬 컴퓨팅 소프트웨어 개발 글로벌 기업 매스웍스(MathWork)가 오는 22일(수) 오후 2시부터 3시30분까지 '설명가능한 인공지능 및 모델 경량화'란 제목으로 온라인 세미나를 개최한다.

이날 세미나에서는 MATLAB 환경에서 모델을 이해하고 결과를 설명하는 설명가능한 AI 솔루션 소개와 함께 보다 견고한 모델을 얻기 위한 검증 및 학습 방법을 자세히 다룬다. 뿐만 아니라 모델 경량화를 가능하게 하는 양자화 및 가지치기 방법을 자세한 예제와 함께 임베디드 디바이스에 배포하기 위한 모델 변환 및 코드 생성에 대해 인사이트를 공유할 수 있다.

세션 1에서는 '설명가능한 인공지능과 모델 검증'의 주제로 최근 많은 관심을 받고 있는 설명가능한 인공지능에 대한 MATLAB 플랫폼의 솔루션과, 적대적 예제를 통해 모델의 견고성을 높이는 방법에 대해서, 세션 2는 'MATLAB 환경에서의 딥러닝 개발과 모델 경량화'란 주제로 ​간단한 딥러닝 모델을 만들고 해당 모델에 대한 경량화 방법으로 양자화 및 가지치기 방법을 예제와 함께 소개한다.

한편, 발표에 나선 매스웍스코리아 김종남 부장은 LG전자, 인텔코리아 등에서 연구원으로 근무하였으며, 매스웍스에서 영상처리, 인공지능 분야를 담당하는 Application Engineer로 재직중이다. 이날 온라인 세미나는 관련 산업 및 기업을 대상으로 누구나 사전등록을 통해 무료로 참가할 수 있다.