기업들은 AI를 새로운 기회로 활용하는 것은 물론 일부 비즈니스의 문제 해결에 적용하고 있다. AI가 발전하면서 더 많은 비즈니스 기회도 생겨나고 이로 인해 AI 사용이 계속 증가할 것으로 전망된다.

하지만 AI가 일반적인 업무에서 의사 결정을 수행하는 등 더 핵심적인 업무로 이동됨에 따라 이미 결정한 최종 결과의 근거와 도출과정의 타당성을 제공하지 못하고 있다. 또 오류 원인을 즉각적으로 알지 못하고 어떻게 이런 결정을 했는지 개발자조차 파악하지 못하면서 블랙박스가 존재하는 AI에 의존할 수 없다는 인식 또한 커지고 있다.

이에 AI가 내린 결정이나 답을 AI 스스로가 사람이 이해하는 형태로 설명하고 제시할 수 있는 '설명 가능한 AI(eXplainable Artificial Intelligence, 이하 XAI)'가 핵심적인 비즈니스에 필수적으로 대두되고 있다.

이는 AI가 갈수록 보편화됨에 따라서 어떻게 편견과 신뢰의 문제를 다루고 있는지를 밝히는 것이 그 어느 때보다 중요해 지고 있기 때문이며, 특히 의료, 금융, 보험, 군사 등 다양한 분야에서 사용자로부터 공감대 형성을 통한 신뢰를 얻고 더 나은 경험을 제공하기 위한 방향으로 서비스가 향상되고 있다.

이 가운데 한국미래기술교육연구원(대표 박희정)이 오는 14일 서울 여의도 전경련회관 사파이어홀에서 '설명 가능한 인공지능 [eXplainable AI, XAI] 개발과 산업별 적용방안 세미나'를 개최한다고 밝혔다.

금번 세미나에서는 △'설명 가능한 AI Overview - Rule induction에서부터 feature interpretation까지 -' △'AI 영상 이해와 최근 시각화 기법들을 활용한 XAI 개발' △'[게임분야 서비스] Self-attention을 이용한 설명가능한 강화학습과 아타리 게임에의 적용' △'[위성／항공 영상분야 서비스] XAI를 이용한 위성영상 분석과 적용방안' △'[의료／헬스케어 분야 서비스] XAI를 이용한 의료／헬스케어 적용 방안' △'[금융／핀테크 분야 서비스] XAI를 이용한 금용／핀테크 솔루션 개발과 적용방안' 등의 주제가 다뤄진다.

연구원 관계자는 "이번 행사를 통해 2020년 산업경제 전반을 강타할 XAI 기술의 핵심을 파악하고 관련 국내외 산업 및 시장동향에 따른 전략을 제시하는 장이 될 것이다.아울러 AI 시대에 발 맞추어 미래 발전전략과 신성장 신사업 기회를 준비하고, 향후 최적의 비즈니스 모델을 발굴하는 데 도움이 될 수 있기를 바란다."라고 밝혔다. 더 자세한 내용 및 참가는 홈페이지를 참조하면 된다.