한국지능정보시스템학회(회장 권오병 경희대교수)는 지난 19일부터 21일까지 “뉴 스페이스(New Space) 시대, 지능정보와 신 문명”이라는 주제로 2023년 추계학술발표회를 열었다. 연 2회 개최되는 동 학술발표는 인공지능(AI)을 비롯한 지능정보 시스템 관련 혁신적인 논문들이 국내외 연구진들에 의해 발표되고 있다.

이번 학회에서 AI 윤리와 거버넌스 분야에서 눈에 띄는 발표가 하나 있다. 최근 몇 년간 국내외에서 강조되고 있는 인공지능 윤리 관련, 윤리원칙들의 기술적 구현방법과 조직적인 인공지능 관리 시스템 개발을 위한 ‘인공지능 거버넌스 융합플랫폼’에 초점을 맞춘 “AI 윤리 구현을 위한 ‘AI 거버넌스 융합 플랫폼’ 참조모델 개발”(인제대학교 안종훈)이라는 발표다.

학회 특별세션으로 운영된 이 발표에는 글로벌 표준화, 제조업, 중견 및 대기업 그리고 스타트업 AI 개발 관련 네 명의 전문가들(위 이미지 참조)이 패널로 참여하여 열린 토론을 벌이기도 했다.

현재, 인제대학교 SW중심대학사업단 연구교수로 재직 중인 안종훈 교수는 2011년부터 디지털 기술과 인문학의 융합을 위한 디지털 인문학의 도입을 주장해온 디지터융합인문학자로 인공지능산업컨설턴트로서 현장과 대학에서 많은 활동을 하고 있으며, 2018년부터 인공지능 윤리 관련 논문을 매년 발표해왔다.

올해 그간의 연구결과를 종합하여 모든 산업의 AI 시스템 개발에 활용할 수 있는 ‘AI 거버넌스’의 아키텍쳐와 프레임워크를 포함한 융합플랫폼 참조모델(reference model)을 개발하였다고 한다.

안교수는 “AI 거버넌스 아키텍쳐와 프레임워크는 AI 기술을 책임있고 윤리적으로 개발하기 위한 방법론을 포함하고 있습니다"라며, "AI 시스템 개발은 관련 규정, 법령, 가이드라인 등을 준수하는 것이 필수적입니다"라고 말했다.

이어 "예를 들어, AI는 개인정보와 프라이버시, 마이데이터, 안전과 보안, 환경 보호 등의 법적 요구사항들을 모두 충족시켜야 합니다"라며, "이러한 요구사항들을 반영하기 위해서는 AI 개발과정에 대한 검증과 감사를 수행하고, AI가 발생시킬 수 있는 위험과 부작용에 대한 예방과 대응책을 사전에 마련할 수 있는 조직적인 관리 방법이 포함된 것이 AI 거버넌스 플랫폼입니다.”라고 밝혔다.

특히, 안교수는 국내 기업들이 현재 도입하고 있는 ‘ESG(환경-사회-거버넌스)’같은 다양한 거버넌스 시스템들이 분리되어 운영되고 있는데, 이들을 통합해서 운영할 수 있는 ‘AI 기반 거버넌스 융합 플랫폼’의 구축을 강조했다.