과학기술정보통신부(장관 임혜숙, 이하 ‘과기정통부’)는 정보통신정책연구원(원장 권호열), 한국정보통신기술협회(회장 최영해)와 함께 23일, 서울 더케이호텔에서 ‘인공지능 신뢰성 제고를 위한 공개 발표회(세미나)를 개최했다.

신뢰성 제고란 인공지능이 내포한 위험과 기술적 한계를 해결하고, 활용·확산 과정에서의 위험·부작용을 방지하기 위한 가치 기준으로서, 안전, 설명가능, 투명, 견고, 공정 등을 핵심요소로 포함한다.

이번 발표회는 올해 5월 발표한 '신뢰할 수 있는 인공지능 실현전략'의 후속조치로 준비 중인 인공지능 윤리 자율점검표, 인공지능 개발 안내서(가이드북) 및 인공지능 윤리 교육 총론 초안에 대해 각 계의 의견을 폭넓게 수렴하고자 마련되었다.

▷ ‘인공지능 윤리 자율점검표’는'인공지능 윤리기준'(‘20.12)'의 인간 존엄성 원칙, 사회의 공공선 원칙, 기술의 합목적성 원칙등 3대 원칙과 인권 보장, 사생활(프라이버시) 보호, 다양성 존중, 침해금지, 공공성, 연대성, 데이터 관리, 책임성, 안전성, 투명성 등 10대 핵심 요건을 구체화한 것이다.

기획자, 관리자 등 인공지능 제품·서비스의 기획 과정에 참여하는 주체가 인공지능 윤리 항목들을 자율적으로 확인할 수 있도록 점검 항목을 제공한다.

▷ ’인공지능 개발 안내서(가이드북)‘는 개발자, 연구자 등이 인공지능 개발 단계에서 참고할 수 있는 기술적 요구사항, 검증 항목·방법 등으로 구성되어 있다.

▷ ’인공지능 윤리 교육 총론‘은 사회 전반에 인공지능 윤리 의식을 확산하기 위해 교육 목표, 성취 기준, 교수·학습·평가 방향 등 인공지능 윤리 교육 기본 방향을 제시한다. 향후에는 이를 기반으로 초중고 대상별 교육 콘텐츠를 개발할 계획이다.

이번 세미나는 알고리즘 편향성, 사생활 침해와 같은 사회적 우려가 대두되는 상황에서 인공지능 신뢰성 확보와 인공지능 산업 발전 간 균형 잡힌 방향을 모색하는 데 그 의의가 있다.

이날 세미나는 관련 전문 기관에서 준비한 인공지능 윤리 자율 점검표, 인공지능 개발 안내서(가이드북), 인공지능 윤리 교육 총론 초안을 중심으로 발표와 전문가들의 토론이 진행되었다.

첫 번째 시간에는 정보통신정책연구원 문아람 박사가 '인공지능 윤리기준(‘20.12)'의 구체적인 실천 방안으로서 인공지능 윤리 자율점검표에 대해 발표하였다.

김명주 교수(서울여대), 김종욱 교수(동아대), 노태영 변호사(김·장), 임선경 사무국장(지능정보산업협회), 차순일 단장(한국정보통신기술협회), 최성진 대표(코리아스타트업포럼), 윤명 사무총장(소비자시민모임), 이재형 과장(과기정통부)이 토론자로 참여하여 다양한 시각의 의견을 개진하였다.

두 번째 시간에는 한국정보통신기술협회 차순일 단장이 인공지능 개발 단계에서 신뢰성 확보를 위해 기술적으로 확인해야 할 요구사항 등을 담은 개발 안내서(가이드북)에 대해 발표하였다.

김지희 교수(동국대), 박규동 교수(광운대), 서경원 교수(서울과기대), 김동환 대표(포티투마루), 김세엽 대표(셀렉트스타), 문정욱 센터장(정보통신정책연구원)이 토론자로 참여하였다.

개발 안내서(가이드북)의 현실 적합성을 제고하기 위해 산업계 대표로 실제 인공지능 기업들이 토론에 직접 참여하여 의견을 개진하였다.

세 번째 시간에는 서울교육대학교 변순용 교수와 정보통신정책연구원 조성은 박사가 인공지능 윤리 교육 총론을 발표하여 인공지능 윤리 교육 방향을 제시하였다.

김창환 박사(한국교육개발원), 이현숙 팀장(한국과학창의재단), 전성균 박사(한국교육과정평가원), 양천수 교수(영남대), 한선관 교수(경인교대), 김효은 교수(한밭대), 김종혜 교사(경기 서원고), 전재남 교사(경기 매양중)이 토론자로 참여하여 교육 현장 전반의 생생한 목소리를 전했다.

특히, 세미나는 과기정통부 영상 채널(유튜브)를 통해 생중계됐으며, 온라인을 통한 시민의견 수렴도 진행됐다.

과기정통부 박윤규 정보통신정책실장은 “사생활 침해, 첨단조작기술(딥페이크) 범죄 등 인공지능이 야기할 수 있는 사회적 문제에 대한 우려가 커지는 상황에서 인공지능 산업 발전을 위해서는 인공지능에 대한 신뢰를 확보하는 것이 반드시 선행되어야 한다”고 말했다.

이어 “인공지능 생태계에 참여하는 모든 구성원들이 안전하고 신뢰할 수 있는 인공지능을 개발하고 활용할 수 있도록 적극 지원해나가겠다”고 밝혔다.