정부, 국가 인공지능 윤리기준(안) 공개... ‘인간성을 위한 인공지능’의 3대 원칙·10대 요건 담아
정부, 국가 인공지능 윤리기준(안) 공개... ‘인간성을 위한 인공지능’의 3대 원칙·10대 요건 담아
  • 최광민 기자
  • 승인 2020.11.28 20:52
  • 댓글 0
이 기사를 공유합니다

학계·기업·시민단체 등 전문가 의견수렴 거쳐... 12월 7일 공청회 등 공개 의견수렴 거쳐 12월 최종 발표 예정
이미지:KAIST, 편집:본지
이미지:KAIST 본지 보도(2018.06.19) 캡처, 편집:본지

인공지능은 사람보다는 안전하지는 않지만 사람보다는 위험하진 않다. 어린아이들이 어른으로부터 윤리를 배우듯이 인공지능도 똑같은 방식으로 윤리를 배워야 하고, 사람은 현재의 감정을 통해 질문에 대한 답변이 달라질 수 있는데 인공지능은 감정이 없기 때문에 때로는 사람의 의도대로 행동하지 않을 수 있기에 인공지능에 감정이 필요한 것이기도 하다.

인공지능이 활성화된다면 인간과 동반자로써 역할을 해야 하며, 인공지능과 인간은 서로 신뢰가 있어야 하는데 좋은 일을 할 것인지 좋지 않은 일을 할 것인지 거기서 윤리가 나오며 인공지능이 인간의 윤리를 그대로 따라야 신뢰를 쌓을 수 있을 거라고 보기 때문에 서로 간의 좋은 의도로 일을 하는 동반자가 되어야 한다.

이처럼 인공지능에 대한 윤리적 대응체계를 만들기 위해 민관학협력 모델을 시급히 구축하고, AI윤리에 대한 총론적 담론 수준에서 벗어나 산업별, 서비스별 윤리 이슈에 대한 구체적이고 탄력적인 정책적 대응을 해야 한다는 각계의 지적이 제기되는 가운데 과학기술정보통신부(장관 최기영, 이하 ‘과기정통부’)와 정보통신정책연구원은 27일, 인공지능 시대 바람직한 인공지능 개발·활용 방향을 제시하기 위한 '국가 인공지능 윤리기준'(안)을 발표했다.

이는 윤리적 인공지능을 실현하기 위해 정부·공공기관, 기업, 이용자 등 모든 사회구성원이 함께 지켜야 할 주요 원칙과 핵심 요건을 제시하는 기준으로, 인공지능·윤리학·법학 등 학계·기업·시민단체를 아우르는 주요 전문가들이 자문과 의견수렴 과정에 참여했다.

그간 인공지능 기술의 발전·확산과 함께 인공지능 기술의 윤리적 개발·활용 역시 세계 각국과 주요 국제기구의 관심 대상이 되어 왔으며, 지난해 우리나라가 주도적으로 참여한 경제협력개발기구(OECD) 인공지능 권고안(‘19.5)을 비롯하여 OECD, 유럽연합(EU) 등 세계 각국과 국제기구, 기업, 연구기관 등 여러 주체로부터 다양한 인공지능 윤리 원칙이 발표되었다.

이에 과학기술정보통신부는 이러한 글로벌 추세에 발 맞추어 지난해 발표된 「인공지능 국가전략(’19.12)」 주요 과제로 ‘국가 인공지능 윤리기준’ 마련을 추진해왔다.

그간 과기정통부는 인공지능·윤리 전문가로 구성된 인공지능 윤리연구반을 통해 국내외 주요 인공지능 윤리원칙을 분석하고, 그 결과를 윤리철학의 이론적 논의와 연계하여 ‘인간성을 위한 인공지능(AI for Humanity)’를 목표로 하는 윤리기준 초안을 마련하였으며, 3개월에 걸쳐 학계·기업·시민단체 등 각계의 다양한 전문가로부터 의견을 수렴하였다.

이러한 과정을 거쳐 마련된 '국가 인공지능 윤리기준'(안)은 ‘사람 중심의 인공지능’을 위한 최고 가치인 ‘인간성(Humanity)’을 위한 3대 기본원칙과 10대 핵심요건을 제시하고 있으며, 주요내용은 다음과 같다.

▶목표 및 지향점 모든 사회 구성원이 모든 분야에서 자율적으로 준수하며 지속 발전하는 윤리기준을 지향한다.

이에 따라 인공지능 개발에서 활용에 이르는 전 단계에서 정부·공공기관, 기업, 이용자 등 모든 사회 구성원이 참조하는 기준과 특정 분야에 제한되지 않는 범용성을 가진 일반원칙으로, 이후 각 영역별 세부 규범이 유연하게 발전해나갈 수 있는 기반 조성, 구속력 있는 ’법‘이나 ’지침‘이 아닌 도덕적 규범이자 자율규범으로, 기업 자율성을 존중하고 인공지능 기술발전을 장려하며 기술과 사회변화에 유연하게 대처할 수 있는 윤리 담론을 형성하고 사회경제, 기술 변화에 따라 새롭게 제기되는 인공지능 윤리 이슈를 논의하고 구체적으로 발전시킬 수 있는 플랫폼으로 기능한다.

▶윤리기준이 지향하는 최고가치를 ’인간성(Humanity)’로 설정하고, ‘인간성을 위한 인공지능(AI for Humanity)’을 위한 3대 원칙·10대 요건 제시

3대 기본원칙은 ‘인간성(Humanity)’을 구현하기 위해 인공지능의 개발 및 활용 과정에서 '인간의 존엄성 원칙', '사회의 공공선 원칙', '기술의 합목적성 원칙'을 지켜야 한다.

10대 핵심요건은 3대 기본원칙을 실천하고 이행할 수 있도록 인공지능 개발에서 활용 전 과정에서 '인권 보장',  '프라이버시 보호', '다양성 존중', '침해금지', '공공성', '연대성', '데이터 관리', '책임성', '안전성', '투명성'의 요건이 충족되어야 한다.

과기정통부 최기영 장관은 “이번 '국가 인공지능 윤리기준'(안) 공개가 국가 전반의 인공지능 윤리 이슈에 대한 인식과 논의를 활성화함으로써 ‘사람 중심의 인공지능’으로 나아가는 기반이 되기를 기대한다”고 밝혔으며, “앞으로 「국가 인공지능 윤리기준」이 새롭게 제기되는 인공지능 윤리이슈에 대한 토론과 숙의의 토대가 되고 현장에 정착할 수 있도록 노력하고, 윤리기준의 사회 확산을 위한 주체별 체크리스트 개발 등 실천방안도 마련해나가겠다”고 밝혔다.

한편, 과기정통부는 12월 7일 공개 공청회를 통해 '국가 인공지능 윤리기준'(안)을 소개할 예정이며, 12월 15일까지 시민들의 자유로운 의견을 이메일로 접수(aiethics@kisdi.re.kr)할 계획이며, 공개 의견수렴을 거쳐 보완된 최종 '국가 인공지능 윤리기준'은 12월 중순경에 대통령 직속 ‘4차산업혁명위원회’ 심의를 거쳐 확정될 예정이다.(국가 인공지능 윤리기준(안) 아래 첨부 참조)



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.