카카오(대표 홍은택)가 한국의 기술 윤리 기업으로서 스위스 제네바 UN 회의장에서 열린 신기술에 관한 인권 기반접근에 대한 2023년도 정책연구보고서 발간 행사에 참여해 인공지능(AI) 윤리 도입의 중요성과 카카오의 AI윤리 거버넌스 체계구축 사례 등에 관해 설명했다.

지난 14일(현지시간) 스위스 제네바 UN 회의장에서 열린 ‘스타트업의 관점에서 바라본신뢰가능한 AI를 위한 인권 기반의 접근 및 관련 국제 규범에 대한 논의’ 보고서 발간을 기념하기 위한 행사의 패널에나섰다. 본 행사는 주제네바 대한민국 대표부, 서울대 인공지능 정책 이니셔티브(SAPI), 그리고 Universal Rights Group(URG)의 공동 주최로 마련되었다.

SAPI(디렉터: 임용 서울대 법학전문대학원 교수)는 2022년에 주제네바 대한민국 대표부의 의뢰로 URG와 함께‘신기술에 관한 인권 기반의 접근’에 대한 정책 연구를 수행하여 보고서를 발간한 바 있으며, 금년에는 신기술 중 AI에대한 인권 기반의 접근을 실천하는 방안을 스타트업의 관점에서 심도 있게 논의하는 후속 보고서를 발간했다.

보고서에는 카카오의 AI 윤리 거버넌스 고도화 사례도 담겨 있다. 카카오 인권과 기술윤리팀 하진화 매니저가 본 행사에참여해 관련 내용을 소개했다. 행사 진행을 맡은 임용 교수는 "지금까지 AI 윤리를 포함한 거버넌스 논의가 서구권빅테크 중심으로 이뤄진 측면이 있다. 앞으로는 보다 다양한 문화적 사회적 맥락이 반영되고, 미래 혁신의 엔진이 될스타트업들의 관점에서도 현실적이고 실천 가능한 제안과 규범 논의가 필요하다. 이번 보고서를 통해 보다 많은 논의가촉발되기를 기대한다"고 말했다.

카카오는 그동안 연구하고 실천해 온 AI 윤리 실행 경험을 기반으로, AI 윤리 강화를 위한 가이드라인, 사내 인식을개선하기 위한 노력 등에 대해 설명했다. 이와 함께 AI를 포함한 기술 윤리를 기반으로 서비스를 검토하는 것이 안전하고신뢰할 수 있는 서비스를 만드는 데 있어 중요한 근간이라고 강조했다.

산업과 기업의 고유 특성을 고려해 AI 윤리를 위한 거버넌스 구축을 체계적으로 논의해야 하며, AI 윤리 부서나담당자를 지정하는 등 실질적 노력이 이용자의 안전과 건강한 디지털 생태계 구축으로 이어질 수 있다고도 의견을보탰다.

이해관계가 다양한 부서끼리 의사결정을 할 때는 인권과 기술 윤리를 준수해 서비스를 만들어야 기술이 불러올 수 있는잠재적 역기능과 부작용을 효과적으로 사전 예방할 수 있다는 것을 인지하고 협업해야 한다고도 피력했다.

아울러 인권 기반 접근(Human Rights Based-Approach, HRBA)을 토대로 AI 윤리를 준수하는 것은 지속가능경영측면에서도 가치있는 일이며 기업과 인권 이행 지침(UNGP)의 일환이라고 덧붙였다.

카카오 인권과 기술윤리팀 하진화 매니저는 “카카오 AI윤리 이슈는 ‘리스크 식별→과제의 우선 순위 선정→문제개선’의 절차에 따라 체계적으로 관리되고 있다" 며 "일련의 과정은 카카오의 인권 경영 원칙과 긴밀하게 연관되어있다"고 설명했다. 

카카오는 디지털 기업으로서 사회적 책임을 다하고 AI 윤리를 강화하기 위한 노력을 지속하고 있다.

2018년 알고리즘 윤리헌장을 발표하며 국내 기업 최초로 알고리즘 윤리 규범을 마련했다. 인류의 편익과 행복을추구하는 카카오 AI 기술의 지향점, 의도적 차별성 방지, 윤리에 근거한 학습 데이터 및 수집 관리 원칙, 알고리즘 관리의독립성과 알고리즘에 대한 설명 방침 등의 내용을 담았다.

또한 2022년 국내 기업 최초로 전사적 AI윤리 논의 기구인 ‘공동체 기술윤리위원회’를 신설했다. 공동체 전반에 걸쳐기술 윤리를 점검하고, 이를 사회와 함께 발전시켜 나가는 방안을 지속적으로 연구하겠다는 취지이다. 카카오 공동체서비스들의 AI 윤리 규정 준수 여부와 위험성 점검, 알고리즘 투명성 강화 등을 위한 체계적 정책 개선 업무를 수행한다.

이채영 카카오 공동체 기술윤리위원회 위원장은 "사회적 책임에 걸맞은 윤리적 규범과 원칙에 대해 고민하고 기술을활용한 서비스를 제공할 때 윤리적 접근 방식을 고려하는 것은 매우 가치 있고 중요한 일”이라고 말하며 “카카오는책임감을 갖고 스스로 앞장서서 기술 윤리를 준수할 것이며 AI 윤리 점검 도구 개발에 힘쓰고 구체적인 실천 방안을마련하기 위해 노력할 것"이라고 밝혔다. 

참고로 아래는 카카오 AI 윤리헌장 전문이다.

알고리즘 윤리헌장 대표적인 AI 기술 기업으로서, 사회적 책임에 걸맞은 윤리적 규범을 마련합니다.

1> 카카오 알고리즘의 기본원칙 카카오는 알고리즘과 관련된 모든 노력을 우리 사회 윤리 안에서 다하며, 이를 통해 인류의 편익과 행복을 추구한다.

카카오가 알고리즘 윤리 헌장을 도입한 목적입니다.
카카오는 알고리즘 개발을 통해 카카오 서비스를 직·간접적으로 이용하는 사람들이 편익을 누리고, 보다 행복해지는 데 기여하고자 합니다. 알고리즘 개발 및 관리와 관련된 일련의 과정에서 카카오의 노력은 우리 사회의 윤리 원칙에 부합하는 방향으로 이뤄질것 입니다.

2>차별에 대한 경계 알고리즘 결과에서 의도적인 사회적 차별이 일어나지 않도록 경계한다.

카카오는 다양한 가치가 공존하는 사회를 지향합니다.
카카오의 서비스로 구현된 알고리즘 결과가 특정 가치에 편향되거나 사회적인 차별을 강화하지 않도록 노력하겠습니다.

3>학습 데이터 운영 알고리즘에 입력되는 학습 데이터를 사회 윤리에 근거하여 수집·분석·활용한다.

카카오는 알고리즘의 개발 및 성능 고도화, 품질 유지를 위한 데이터 수집, 관리 및 활용 등 전 과정을 우리 사회의 윤리를 벗어나지 않는 범위에서 수행하겠습니다.

4>알고리즘의 독립성 알고리즘이 누군가에 의해 자의적으로 훼손되거나 영향받는 일이 없도록 엄정하게 관리한다.

카카오는 알고리즘이 특정 의도의 영향을 받아 훼손되거나 왜곡될 가능성을 차단하고 있습니다. 앞으로도 카카오는 알고리즘을 독립적이고 엄정하게 관리할 것입니다.

5>알고리즘에 대한 설명 이용자와의 신뢰 관계를 위해 기업 경쟁력을 훼손하지 않는 범위 내에서 알고리즘에 대해 성실하게 설명한다.

카카오는 새로운 연결을 통해 더 편리하고 즐거워진 세상을 꿈꿉니다.
카카오 서비스는 사람과 사람, 사람과 기술을 한층 가깝게 연결함으로써 그 목표에 다가가고자 합니다. 카카오는 모든 연결에서 이용자와의 신뢰 관계를 소중하게 생각합니다. 이를 위해 더 나은 가치를 지속적으로 제공하는 기업으로서, 이용자와 성실하게 소통하겠습니다.

6>기술의 포용성 알고리즘 기반의 기술과 서비스가 우리 사회 전반을 포용할 수 있도록 노력한다.

카카오는 우리 사회의 모든 구성원이 우리의 기술과 서비스를 통해 함께 상징하는 미래를 지향합니다. 알고리즘은 그 자체에 내재된 특성으로 인해 의도하지 않은 사회적 소외를 초래할 수 있습니다. 카카오는 이러한 역기능에 민감할 뿐만 아니라, 알고리즘을 활용하여 사회적 취약 계층의 편익과 행복을 증진할 수 있는 방안에도 주의를 기울이겠습니다.

7>아동과 청소년에 대한 보호 카카오는 아동과 청소년이 부적절한 정보와 위험에 노출되지 않도록 알고리즘 개발 및 서비스 디자인 단계부터 주의한다.

Digital for kids. 카카오는 우리 사회의 미래인 아동과 청소년이 깨끗하고 건강한 디지털 세상에서 건강한 인격체로 성장할 수 있도록 노력하고 있습니다. 카카오는 정신적·신체적으로 유해할 수 있는 정보와 위험으로부터 아동과 청소년을 보호하기 위한 환경을 조성하도록 부단한 관심과 자원을 쏟겠습니다.

8>프라이버시 보호 알고리즘을 활용한 서비스 및 기술의 설계와 운영 등의 전 과정에서 이용자의 프라이버시 보호에 소홀함이 없도록 노력을 다한다.

카카오는 알고리즘을 활용한 서비스로 이용자들에게 보다 편리한 일상을 제공하고 있습니다. 이 과정에서 카카오는 프라이버시 보호 원칙을 지키며 알고리즘을 만들고 운영할 수 있도록 책임을 다하겠습니다. 그 실천을 위해 Privacy by Design을 기반으로 카카오 서비스와 기술의 기획·운영 전 단계에 프라이버시 보호를 위한 사전예방과 점검, 개인정보 영향평가 등을 도입하고 발전시켜 나가겠습니다.<끝>