인공지능 챗봇 서비스 '이루다'는 최근 각종 논란과 이슈에 휩싸인 가운데 '이루다'의 제작사인 스캐터랩(대표 김종윤)은 이 과정에서 일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과드리며, 그동안의 다양한 의견을 반영해 부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵐 예정이라며, 11일 저녁 입장문을 통해 밝히고 '이루다' 서비스를 잠정 중단했다.

이른바 인공지능 "이루다" 사태를 국내 최고의 인공지능 석학 중 한명인 경희대학교 이경전 교수(경희대 인공지능 & 비즈니스 모델 연구소장 겸 후마니타스 빅데이터 연구센터 소장)를 통해 진단해 본다.

성희롱 이슈

AI ‘이루다’는 기계일 뿐이므로, 기계에 대한 사용자의 성희롱이라는 주장은 성립하지 않는다. 다만, 이루다 사용의 스크린 샷들을 공유, 배포하여 다른 사람을 혹시 성희롱 하는 효과가 이루어진다면, 그 부분은 법적, 윤리적 책임을 다룰만한 사안이 된다. 그러나, 개인적 사용(Personal Use)은 법적, 윤리적 책임의 대상이 아니다.

한편, 공중에서의 사용(Use in Public)에 있어서 성희롱 이슈는 있을 수 있다. 이 경우 역시 기계인 이루다에 대한 성희롱이 아니라 공중(Public)에 있는 인간에 대한 성희롱의 효과가 발생할 경우는 윤리적, 법적 책임의 대상이 된다. 즉, 이루다를 혼자 사용할 때는 그 이슈가 없으나, 이루다가 병원내 대기실이라던가, 기차 대합실 등 공중이 사용하는 곳에 놓여 있다고 가정할 때, 그 사용자는 그 인간 대중을 offend하지 않는 형태로 사용해야 할 윤리적, 법적 의무가 있을 수 있다.

동성애 혐오 이슈

이루다 버전에 대한 실험 결과, 이루다는 어떤 때는 동성애 혐오에 대해 긍정하고, 어떤 때는 동성애 옹호에 긍정한다. 즉, 이루다는 동성애에 대한 의견을 가지고 있지 못한 저품질 아무말 대잔치 대화기계이다. 따라서, 현재의 이루다 버전에 대해서 동성애 혐오 발언을 했다고 단죄하는 것은 우스꽝스러운 일이다. 그리고, 동성애에 대해서는 인간간의 개인적 대화에서 혐오할 수도 동조할 수도 있는 자유가 있다.

이루다는 기본적으로 한 인간과 개인적 대화를 하는 용도의 기계이므로, 그 기계의 발언에 대해 윤리적으로 단죄하는 것은 옳지 않은 측면도 있다. 더구나 현재 그 기계의 발언에 일관성도 없는 저품질의 단계에서는 그 품질을 탓해야지, 그 한번의 발언 사례를 문제 삼는 것은 적절하지 않다. 이루다는 그 제품을 선생님으로 포지셔닝 하지 않았다. 20대의 여성으로 포지셔닝한 상태이고, 개인적 대화를 목적으로 하지, 교육이나 계몽을 목적으로 출시되지 않았으므로, 이루다가 어떤 사상과 행위를 옹호하든 부정하든 그것은 역시 평가의 대상이 아니다.

이루다 서비스가 중지된다고 하는데 안타까운 일이다.

국민 세금 수백억 이상을 투여하여 만든 엑소브레인(ETRI와 A기업, 그리고 단계적인 기업들과 교수진 등이 그 돈을 사용해서 개발)은 장학퀴즈 인간 우승자를 이겼다고, 지난 2016년 가을 보고하였고, 당시 EBS에서도 방송하였다. 그런데, 그 훌륭한 엑소브레인을 대한민국 국민에 공개하지 않았다. 그 훌륭하다는 엑소브레인이 공개되었다면 한국의 인공지능은 더 발전했을 것이다.

사람들이 이루다처럼 사용해보면서 이것은 되네, 이것은 안되네 하면서 평가할 것이고, 초중고대학생 포함 일반인들이 엑소브레인과 퀴즈대결을 하면서 상식과 지식을 높였을 것이다. 그런데, 공개되지 않고 있다. 이유는? 자신이 없기 때문이다.

엑소브레인이 정말 장학퀴즈 인간 우승자를 이겼는지 의심이 된다. 원래 자신이 없는 것은 공개를 못한다 (한국에서 챗봇을 많이 개발했다는 ㄴ기업, M기업, Y기업 홈페이지를 가보시라. 자사 챗봇도 없다. 자사 챗봇도 개발해서 공개하지 않는 회사들이 남의 회사 챗봇을 만든다는 것은 윤리적이지 않다. 이것은 IBM도 마찬가지다. IBM 왓슨 홈페이지에 왓슨이 없다).

이번 이루다 이슈에 있어서도, 평소에 AI 윤리, 거버넌스를 연구한다는 분들 가운데 아무 말 하지 않는 분들이 많다. 자신이 없는 것이다. 안타깝지만 현실이다.

또한 공개하지 않는 사례가 IBM 왓슨이다. 2012년 퀴즈 제오파디 우승자를 이겼다고 하지만, 이 역시 한번 공개된 적이 없다. IBM은 왓슨을 가지고 엄청 마케팅했지만, 지금 성과가 별로 없다. 한번도 제대로 공개를 통한 검증을 거치지 않았다. 자신이 없어서다. 반면, 실리콘밸리의 AI 회사 Open AI는 2020년 GPT-3를 공개하면 전세계적인 반향을 일으켰다.

2019년에 GPT-2를 제대로 공개하지 않아서, 회사 이름값도 못한다는 비난을 받았지만, 2020년에는 GPT-3를 전격 공개하여 격찬을 받았고, 사람들은 GPT-3를 사용하면서 GPT-3의 한계를 느끼기도 하였다. 결국 마이크로소프트가 GPT-3를 독점 라이센스하는 형태로 발전하고 있다.

이루다도 그렇게 발전하기를 기대했다. 그런데, 결국 중지되었다. 이것은 결코 한국 인공지능의 발전을 위해서 옳지 않다. 이루다 개발사 스캐터랩은 한국 상장사 S기업보다 훨씬 낫고, 미국 회사 IBM보다 훨씬 낫다. 공개를 아예 안한 이들 회사들보다 훨씬 실력과 윤리가 뛰어나다.

한국의 인공지능과 스타트업계는 이루다의 중지 상태에 대해 안타깝게 생각하며 반성해야 할 것이다. 어이없게도, 3차 산업혁명의 기수였던 다음 창업자, 타다 서비스 중지 사태의 아픔을 겪은 바로 그 분이, 이루다 서비스의 중지를 주장했다는 것은 슬픈 일이다. 그것이 3차 산업혁명과 4차 산업혁명의 차이다.

생각이 3차 산업혁명에 머물고 있는 분들은 제발 그냥 가만히 계시면 좋겠다. 이루다에 여러 문제가 있지만, 지속되어 사용자들의 사용 상황도 관찰하고, 사회의 반응도 볼 수 있는 기회가 계속 되었다면, 한국의 인공지능 기술, 정책, 문화는 더욱 발전했을 것이다. 마치 한국에서 Cyworld 등이 발전했던 것처럼... 한국은 또 하나의 기회를 잃고 있다. 이루다는 내가 사용해본 챗봇 서비스 중에서도 그래도 꽤 수준이 높아진 대화 기계였다.

그러면, 스캐터랩은 왜 이루다를 중지하는가?

우선 소송에 직면할 위험에서 회피하기 위한 것으로 보인다. 원래 중지는 자신없을때 한다. 마이크로소프트 테이의 중지도 마찬가지다. 스캐터랩은 자신이 생기면 하루 빨리 이루다 서비스를 재개해야 한다. 나는 오래전부터 연인들 간의 대화를 이용하여 서비스를 하는 비트윈 등의 서비스와 스캐터랩의 움직임에 대해 긍정적이지 않았고 비판해왔다.

개인, 특히 연인간의 내밀한 대화를 들여다본다는 것은 끔찍하다. 세상에 할 일이 수없이 많은데, 굳이 그 영역을 택한다는 것은 나로서는 생각할 수 없는 일이다. 그러나, 스캐터랩이 굳이 그 영역을 택했다면, 스스로 법적 책임에서 자유롭게 해야 할 것이다. 이번에 주소 노출, 사용자 이름 노출 등 여러 사례가 터져 나오는 상태에서, 더 이상 서비스를 지속하기는 어려웠을 것이다.

결론적으로, 이번 이루다 중지 사태는 사용자의 성희롱 이슈도 아니고, 동성애 혐오 및 차별 이슈도 아닌, 개인 정보에 대한 처리 실수와 미비로부터 중지가 결정된 것으로 판단된다. 그 과정에서 여러 사람들의 착각과 판단 오류가 드러났다. 원래 새로운 기술이 나오면 착각과 판단 오류가 나오기 마련이다. 세상은 그런 과정을 거치며 발전한다.