인공지능(AI) 발전, 정말 빠르다. 하루가 다르게 우리와 산업과 사회의 패러다임을 바꾸고 있다. 말 그대로 혁신적인 진화를 거듭하고 있다.

반면에 세계적인 AI 석학과 전문가들은 가까운 미래, AI는 자신보다 더 뛰어난 AI를 만들어내기 시작하면서 인간은 더 이상 AI를 통제할 수 없게 된다는 ‘싱귤래러티(Singularity)‘을 심각히 논하며, 그 순간은 그리 멀지 않았다고 전망한다.

싱귤래러티는 인공지능(AI)이 진화하다가 인류의 지능을 초월하는 기점(특이점)을 뜻한다.

구글 전 CEO 이자 미국 인공지능 국가안보위원회(NSCAI) 위원장 에릭 슈미트(Eric Schmidt)는 “AI가 기후 변화, 빈곤, 전쟁, 암을 해결할 것이다”라고 말했다.

반면, 테슬라 CEO 일론 머스크는 “AI 연구는 악마를 소환하는 일”이라고 말했다. 또한 세계적인 미래학자이자 ‘싱귤래러티가 도래한다’라는 저서로 우리에게 널리 알려진 구글 기술고문인 레이 커즈와일(Ray Kurzweil)은 기술이 인간을 초월하는 순간이 온다고 예측한 2029년이 얼마 남지 않았다고 한다.

그는 인공지능과 특이점(Singularity) 분야에 전문적인 지식을 갖고 있는 대표적인 미래학자로 기술이 선형적인 발전을 하는 것이 아니라 기하급수적인 발전을 거듭한다는 ‘수확 가속의 법칙(The Law of Accelerating Returns)’을 주장하고 있다.

결국, AI와 인간의 두뇌가 자연스럽게 하나가 될 것이라고 본다며 “인간이 점점 기계처럼 될 것이고, 기계는 점점 인간처럼 될 것”이라고 한다. 즉, 인간은 기계가 되고 기계는 인간이 된다! 고 주장한다.

과연 그들이 예측한 싱귤래러티는 정말 도래할 것인가?

이러한 AI를 둘러싼 논쟁과 화려한 이슈에도 불구하고, 인간의 지능을 완전히 능가하거나 일부 초월한 수준에 도달했다고 말할 수 있는 AI의 실현은 아직 이뤄지지 않고 있다. 단순한 알고리즘으로 움직이는 기계는 과연 진화할 것인가?, 여기서 멈춰 설 것인가? 에 대한 명제에는 대부분의 전문가들은 그 실현이 인간의 예측보다 훨씬 더 복잡하고 어려운 일이 될 것이며, 더 많은 시간을 요구한다고 단언한다.

여기에, 세계적인 베스트셀러 클루지(kluge)의 저자이자 MIT 출신의 뛰어난 인지과학자 게리 마커스(Gary Marcus)와 AI의 상식적 추론(common sense reasoning) 분야의 독보적인 전문가 어니스트 데이비스(Ernest Davis) 교수가 공동 저자로 출간한 ‘2029 기계가 멈추는 날’이 비즈니스북스가 한국어판으로 최근 출간하면서 다시금, AI가 인류의 지능을 초월하는 시대가 도래할 것인가에 대한 관심이 고조되고 있다.

이 책은 21년간 MIT의 뇌인지과학과의 교수로 재임했던 스티븐 핑커(Steven Pinker), MIT 명예교수 노엄 촘스키(Noam Chomsky), 인간 중심 AI 스탠포드 연구소(Human-Centered Artificial Intelligence, HAI) 에릭 브린욜프슨(Eric Brynjolfsson) 이사 등 세계적인 석학들이 최고의 인공지능 지침서로 추천하기도 했다.

‘인간의 정신’(human mind)에서 AI의 미래에 대한 영감을 얻은 저자들은 이 책을 통해 AI를 인간이 신뢰할 수 있는 수준으로 진전시키는 데 무엇이 필요한지 설명하고, 결론적으로 우리가 현명하게 대처하기만 한다면 그런 진보의 과정에서 기계의 지배를 받는 미래를 걱정할 필요가 없다고 이야기한다.

또한 이 책은 AI 비즈니스의 현주소에 대해 명료하고 현실적인 평가를 내놓으면서 새로운 세대의 AI를 통해 인간이 원하는 미래를 설계해 나가는 법에 대한 고무적인 비전을 제시했다.

그 실현이 우리 예측보다 훨씬 더 복잡하고 어려운 일이 될 것이라고 말한다. AI가 인류세에 이정표를 그을 것이라는 사실은 분명하다. 다만 어떤 모습으로, 어떤 영향을 미칠 것이냐에 대한 논쟁은 끊이지 않고 있다.

저자들은 “AI를 둘러싼 과대 선전에도 불구하고 인간의 지능과 능력을 완전히 뛰어넘거나 일부 초월한 수준에 도달했다고 말할 수 있는 AI의 실현은 아직 이뤄지지 않았다”며, “인간이 원하는 AI를 가까운 미래에 실현하기 위해서는 지금 당장 접근법을 바꿔야 한다”고 주장한다.

이 책에 따르면, 최근 AI 분야의 눈에 띄는 진보는 하드웨어의 비약적인 발전과 함께 기가바이트나 테라바이트 단위의 대규모 데이터 세트, 즉 빅데이터와 이를 분석하는 알고리즘인 ‘딥러닝’ 덕분에 이뤄졌다. 전 세계 1억 대 이상 판매된 아마존의 알렉사와 구글의 자회사 웨이모(Waymo)의 자율주행차, IBM의 왓슨이 대표적인 예다.

그러나, 이들은 하루아침에 대변혁을 이룰 것만 같았던 화려한 등장이 무색하게도 1년도 채 지나지 않아 실망스러운 성적표를 받았다. 너무 손쉽게 개인정보를 유출하는 사건을 일으킨다거나 흐린 날씨, 표지판 혼동 등 변수에 대응하지 못해 교통사고가 벌어졌고 가슴 통증이라는 증상에 평범한 의과대 1학년생도 내놓을 수 있는 진단을 내놓지 못하는 문제로 말이다.

공동 저자, 게리 마커스와 어니스트 데이비스는 이를 보통의 인간은 가지고 있지만 딥러닝 기반의 기계는 갖추지 못한 상식과 추론 영역의 한계 때문이라고 말한다. 그리고 진정한 AI의 전환점은 2012년에 일어난 딥러닝의 재탄생이 아니라 상식과 추론 영역에서의 ‘딥 언더스탠딩(deep understanding)’, 즉 심층적 이해에 대한 문제의 해결점이 보이는 순간이 될 거라고 주장한다.

비즈니스, 경제, 학계 등 폭넓고 다양한 영역에서 새로운 판을 창조하게 될 AI에 대한 관심은 더욱 더 뜨거워지고 있다.

‘2029 기계가 멈추는 날’은 10여 년 동안 AI를 에워쌌던 과대 선전에 대한 반가운 해독제이자 앞으로 세상에 엄청난 영향을 미칠 변혁을 이해하는 귀중한 가이드로 세계적인 석학들의 찬사를 받았다. 단순히 AI의 현 실태를 분석하고 평가하는 데 머물지 않고 인간과의 공존을 위한 건설적인 전략과 장밋빛 제언을 전한다.

‘2029 기계가 멈추는 날’의 구성 및 내용을 간단히 요약해 본다.

이 책은 저자의 'AI는 훨씬 더 인간다워져야 한다'는 글로 시작해서 ▷제1장, '꿈과 현실의 간극에 선 AI'의 주제로 과대평가된 AI의 문제점, 기계는 얼마나 인간과 가까워졌나, ‘닫힌 세계’에 갇혀 있는 인공지능, 세상의 다양성과 복잡함을 기계가 알 수 있을까, 지금의 AI 연구는 잘못된 길로 가고 있다.

▷제2장에서는 '진짜 위협인가, 위협적인 척인가' 의 주제로 터미네이터는 없다, 의도를 알지 못하는 어리석은 하인, 지금의 AI를 얼마나 믿을 수 있을까, 빅데이터를 넘어선 새로운 접근법을 찾아야 할 때라고 한다.

▷제3장은 '딥러닝을 너무 믿지 마라'의 주제로 지금, 왜 딥러닝에 주목해야 하는가, 인간의 뇌를 닮은 시스템, 불가능이 없는 딥러닝의 탄생, 탐욕스럽고 불안정하며 알 수 없는 존재, 완전한 지성이 아닌 알고리즘의 하나일 뿐이다.

▷제4장에서는 '구글은 문맹인가, 언어 천재인가?'의 주제로 기계는 정말 글을 이해할 수 있을까, 똑똑한 AI가 제대로 읽지 못하는 이유, 비유·상식·추론을 통합하는 일, 링크를 찾는 것과 질문을 이해하는 것의 차이, 애플 시리는 정말 비서가 될 수 있는가, 추론하지 못하는 구글 번역의 한계, 인풋과 아웃풋으로 설명할 수 없는 언어의 미묘함, 지금의 AI가 인간처럼 읽지 못하는 이유, 인간의 ‘상식’을 기계에게 이해시키는 일, 세상을 모르고 언어를 알 수는 없다

▷제5장은 '로봇은 정말 다 알아서 해줄까'의 주제로 인간의 일자리를 아직 안전하다, 가정용 로봇은 꿈의 영역일까, 알고 보면 대단한 로봇청소기의 능력, 인간에게는 쉬운 일이 로봇에게는 어렵다, 닫힌 시스템은 알 수 없는 열린 세계, AI에게는 큰 도전인 일상적인 업무, ‘다 알아서 하는 로봇’은 언제쯤 실현될까.

▷제6장에서는 '인간 정신이 주는 11가지 인사이트'의 주제로 ‘마스터 알고리즘’은 존재하지 않는다, 기계에는 ‘표상’이 없다, 세상을 이해하는 도구·추상화와 일반화, | AI는 유연성을 가지고 생각할 수 있는가, 규칙과 불규칙을 통합하는 인간 정신의 비밀, 단어의 합은 문장이 아니다, 같은 말도 맥락 안에서 달라진다, 숨겨진 본질을 간파하는 능력이 필요하다, 인과성을 학습하는 일의 어려움, 인간의 경험과 딥러닝의 차이점, 무에서 유를 만들려 하지 말라.

▷제7장에서는 '상식과 딥 언더스탠딩으로 가는 길'의 주제로 상식을 ‘코딩’하는 일의 어려움, 상식을 명확하고 애매하지 않게 나타내는 방식, 수천 개의 지식에서 관계를 찾아내는 법, 시간·공간 그리고 인과성, 진보의 시작은 유동성을 얻는 데 있다, 계획을 세우고 수정할 줄 아는 로봇, 시뮬레이션만으로는 부족하다, 부정확하고 불완전한 인간이 AI보다 나은 점, 범용지능으로 가는 길.

마지막으로 ▷제8장은 '신뢰할 수 있는 AI를 향해'의 주제로 AI에도 안전 법규가 필요하다, AI가 판도라의 상자가 되어서는 안된다, 소프트웨어의 신뢰성을 높이는 접근법, 지름길은 없다, 버그 없고 위해를 가하지 않는 AI, 로봇이 가져야 할 가치관은 무엇인가, 진정한 의미의 ‘생각’을 할 수 있는 인공지능, 더 나은 AI는 있다. 로 마무리하면서, 인공지능에 우리가 현명하게 대처하기만 한다면 그런 진보의 과정에서 기계의 지배를 받는 미래를 걱정할 필요가 없다고 결론짓는다.

한편, 더불어, 몇년전 본지가 취재했던 세계적인 미래 학자이자 AI 혁신의 대표주자인 제리 캐플런(Jerry Kaplan) 미국 스텐포드대(Stanford University) 교수가 KAIST에서 ‘인공지능 다시 생각하기(Artificial Intelligence: Think Again)' 이란 주제로 강연했었다. 다시 정리해 본다.

그는 "인공지능은 인간의 능력을 초월하나, 절대로 인간과 같은 사고방식으로, 생각하는 것은 불가능 하다"라고 주장하며, "일부 미래학자들이 인공지능이 비약적으로 발전해 인간의 지능을 뛰어넘는 ‘싱귤래러티(Singularity)‘가 곧 올 것이라는 주장에 ‘Singularity’는 없다"고 단언했다.

그 당시, 그는 성공적인 한국의 AI 산업을 위해서 조언했다. ▶데이터 관리 측면에서 많은 양의 데이터를 수집, 저장해야 한다. ▶"과학자가 아닌 엔지니어를 키워라"라며, "이미 한국의 엔지니어는 세계 제일의 수준의 기술력을 인정받고 있다"며, 정부는 관련 산업 인프라를 확충하고, 규제 완화를 서둘러야 한다고 말했다.

또한, AI가 지나치게 과장되었다고 지적하며, 그 배경으로 3가지 원인을 꼽았다. ▶과학적 사실에 근거하지 않은 영화·드라마 등의 엔터테인먼트 산업, ▶사실적 근거 없이 부화뇌동하는 일부 언론의 AI 기사 확대 재생산 ▶AI 연구 프로젝트를 따기 위한 일부 연구자들의 과장된 포장 등을 그 원인으로 들었다.

그렇다면, AI를 위협하는 가장 큰 문제는 무엇인가? 에 그는 단연코 윤리적 문제라 말했다. 특히, 좀 더 인간에게 유익한 가치를 제공할 수 있는 AI로봇은 안전 운영 지침을 마련, 작동을 안할 시에는 항시, 안전 모드로 셋업, 인간의 행동을 어떻게 프로그램화 할 것인지 연구, 로봇 안전 기준에 대한 인증제도 도입, 기계사용 제한, 기초 컴퓨터 사용시 윤리 기준 마련, 위법 행동에 대한 관련 규정 등 7가지 원칙이 마련되고 지켜져야 한다고 강조했다.

이처럼 인공지능(AI) 발전, 하루가 다르게 우리의 생활과 산업 그리고 사회의 패러다임을 바꾸고 있다. 말 그대로 혁신적인 진화를 거듭하고 있는 것이다. 변화의 바람이 불어오는 현실은 1·2·3차 산업혁명 이상으로 우리의 삶을 바꾸는 큰 변화를 이끌 것이다.

인공지능이 진화하다가 인류의 지능을 초월하는 기점을 논하는 것도 중요하지만 더 중요한 것은 우리에게 새롭게 도래할 AI 시대에 대한 정확한 이해와 체계적인 대책 마련의 필요성이 거듭 요구되고 있는 시점이다.

아울러 AI는 어마어마한 경제적인 잠재력과 산업기반, 국가안보, 경제에도 절대적인 영향을 미치기 시작했다.

AI가 단순히 뛰어난 기술 개발 뿐만 아니라 뛰어난 정책 또한, 필요한 문제이기도 하다. 일회성으로 보여주는 사업이나 정책이 아니라 탄탄한 국가적 AI 전략아래 AI의 가능성을 지속적으로 탐구하고 AI로 인한 수많은 영향에 대비하며, 이에 기반이 되는 인재양성과 국가의 힘과 기업과 산업경쟁력을 위해서라도 세심히 준비하고 대응해야 한다.

여기에, AI가 사람들의 삶에 미치는 영향이 증가함에 따라 AI가 어떻게 하고, 판단했는지 사람들이 이해할 수 있도록 AI 시스템의 기능에 대한 배경 정보를 제공하고 잠재적인 편견, 오류, 예기치 못한 결과를 쉽게 파악할 수 있도록 해야 하며, 공정성 또한 중요하다.

아울러 다양성으로 제품과 환경의 잠재적인 장벽을 예상 한 다양성 있는 설계 규범에 의해 광범위한 인간의 요구와 경험에 대응해야할 것이며, AI 신뢰성과 책임성이 따라야 된다.

항상 AI 시스템은 명확한 조건 하에서 작동해야 되며, 예기치 못한 상황에서도 안전하게 대응 예상과 다른 형태로 진화해 나가지 않도록 설계돼야 된다. 그리고 AI 시스템을 전개하여 언제 배포하거나 의사 결정에 있어서도 언제나 인간이 중심적인 역할과 책임을 다해야 한다.

결론적으로 발생할지도 모르는 AI 특이점(Singularity) 문제에 우려하기 보다는 최선의 결과는 개발의 속도를 조절할 뿐, 그동안 우리가 할 수 있는 것은 자율과 규제 및 제한 사항 부여가 최선일 것이다.

부정적인 요소도 있지만 앞으로 AI가 많은 인류의 과제를 하나씩 해결하고 인류를 지원할 것에는 의심에 여지가 없다. 정부, 기업, 학계, 단체 등이 잘 조율하고 협력하여 더 안정적이고 신뢰할 수 있는 AI를 구축하고 배포하는 것이 필수적으로 따라야 될 것이다.