필자, 마크 패트릭(Mark Patrick)은 세계에서 가장 다양한 글로벌 반도체 및 전자부품들을 보유 및 유통기업인 마우저 일렉트로닉스(Mouser Electronics)의 유럽·중동·아프리카(EMEA. Europe, Middle East, and Africa) 기술 마케팅 매니저로 지역 내에서 기술 컨텐츠의 개발과 유통을 담당하고 있다. (연재는 총 5부로 진행된다. 편집자 주)

▷자율주행 기술: 자동차 업계 지형을 바꾸다

▷자동차의 자율주행 주요 단계 정의

▷자율주행차의 주요 기술 1부: 센서

▷자율주행차의 주요 기술 2부: V2V/V2I 통신

▷자율주행의 기본 윤리

우리는 차에 타서 운전대를 잡고 목적지가 어디인지, 시간은 얼마나 걸릴지, 교통 혼잡을 피하기 위해서 어느 길이 좋을지 같은 것들만 생각한다. 하지만 목적지로 향하는 길에서 뜻하지 않은 상황들을 만날 수 있으며, 그럴 때 각각의 상황에 따라서 적절히 대응해야 한다.

예를 들어, 옆차가 갑자기 끼어들거나, 어린이가 도로 위로 뛰어들 수 있다. 이런 상황에 직면해서 심각한 결과를 초래하지 않으려면 재빨리 판단하고 조치를 취해야 한다. 이러한 조치로 브레이크를 밟을 수도 있고, 충돌을 피하기 위해서 핸들을 트는 것일 수도 있다.

이 글 시리즈의 이전 글 들에서 살펴보았듯이, 첨단 3D 이미징 기술(라이다와 ToF)을 활용하거나 도로 인프라와 다른 도로 사용자들로부터 주어지는 데이터(V2V/V2I 통신)를 활용함으로써 자율주행차가 운전자보다 더 빠르게 위험한 상황을 피할 수 있게 될 것이다.

사고가 발생되었을 때 운전자는 운전 경력의 길고 짧음에 상관없이 잘못된 판단을 하고 부주의하게 대처할 수 있는데, 자율주행차는 그렇지 않다. 하지만 어떤 상황에서는 치명적인 상해가 불가피한 경우가 있을 수 있다.

이런 상황에서 자율주행차가 어떻게 대처할지 판단하기 위해서 윤리적으로 어려운 딜레마를 제기할 수 있다.

자동차 제조사, 일차 협력사, 칩 회사들 모두가 완전 자율주행차를 실현하기 위해서 필요로 하는 하드웨어를 설계하고 개발하는 일에 집중적으로 투자하고 있다. 시스템들이 점점 더 정교해지고 자율화가 고도화되어 감에 따라서 전혀 새로운 차원의 윤리적 문제들이 제기될 것이다. 이것은 도로 사용자, 입법부, 업계 모두에게 해당되는 문제이다.

차세대 자동차로 인공지능(AI) 기술이 다양한 충돌 상황을 어떻게 처리할 것인지, 특히 자동차가 여러 중요한 선택들을 해야 할 때 어떻게 하는 것이 최선일지에 대해서 많은 논의들이 이루어져야 할 것이다.

생과 사의 판가름

이 문제와 관련해서 많은 경우들을 가정해 볼 수 있다. 예를 들어서 불가피한 상황에서 여러 사람을 태우고 있는 버스를 치어야 할지 아니면 인도로 핸들을 틀어서 어머니와 아이를 치어야 할지 선택해야 할 수 있다.

물론 이것은 극단적인 경우를 가정한 것이다. 하지만 자율주행차의 알고리즘이 이러한 상황까지도 재빨리 처리할 수 있어야 한다.

이 문제에 있어서 현재로서 독일이 가장 앞서 있는 것으로 보인다. 독일은 이미 자율주행차에 대해서 윤리 강령을 제정했다. 2017년에 독일 연방 교통 및 디지털 인프라부의 윤리 위원회가 자동화되고 연결된 운전에 관한 포괄적인 보고서를 작성했다.

이 보고서는 위에서 언급한 것과 같은 극단적인 상황에 직면했을 때 취해야 할 접근법을 기술하고 있다. 이에 따르면, 법적으로 보호되는 이해 관계를 조율함에 있어서 사람의 생명을 보호하는 것이 최우선이 되어야 한다고 기술하고 있다. 그러므로 갈등 상황에서 사람이 다치는 것을 피할 수 있다면 동물이나 재산에 손해를 끼치는 것을 감수하도록 시스템을 프로그램해야 한다.

미래에는 보편적 구현을 위한 기준으로서 이러한 계층적 접근법이 구체화될 것이며, 우선순위에 있어서 사람이 맨 위에 자리잡고 무생물이 가장 아래에 자리잡을 것이다. 또한 도로 사용자들의 취약성에 따라서 우선순위가 매겨질 것이다. 예를 들어, 보행자가 가장 우선이고, 그 다음으로 자전거, 승용차, 상업용 차량 순으로 우선순위를 결정할 수 있을 것이다.

하지만 독일 규정은 어떠한 불가피한 상황이 발생되었을 때 연령, 성별, 신체적 및 정신적 상태로 구분하는 것을 금지하고 있다. 사람과 충돌을 피할 수 없는 상황이 발생한다면 피해의 심각성을 최소화하도록 대응해야 한다(예를 들어, 피해 인명 수 등).

하지만 어떤 국가들에서는 이와 같은 평등주의적 접근법을 찬성하지 않을 수도 있으며, 윤리적 선택은 그것을 도입하는 국가마다 차이가 있을 수 있다. MIT가 실시한 조사에서는 세계의 여러 지역에서 한 집단의 안전을 다른 집단의 안전보다 어떻게 더 중요시하는지 살펴보았다.

이 자율주행차와 같은 인공지능의 윤리적 결정에 대한 사회적 인식을 수집하기 위한 플랫폼 '도덕 기계 시험(Moral Machine Experiment)'은 200개 이상 국가에서 2백만 명 이상의 사람들을 대상으로 의식을 조사했다.

시험 결과를 보면, 동물보다는 사람의 생명을 먼저 구하고 소수의 사람보다는 다수의 사람을 먼저 구하고 노인보다 젊은이를 먼저 구해야 한다는 점에서 대체로 의견이 일치하는 것으로 나타났다.

다만 지역별로 약간의 차이는 있었다. 예를 들어서 어떤 지역에서는 노인보다 젊은이를 먼저 보호해야 한다는 의견이 우세한데 반해서, 극동 지역 국가들에서는 노인을 먼저 보호해야 한다는 비율이 우세했다. 그러므로 자율 주행차에 사용되는 AI 알고리즘을 지역적인 문화/윤리 차이를 반영해서 그에 맞게 조정해야 할 것이다.

누가 책임질 것인가?

또 한 가지 명확히 해야 할 문제는, 사고가 발생했을 때 누가 책임질 것인가 하는 것이다. 이것은 자동차 제조사일 수도 있고, AI 알고리즘을 개발한 소프트웨어 회사일 수도 있고, V2V/V2I 통신을 제공하는 통신 사업자일 수도 있다.

또 아니면 자동차를 개발하거나 지원 인프라 운영에 어떤 식으로든 관여한 여타의 당사자들일 수도 있다.

이처럼 여러 관계자들이 얽히고 설킴으로써 사고를 조사할 때 어려울 수 있으나, 자율주행차의 또 다른 장점은 사고 조사 때 어떤 사고가 발생하기까지의 주변 상황과 가동 조건에 관한 방대한 양의 데이터를 사용할 수 있다는 점이다.

이미 캘리포니아 당국은 자율 주행 차량을 테스트하는 업체들에게 어떤 사고가 일어나기까지 30초 동안의 센서 데이터를 차량국에 제출하도록 규정하고 있다. 그럼으로써 오늘날 자동차들보다 훨씬 더 손쉽게 사고를 재구성할 수 있으며, 더 용이하게 책임 소재를 규명할 수 있다.

물론 자율 주행 기술의 궁극적인 장기적 목표는 사고를 완전히 제거하는 것이 되어야 한다.

도로 위에서 자율주행차들만 달리고 모든 차가 다른 차들과 통신할 수 있게 되면 이러한 목표에 좀더 가까워질 것이다. 하지만 여전히 코드 내의 버그, 서비스 중단, 해킹 위협, 그 밖에 다양한 상황이 도로 사용자들의 안전에 영향을 미칠 수 있다.