인공지능(AI) 거버넌스에 대한 미국, 유럽, 일본, 싱가포르 등 각국의 노력이 강화되는 가운데 ‘AI 알고리즘’이 아닌 ‘AI 위험’을 규제하는 방향으로 인공지능 규제 프레임워크를 만들어야 한다는 주장이 나왔다.

한국정보산업연합회(회장 정진섭)는 지난 22일, 인터컨티넨탈호텔 서울 코엑스 다이아몬드룸에서 ‘제16회 디지털 리더십 포럼 조찬강연회’를 진행했다. 이날 스티븐 브레임(Stephen Braim) IBM APAC(Asia-Pacific) 공공정책 총괄 부사장이 ‘Global Approach to AI Regulation(AI 규제에 대한 글로벌 대응 방식)’란 주제로 강연했다.

브레임 부사장은 정부가 성공적인 AI 생태계를 구축하기 위해서는 개발자와 사용자의 역할 차이를 정책에 반영해 그에 따른 의무를 부여하고, AI의 기술 자체보다 AI를 활용하는 상황에 따라 규제해야 한다고 말했다.

브레임 부사장은 AI 확산 못지않게 중요한 과제가 AI 정책과 규제라고 강조하고, 한국보다 한발 앞선 미국과 EU, 일본, 영국 등의 AI 정책과 규제를 소개하고 AI 규제에 대한 글로벌 접근방식을 분석했다.

유럽 ​​연합은 3년이 넘는 준비 및 협의 기간을 거쳐 지난주 통과된 ‘AI법’의 초안은 AI 고위험 사용 규제를 기반 및 중점으로 두고 있다. 유럽 의회는 AI 분야에 적용하기 위한 목적의 일반 규정을 추가했다.

미국은 미 의회는 AI를 고려하는 초기 단계에 불과하며 AI에 대한 매우 다양한 견해를 갖고 있다. 바이든 행정부는 행정명령을 발표해 연방 기관의 AI 사용 관리 및 새로운 AI 모델에 대한 보고서가 필요하다고 말했다. 관련 연방법이 없는 상황에서 주(State)들이 AI를 규제하는 법안을 발의할 것으로 보인다.

일본과 영국, 두 나라는 AI 규제에 대해 ‘가벼운(light touch)’ 접근방식을 택하고 있다. 작년 11월 ‘AI Safety 서밋’을 개최한 영국은 글로벌 AI 규제 정립의 선도국 역할에 관심이 있으며, 일본은 지난해 G7 의장국을 맡아 AI 규제의 최소 기준을 설정하는 ‘히로시마 프로세스’를 추진했다.

싱가포르는 Model AI Government Framework(Model AIGF)가 2018~2019년에 공개했다. AI Verify Foundation(AI 검증재단)은 거버넌스 테스트 프레임워크와 프레임워크 운영을 위한 툴킷을 만들고 민관협력을 통해 업계 사례를 창출하는 것으로 목표로 하고 있다.

이밖에 캐나다, 인도, 브라질 등은 EU의 AI법에 영향을 받을 국가들로 캐나다, 인도, 브라질이 있으며 태국, 말레이시아, 인도네시아는 싱가포르와 일본 모델에 영감을 받고 있다. 인도는 AI 딥페이크에 대응하는 AI 자문 보고서를 발표했다.

브레임 부사장은 한국의 AI 생태계 활성화를 위한 AI 정책이 어떤 방향으로 나아가야 할지에 대해서도 제안했다. 앞으로 전 산업에 걸친 AI 전환이 예상되므로 리스크를 관리하는데 중점을 두고 규제가 이뤄져야 한다는 것이 핵심이라고 설명했다. AI 시스템 개발자(기업)와 시스템을 활용하는 사용자(기업)의 역할을 고려해 명확하게 분리된 법제도 체계가 마련돼야 하며, AI 알고리즘 자체가 아닌 활용 상에서 발생할 수 있는 리스크에 대해 규제가 이뤄져야 함을 강조했다.