필자, 이상직 변호사는 사법연수원 26기로 ICT 정책 및 산업에 종사하는 고객기업의 법률 리스크를 발굴하고 해결하는 일을 주된 업무로 과학기술정보통신부, 방송통신위원회에서 2년 가까이 ICT 정책 및 규제업무에 종사하였다. 특히 법률, 경제경영, 기술 등 관련 팀과 협업하여 고객의 법률문제를 고민하고 해결책을 제시하여 산업과 시장에 기여하고자 끊임없이 노력하고 있다.

현재, 방송통신위원회 제6기 개인정보 법령자문위원회 위원, 한국사이버안보법정책학회 부회장, 행정안전부 전자정부 민관협력포럼 위원, 한국인공지능협회 전문위원 등으로 활동 중이며, 주요 저서로는'나는 인공지능을 말한다', 혁신과 공존의 신세계, 디지털' 등을 꼽을 수 있다.<편집자 주>

코로나 팬데믹이 끝났다. 그토록 기다려 온 팬데믹 종식 소식에도, 각국에서는 재난지원금 등 시장에 공급된 유동성으로 물가 상승을 비롯한 인플레이션 우려는 여전히 크다.

미국의 경우, 선제적으로 금리 인상을 단행하자 부동산과 같은 현물시장이 위축되고 경제성장이 멈춘 모습이다. 인공지능(AI), 가상자산, 메타버스 등 첨단산업도 추진동력이 떨어졌다. 2023년 1월 미국 CES(국제 전자제품 박람회), 2월 스페인 MWC(세계 이동통신 전시회)에서도 AI, 모빌리티 등 기존 논의를 확대했을 뿐 크게 달라진 모습은 없었다.

하지만 지난해 11월 오픈 AI(Open AI)의 인공지능 대화형 챗GPT(Chat GPT)와 업그레이드 버전으로 올해 3월 14일 발표된 GPT-4 기반 챗GP는 달랐다. 폭발적인 인기를 끌었던 챗GP는 GPT-3.5와 상호작용하는 방식이었으나 GPT-4와 상호작용하는 방식이 된 것이다.

GPT-4는 월 20달러를 지불하는 유료 서비스인 챗GPT플러스(ChatGPT Plus)에서 사용할 수 있으며 제공되는 API를 통해 고객이 GPT를 이용하여 새로운 서비스를 창출할 수 있다. 

GPT-4는 이전의 챗GPT의 약 8배인 최대 25,000단어까지 처리할 수 있으며, 안전과 정치적으로 편향되거나 극단적으로 공격적이거나 때에 따라 서로 다른 방식의 결과, 허위 정보를 생산하는 할루시네이션(hallucination, 환각) 등의 최근 이슈를 인정하고 이를 보완하기 위해 6개월을 보냈고 그동안의 피드백에 대해 학습(수많은 악성 프롬프트)했다.

또 문서, 파워포인트, 도표 작성을 지원함으로써 고객의 업무생산성을 높일 수 있다. 외부 기업의 다양한 서비스를 GPT 플랫폼 안으로 가져와 연결하면 고객의 요구를 더욱 만족하는 답변이 나온다(GPT Plugin). 이밖에 검색을 넘어 소설, 시, 과제, 업무용 자료 작성 등 다양한 형태의 창작 결과를 보여준다. 그러나 여전히 오류, 편향, 정보 유출, 보안, 가짜뉴스 생성과 같은 문제는 남아 있다.

EU 의회는 지난 14일, 세계 최초의 '인공지능 규제 법안'을 채택했다. 이 AI 법안은 유럽에서 개발되고 사용되는 AI가 인간 중심적이고 신뢰할 수 있는 AI의 활용을 촉진하고 유해한 영향으로부터 건강, 안전, 기본권 및 민주주의를 보호하는 것을 목표로 한다. 

EU는 인공지능 법에 따라 모든 AI는 최소 위험부터 허용할 수 없는 위험(고위험, 저위험, 최소 위험)까지 크게 세 가지 단계로 분류된다.

구체적으로 예측적 치안(프로파일링, 위치 또는 과거 범죄 행위 기반) 도구, 얼굴 인식 데이터베이스 구축을 위해 인터넷이나 CCTV 영상에서 얼굴 이미지를 목적 없이 스크랩하는 행위(인권 및 사생활 침해)와 같은 기술은 금지되며, 어린이, 장애인 기타 취약 계층 및 채용 관행에 초점을 맞춘 AI는 더 엄격한 규제를 받게 된다.

특히, 이 법안은 인공지능으로 사람을 판단하고 개인의 사회적 행위 등을 평가 또는 점수화 하는 소셜 스코어링(Social Scoring), 민감한 특성(성별, 인종, 민족, 시민권 상태, 종교, 정치적 성향)을 사용하는 생체 인식 분류(Biometric Categorisation) 및 감정 인식(Emotion Recognition)을 위한 AI 시스템도 전면 금지되고 챗GPT, 바드, 미드저니 등 생성 AI(Generative AI) 및 대형언어모델(LLM)로 생성된 콘텐츠가 인간이 구현한 것이 아님을 명시하는 것과 학습에 사용된 데이터(자료)를 모두 공개하는 내용이 포함됐다.

특히, 생성AI에 관한 파운데이션 모델에 대한 규제는 건강, 안전, 기본권, 환경 민주주의, 법령에 대하여 발생할 수 있는 예측 가능한 위험을 식별, 완화하여야 하고 전문가의 검증을 거쳐야 한다.

또한 데이터 출처, 편향 검증 등 적절한 관리조치가 된 데이터를 사용해야 하며, 모델 성능, 예측가능성, 설명가능성, 수정가능성, 안전성 및 보안 수준을 갖춰야 한다. 공급자의 이름, 주소, 연락처 정보, 모델 개발에 사용된 데이터 출처, 모델의 기능 및 한계, 모델 성능 등의 정보도 제출하고, 등록해야 한다.

GPT처럼 문자, 이미지, 영상 등을 생성하는 AI 시스템에 사용되는 파운데이션 모델은 추가적인 의무를 부담하는데, 이용자에게 AI 시스템 활용사실을 알려야 한다. 아울러 위법한 콘텐츠 생성을 방지할 수 있도록 모델을 설계, 개발, 학습해야 한다.

이처럼 새로운 AI 규정은 더 엄격한 개인정보 보호 기준, 더 엄격한 투명성 법규, 협조하지 않을 경우 징벌적 벌금이 부과된다. 법 집행의 책임은 유럽연합 회원국에 있으며, 위반 기업은 최대 3,300만 달러(약 424억원) 또는 해당 기업의 연간 글로벌 매출의 6%에 해당하는 벌금을 부과받게 된다. 이를 구글이나 마이크로소프트 등과 같은 거대 기술 기업에 적용할 경우 수십억 달러(수 조원)에 이른다.

여기서 다소 까다로운 AI 법안을 EU가 추진한 배경은 주목할 만하다. 2015년 5월 발표한 유럽디지털 단일 마켓 전략은 EU 회원국 간 경제·정치 통합을 선언했다. EU 경쟁국에 대한 공동 대응, EU 기반의 강력한 데이터·AI기업 탄생을 위한 시장조성 및 경쟁력 지원을 목표로 했다.

그러나 2008년 금융위기 이후 계속된 경제 침체, 2020년 영국의 브렉시트, 코로나 팬데믹 등 위기에서 각 회원국의 피해 정도, 대응 방법, 정치 상황 등 편차가 컸으며, EU 전체의 단합된 대응이 쉽지 않았다.

또 구글과 같은 글로벌 디지털 기업의 약진에도 EU 국적의 AI 기업은 성장세가 미흡했다. 제4차 산업혁명도 스마트 팩토리와 같은 제조업을 중심으로만 이뤄지고 있다. 글로벌 디지털 기업에 대한 공정거래법, 개인정보보호법 위반 등 과징금 제재만으로 유럽 시장을 보호하기에 한계가 있는 모양새다. 즉 이 법안은 글로벌 빅테크의 영향력이 큰 고위험 AI을 견제하고 경쟁력이 있는 AI 분야에서 EU 기업을 육성할 수 있는 토양 마련에 집중한다고 볼 수 있다.

미국은 OpenAI를 포함하여 글로벌 빅테크 기업을 중심으로 최고 수준의 AI 기술과 기업을 확보하고 있다. 웬만한 기술규제는 견딜 수 있는 내성을 갖추고 있다. 심지어 상대적으로 기술수준이 낮은 국가에 강도 높은 기술규제를 요구하여 경쟁을 따돌리려 할 수도 있다(“사다리 걷어차기 전략”). GPT 등 모델을 통하여 다른 국가를 소비시장으로 만들고 다른 기업에게 파운데이션 모델을 플랫폼으로 제공해 수익을 얻는 전략을 구사할 것으로 보인다.

이 같은 격변 속 우리나라는 10여 개가 넘는 AI 법안을 발의하고 대안을 만들었으며, 이들 법안은 올해 2월 14일 국회 과학기술정보방송통신위원회 법안소위에서 통과됐다.

국회에서는 GPT의 영향과 해외 입법 경과 등을 참고하여 현재 추가적인 논의가 진행되고 있으며, 우리 정부는 AI 산업 발전을 위한 지원체계를 마련해 두고 있다. 본 지원체계는 AI 기업은 기술개발 및 서비스에 대해 인간의 기본권을 침해하지 않을 것, 윤리 관련 사항을 준수할 것 등을 규정한다. 즉 선 허용 후 규제 원칙을 두고 있다. 특히 생명, 안전과 직결되면 고위험 AI으로 설정해 고지, 설명의무를 부여하고 있다.

GPT를 위시한 생성 AI 시대, 우리는 실정에 맞는 대응 방안을 적극적으로 모색해야한다. 우리는 EU처럼 수많은 회원국을 가지고 있지 않으니 내수 시장이 크지 않다. EU의 강도 높은 규제 입법을 따르면 미국 AI 기업을 견제할 수 있겠지만 국내 AI 기업을 키울 수 없고 수출마저 위협받는다. 그렇다고 규제 수준을 낮추면 미국의 AI 기업에게 시장을 내 줄 위험이 있다.

강점과 약점을 분석해서 전략을 세워야 한다. 소재, 부품, 장비, SW, OS 등 다양한 분야에서 AI 기술, 사업 지도를 만들고 우리가 잘할 수 있는 분야를 집중 공략해야 한다. 국제표준을 논하는 무대애서는 EU도 미국도 아닌 우리의 상황에 맞는 전략을 구사해야 한다. 제3국과의 합종연횡도 중요하다. AI 없는 미래는 없다. 지독하게 살 길을 찾아야 한다.