대화형 인공지능 챗GPT를 지난해 3월 말 개인 정보 보호 문제로 금지했던 최초의 국가인 이탈리아의 개인정보 보호 감시 기관(Garante per la Protezione dei Dati Personali. 이하, GPDP)이 지난 26일(현지시간), 거리 감시 프로젝트에서 인공지능(AI)을 사용하는 과정에 데이터 보호 규정을 위반한 트렌티노-알토아디졔 주(Trentino-Alto Adige) 북부 도시 ‘트렌토(Trento)’에 50,000유로(약 7천만원)의 벌금을 부과했다.

유럽연합(EU)으로부터 ​​자금을 지원받는 이 프로젝트는 '마블(Marvel, Multimodal Extreme Scale Data Analytics for Smart Cities Environments, Marvel)' 및 '프로텍터(Protector)'로 '스마트 시티' 패러다임에 따라 도시 지역의 안전 향상을 목표로 하는 기술 솔루션을 개발하는 것을 목표로 한다.

GPDP는 이날 성명을 통해 트렌토의 두 가지 프로젝트에 대한 심층 조사 끝에 개인 정보 보호 규정을 여러 건 위반한 사실을 발견됐으며, 수집된 데이터는 익명성이 충분하지 않고 제3자와 부정확하게 공유되었다고 밝혔다. 이를 위반한 트렌토에 50,000유로의 벌금과 함께 두 개의 프로젝트에서 수집한 모든 데이터를 삭제하라는 지시를 내렸다. 이는 이탈리아에서 AI 도구의 데이터 사용과 관련하여 GPDP의 제재를 받은 첫 번째 지방 정부다.

더욱이, 정보주체의 재식별 위험을 줄이기 위해 사용되는 익명화 기술은 불충분한 것으로 나타났으며, 투명성 측면에서도 중요한 문제가 드러났다. 실제로 지자체에서는 공공거리에 설치된 마이크를 이용해 대화까지 녹음될 수 있다는 1·2단계 정보에 대한 처리에 대해 충분히 설명하지 못했다고 한다.

트렌토의 마블 프로젝트(스마트 시티 환경을 위한 멀티모달 익스트림 스케일 데이터 분석)는 도시 보안을 위해 지자체에 이미 설치된 비디오 감시 카메라의 영상과 공공 도로에 설치된 마이크에서 얻은 오디오를 수집했다. 지자체는 수집 후 즉시 익명 처리되는 이 데이터를 분석하여 인공지능 기술을 사용하여 공공 안전 위험 이벤트를 자동으로 감지할 수 있다.

아울러, 프로텍터 프로젝트(PROTECTing places of wORship)는 오디오 신호 없이 비디오 감시 영상을 수집하는 것 외에도 소셜 네트워크에 게시된 증오 메시지와 댓글을 수집 및 분석하여 부정적인 감정을 감지하고 경찰이 관심 있는 정보를 처리하여 안전에 대한 위험과 위협을 식별하는 것을 포함한다.

한편, 트렌토는 이번 규제 당국의 결정은 대량의 데이터를 분석하고 도시 보안을 개선하기 위한 AI 사용을 규제하는 데 적용한 현행 법률이 불충분하다며, 이번 결정에 대해 항소를 고려하고 있는 것으로 알려졌다.