개인정보보호위원회(이하, 개인정보위) 고학수 위원장이 21일, 디캠프 프론트원에서 인공지능(AI) 스타트업들을 만났다. 인공지능 특성을 반영한 개인정보 규율체계를 모색하기 위해 현장의 의견을 들어보겠다는 것이다.
지난해 11월 생성 인공지능(Generative AI)의 등장 이후, AI 기술 발전이 가속화됨에 따라 과거에 비해 데이터가 복잡하고 예측하기 어려운 방식으로 처리되는 경우가 증가하고 있다. 이에 따라 인공지능 개발·제공 과정에서 정보주체의 개인정보 침해에 대한 불안과 우려가 커지고, AI 등을 개발하거나 활용하는 기업의 입장에서는 법적 불확실성이 심화되고 있는 상황이다.
이에 개인정보위는 ‘인공지능 시대 안전한 개인정보 활용 정책방향(’23.8.)’, ‘데이터 경제 활성화 추진과제(’23.11.)’ 등 인공지능 개인정보 관련 주요 정책을 마련하여 개인정보가 안전하게 활용될 수 있는 기반을 조성하는 한편, ‘AI 프라이버시 민·관 정책협의회(’23.10월)’를 구성하여 민간의 전문가들과 공동으로 인공지능 개인정보 규범체계를 마련 중이다.
이번 간담회는 국내 인공지능 산업의 한 축을 담당하고 있는 셀렉트스타, 포티투마루, 딥브레인AI, 제네시스랩, 로앤굿, 에이젠글로벌, 큐빅, 플리토 등 AI 스타트업 관계자 등과 함께 인공지능 개인정보 관련 주요 정책과제를 점검하고 현장의 목소리를 청취하기 위해 마련되었다.
이날 개인정보위는 인공지능의 특성을 반영한 데이터 및 프라이버시 규율체계를 모색하기 위한 스타트업 현장의 애로·건의사항 청취 등 인공지능 새싹기업들은 인공지능으로 인한 개인정보 위험에 대응하고, 투명성과 신뢰성을 확보하기 위한 기업 차원의 주요 성과를 공유하였다.
먼저, 이영복 제네시스랩 대표는 사람 면접관의 한계를 극복한 자사의 인공지능 채용 솔루션의 주요 특징을 소개하면서, 공정성·타당성·투명성을 확보하기 위한 노력 및 신뢰할 수 있는 인공지능 구현을 위한 ‘제네시스랩 AI 채용 솔루션 윤리점검표’의 주요 내용을 발표하였다.
이어서 김동환 포티투마루 대표가 자연어 처리를 기반으로 딥러닝 인공지능 기술을 접목하여 사용자의 질의 의도를 정확히 이해하고, 단 하나의 정답을 도출하는 자사의 핵심 기술을 소개하고, 인공지능의 신뢰성과 품질 우수성을 확보하기 위한 노력에 대하여 발표하였다.
마지막으로 배호 큐빅 대표는 딥페이크 대응기술 및 거대언어모델(LLM)에서 민감한 내부정보 유출을 예방하는 자사의 솔루션을 소개하였다. 큐빅은 고품질 데이터는 인공지능 발전의 핵심이지만 각종 규제 등으로 확보가 어려운 점을 해결하기 위해 합성데이터 시장에 주목하고 있으며, 안전한 데이터 활용을 위해 비식별 기술 등을 개발하여 대응하고 있다.
발표 이후 진행된 자유 토론에서는 간담회에 참석한 기업들이 인공지능 사업 추진과정에서 겪고 있는 다양한 애로 사항을 제시하였으며, 이 중 개인정보 관련 법적 불확실성은 다수 기업이 공통적으로 겪고 있는 문제로 드러났다.
이에, 개인정보위는 법적 불확실성 해소와 ‘원칙’ 기반의 규율체계 정립을 위한 노력을 설명하고, 특히 인공지능 등 신기술 사업 추진과정에서 프라이버시 현안(이슈)이 발생했을 때 ‘사전적정성 검토제’를 적극 활용해 달라고 당부하였다.
사전적정성 검토제는 인공지능(AI) 등 새로운 서비스를 기획·개발하려는 사업자가 개인정보위와 함께 「개인정보 보호법」 준수방안을 마련하고, 이를 사업자가 적정히 적용하면 추후 환경변화가 없는 한 행정처분 대상에서 제외하는 제도다
아울러, 인공지능 분야 가이드라인을 여러 부처에서 산발적으로 발표하기 때문에 각종 정보가 산재되어 있고, 기업에서는 이를 인지하기 어려워, 인공지능 관련 각종 가이드라인을 한눈에 알아볼 수 있도록 범정부 통합 가이드라인 제정 필요성도 제시되었다.
한편, 일부 참석자는 딥페이크(첨단 조작 기술) 악용 등 위험성만을 강조하여 규제에 초점을 둔다면, 우리나라 인공지능 기술 및 새싹기업 발전을 저해하기 때문에, 기술 중립적인 시각에서 개별 인공지능 서비스의 용례, 위험성 등을 고려한 세심한 규제·감독이 필요하다는 의견도 제시하였다.
고학수 개인정보위 위원장은 “경성적인 규범은 인공지능 기술의 빠른 변화 속도를 따라갈 수 없기 때문에 원칙 기반의 유연한 규율체계가 필요하다.”며, “사전적정성 검토 및 규제샌드박스 신청 사례 등 인공지능 서비스·기술의 다양한 용례를 바탕으로 세밀하게 접근하여 국내 인공지능 생태계를 발전시키는 한편, 글로벌 인공지능 규범 논의 과정에서도 역할을 다해나가겠다.”라고 밝혔다.