‘제 2의 n번방 사건 막는다’... AI 기업 머니브레인 등 '딥페이크 검출' 기술 연구 나서
‘제 2의 n번방 사건 막는다’... AI 기업 머니브레인 등 '딥페이크 검출' 기술 연구 나서
  • 최광민 기자
  • 승인 2020.04.29 17:37
  • 댓글 0
이 기사를 공유합니다

알엔딥은 최근 AI 기술을 기반으로 온라인 성폭력 및 음란물 유해 사이트를 막는 ‘레드 AI’ 기술 개발을 완료
'딥 페이크 감지 챌린지(DFDC, Deepfake Detection Challenge)' 행사 이미지(본지
'딥 페이크 감지 챌린지(DFDC, Deepfake Detection Challenge)' 행사 이미지(본지 보도 2019.12.14자)

최근 텔레그램에서 미성년자를 포함한 일반 여성들의 성착취 영상을 공유, 판매한 ‘n번방 사건’이 사회적으로 큰 물의를 일으키면서, 이들이 벌인 여러 범죄 가운데 ‘딥페이크(deep fake) 기술’을 악용한 성범죄가 심각한 문제로 제기되고 있다.

전 세계적으로 딥페이크(deepfake)에 대한 논란이 확산되고 있다. 딥페이크는 인공지능으로 특정 영상에 특정 인물의 얼굴, 음성 등을 합성한 비디오가 실제 사람들에게 허구의 말과 행동을 하는 것을 보여주는 것이다.

특정인의 인권, 희롱 및 설득의 원천으로 조작되고 사실적인 정보를 왜곡하거나 악의적으로 사용되면서 그 대상이 연예인이나 정치인 등 유명인뿐만 아니라 일반인까지 확산되고 있기 때문이다.

더 큰 문제는 온라인에 공개된 무료 소스코드와 알고리즘으로 손쉽게 제작이 가능하다는 점이다. 특히 진위 여부를 가리기 어려울 만큼 정교해 온라인으로 제공되는 정보의 정당성을 판단하는 방법에 중대한 영향을 미칠 수 있다.

딥페이크는 '생성적 적대 신경망(Generative Adversarial Networks, GAN)'을 사용, 합성 사진이나 영상을 원본이 되는 사진이나 영상에서 만들어낸다. 딥페이크라는 단어는 ‘딥러닝(Deep learning)’과 ‘거짓(Fake)’의 합성어다. 지난 2017년 말 미국에서 ‘딥페이크’라는 네티즌이 온라인 커뮤니티 레딧에 할리우드 배우의 얼굴과 포르노를 합성한 편집물을 올리면서 시작됐다.

이렇듯 실제와 구분이 힘들 정도로 자연스러운 영상 구현이 가능한 딥페이크 기술의 상용화가 가시화되면서, 음란물, 가짜뉴스 생산 등 대중을 오도하거나 사회적 혼란을 야기하는 악용에 대한 우려 또한 높아지고 있다.

페이스북, 마이크로소프트, AWS 그리고 13 개국 100 개 파트너로 결성된 'AI의 미디어 무결성 운영위원회 파트너십(Partnership on AI)'은 공동으로 이 문제 해결을 위해 활동에 들어갔다. 

이에 국내에서는 첨단 기술의 역기능을 사전에 방지하기 위한 ‘딥페이크 포르노 처벌 강화법’을 국회 본회의에서 통과시키며 법적 해결책이 마련되고 있으며, 그와 동시에 인공지능 관련 IT 기업을 중심으로 영상의 조작 여부를 가려내기 위한 딥페이크 검출 기술의 연구 개발이 한창이다.

그 중 토종 AI 기업 머니브레인은 최근 AI 영상 합성 기술로 현직 대통령을 실제와 똑같이 구현해내며 업계의 주목을 받은 IT 기업으로, 국내 최고 수준의 AI 관련 기술력, 인력을 바탕으로 딥페이크 검출 기술 연구에 몰두하고 있다.

우선 머니브레인은 영상의 진위 여부를 판단하는 능력을 갖춘 딥러닝 모델 ‘AI Fake Finder(AI 영상 조작 검출 기술)’를 만드는데 주력하고 있다. 다양한 베이스 모델을 통해 진짜와 가짜를 스스로 판별할 수 있도록 지속적으로 반복 학습시키는 연구를 진행 중이다. 특히 학습에 필요한 데이터베이스의 경우, 독일 뮌헨공대와 이탈리아 나폴리 페데리코2세 대학 연구진이 개발한 ‘페이스포렌식++(FaceForensics)’ 데이터를 활용하여 연구의 객관성을 높였다.

이러한 학습 결과를 토대로, 머니브레인의 딥러닝 모델은 ‘페이스포렌식++’에 적용된 합성 방법 네 가지(DeepFakes, Face2Face, FaceSwap, NeuralTexture) 영역에서 모두 99%를 상회하는 진위 판별 능력을 보여준다. 이는 인셉션넷을 확장한 뉴럴넷 모델 ‘XceptionNet’을 비롯한 다른 어떤 모델도 아직 도달하지 못한 수치라는 점에서, 머니브레인이 지닌 딥페이크 검출 기술력의 우수성을 엿볼 수 있다.

뿐만 아니라 머니브레인은 이미지 내 얼굴 추출 방식, 데이터 증강 방식, 베이스 모델 교체 등 연구 방법을 다각적으로 적용하여 오차 범위를 최대한 줄이는 등 머니브레인만의 딥페이크 검출 기술의 정확성을 높여 나갈 계획이다.

이 밖에도 국내에서 딥페이크 검출 기술 연구에 힘쓰고 있는 기업으로 ‘알엔딥’을 꼽을 수 있다. 알엔딥은 최근 AI 기술을 기반으로 온라인 성폭력 및 음란물 유해 사이트를 막는 ‘레드 AI’ 기술 개발을 완료했으며, 이를 기반으로 불법적으로 활용되는 딥페이크 검출 기술과 욕설 검출 및 방지 기술 개발을 진행 중이다. 사진 및 영상 속 얼굴의 진위 여부를 1초 내에 찾아낸다는 것이 특징으로 다양한 데이터셋을 확보해 AI 학습을 시키고, 정교한 합성을 모두 감별해 낼 수 있는 정확도 높은 기술을 구현해내는 것을 목표로 하고 있다.

또한 알엔딥은 최근 입력된 사진 및 영상의 모든 프레임을 검사하고, 주요 노출부위에 대해 모자이크를 자동으로 생성해주는 ‘레드 AI 모자이크’ 기술을 개발, 발표했다. 해당 화면 내에 문제가 될만한 부분이 포함되어 있을 경우, 해당 화면 전체를 모두 가리기 위해 블랙화면으로 처리할 수도 있으며, 특정 부위만 흐릿하게 보이게 하는 블러링(Bluring) 처리까지 가능하다.

머니브레인 장세영 대표는 “딥페이크 기술은 성장 잠재력과 효용성이 매우 높은 기술이지만 악용 방법 또한 갈수록 교묘해짐에 따라 피해 사례가 급증하고 있어 매우 안타깝다”며 “머니브레인은 자사가 보유한 기술력을 토대로 딥페이크 기술이 관계 산업의 발전에 이로운 방향으로 활용 될 수 있게 실질적인 해결책을 제시하는 기업이 되고자 노력할 것”이라고 전했다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.