이 영상, 사진 진짜냐, 가짜냐?... 마이크로소프트, 미국 선거에 앞서 '딥페이크' 식별 솔루션 공개
이 영상, 사진 진짜냐, 가짜냐?... 마이크로소프트, 미국 선거에 앞서 '딥페이크' 식별 솔루션 공개
  • 최창현 기자
  • 승인 2020.09.03 20:13
  • 댓글 0
이 기사를 공유합니다

‘마이크소프트 비디오 어센터케이터’, 스틸 사진이나 비디오를 분석하여 미디어가 인위적으로 조작되는 확률 또는 신뢰 점수를 제공할 수 있다. 동영상의 경우 재생되는 동안 각 프레임에서 이 비율을 실시간으로 제공해, 사람의 눈으로 감지할 수 없는 딥페이크 기술로 편집이 이뤄졌는지 여부를 판정하고 ‘신뢰 점수’를 계산해 딥페이크가 사용됐는지 알 수 있도록 표시해준다.
마이크로소프트가 공개한 데모 영상엔 딥페이크가 감지될 경우 빨간색 글자와 함께 특정 퍼센트로 표시된다

전 세계적으로 딥페이크(Deepfake)는 인공지능으로 특정 영상에 특정 인물의 얼굴, 음성 등을 합성한 비디오가 실제 사람들에게 허구의 말과 행동을 하는 것을 보여주는 것이다.

문제는 특정인의 인권, 희롱 및 설득의 원천으로 조작되고 사실적인 정보를 왜곡하거나 악의적으로 사용되면서 그 대상이 연예인이나 정치인 등의 유명인뿐만 아니라 일반인까지 확산되고 있기 때문이다.

더 큰 문제는 온라인에 공개된 무료 소스코드와 알고리즘으로 손쉽게 제작이 가능하다는 점이다. 특히 진위 여부를 가리기 어려울 만큼 정교해 온라인으로 제공되는 정보의 정당성을 판단하는 방법에 중대한 영향을 미칠 수 있다.

딥페이크는 '생성적 적대 신경망(Generative Adversarial Networks, GAN)'을 사용, 합성 사진이나 영상을 원본이 되는 사진이나 영상에서 만들어낸다. 딥페이크라는 단어는 ‘딥러닝(Deep learning)’과 ‘거짓(Fake)’의 합성어다. 지난 2017년 말 미국에서 ‘딥페이크’라는 네티즌이 온라인 커뮤니티 레딧에 할리우드 배우의 얼굴과 포르노를 합성한 편집물을 올리면서 시작됐다.

사진: 'DeepFake Detection Challenge 데이터 세트' 논문 캡처
사진: 'DeepFake Detection Challenge 데이터 세트' 논문 캡처

문제는 이 새로운 형태의 잘못된 정보(기술)가 나오면 이를 처리 할 새로운 방법이 필요하지만 빠르게 진화하고 감지하는 데 큰 기술적 도전이 되고 있다.

이 가운데 마이크로소프트가 이 문제를 해결하기 위해 1일(현지시간) ‘마이크소프트 비디오 어센터케이터’(Microsoft Video Authenticator. MVA)를 발표했다. 이 마이크소프트 비디오 어센터케이터는 스틸 사진이나 비디오를 분석하여 미디어가 인위적으로 조작되는 확률 또는 신뢰 점수를 제공할 수 있다. 동영상의 경우 재생되는 동안 각 프레임에서 이 비율을 실시간으로 제공해, 사람의 눈으로 감지할 수 없는 딥페이크 기술로 편집이 이뤄졌는지 여부를 판정하고 ‘신뢰 점수’를 계산해 딥페이크가 사용됐는지 알 수 있도록 표시해준다.

이 기술에는 두 가지 요소가 있다. 첫 번째는 콘텐츠 제작자가 콘텐츠에 디지털 해시와 인증서를 추가할 수 있도록 하는 마이크로소프트 Azure에 내장된 툴이다. 해시와 인증서는 콘텐츠가 온라인에서 어디로 이동하든 메타데이터로서 콘텐츠와 함께 유지된다. 두 번째는 브라우저 확장자 또는 다른 형태로 존재할 수 있는 인증서를 확인하고 해시를 일치시키며, 콘텐츠가 진품이고 변경되지 않았음을 사람들에게 높은 정확도로 알려주고, 누가 그것을 생산했는지에 대한 세부사항을 제공한다.

실제로 마이크로소프트가 공개한 데모 영상엔 딥페이크가 감지될 경우 빨간색 글자와 함께 특정 퍼센트로 표시된다. 딥페이크의 미묘한 페이딩 또는 그레이 스케일 요소의 혼합 경계를 감지하여 작동한다. 이 기술은 원래 마이크로소프트의 Responsible AI 팀과 마이크로소프트의 AETHER (Ethics and Effects in Engineering and Research)위원회와 협력하여 마이크로소프트 리서치에서 개발했다.

마이크소프트 비디오 어센터케이터는 지난해 8월에 아카이브를 통해 공개된 'FaceForensics ++ : 조작 된 얼굴 이미지 감지 학습(FaceForensics++: Learning to Detect Manipulated Facial Images- 다운)'의 공개 데이터세트를 사용하여 만들어졌다. 또한 지난해 12월부터 지난 3월 31일까지 총 상금 100만 달러 규모로 개최된 페이크 검출 챌린지 데이터세트에서 실증 테스트를 받았다.

딥페이크 식별 챌린지 행사이미지(사진:본지DB)

위 딥페이크 식별 챌린지(Deepfake Detection Challenge 이하, DFDC)는 전 세계적으로 딥페이크(deepfake)에 대한 폐해로 논란이 확산되고 있는 가운데 페이스북과 마이크로소프트, AWS 그리고 13 개국 100 개 파트너로 결성된 'AI의 미디어 무결성 운영위원회 파트너십(Partnership on AI)'이 공동으로 딥페이크 폐해에서 벗어날 수 있도록 미디어 조작을 식별하고 혁신적인 얼굴 또는 음성 조작된 비디오를 식별하는 새로운 AI 신기술 개발을 촉진하기 위해 개최됐었다.(본지보도 2020.06.14 : 페이스북 AI, 딥페이크 꼼짝마라!... 100,000개 딥페이크 식별 '데이터 세트' 공개한다.)

한편, 마이크로 소프트는 이 기술을 올해 11 월 미국 대통령 선거를 앞두고 감지하기 어려운 이미지에 맞서 싸우도록 설계된 프로그램 목록에 추가하면서 딥페이크 사진이나 비디오를 찾아내는 데 도움이 되는 소프트웨어를 공개했다고 밝혔다. 또한 사진이나 비디오 제작자가 이미지가 변경되었는지 확인하는 데 사용할 수 있는 백그라운드에서 데이터를 추가할 수있는 기술을 Azure 클라우드 컴퓨팅 플랫폼에 내장했다고 덧붙였다.

 


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.