인공지능(AI) 전문 기업 머니브레인(대표 장세영)은 딥페이크 영상을 검증할 수 있는 딥러닝 모델 ‘디텍트딥페이크. AI(Detectdeepfake.ai)’를 29일 출시했다. 

딥페이크는 '생성적 적대 신경망(Generative Adversarial Networks, GAN)'을 사용, 특정 영상에 특정 인물의 얼굴과 목소리, 행동까지 그대로 재현한 위조 영상물을 일컫는다. 문제는 사실적인 정보를 왜곡하거나 악의적으로 사용되면서 그 대상이 연예인이나 정치인 등 유명인뿐만 아니라 일반인까지 확산되고 있기 때문이다.

딥페이크라는 단어는 ‘딥러닝(Deep learning)’과 ‘거짓(Fake)’의 합성어다. 지난 2017년 말 미국에서 ‘딥페이크’라는 네티즌이 온라인 커뮤니티 레딧에 할리우드 배우의 얼굴과 포르노를 합성한 편집물을 올리면서 시작됐다.

하지만 이 새로운 형태의 잘못된 정보(기술)가 나오면 이를 처리할 새로운 방법이 필요하지만 빠르게 진화하고 감지하는 데 큰 기술적 도전이 되고 있다.

이런 문제 해결을 위해 머니브레인은 과학기술정보통신부가 추진하는 ‘딥페이크 변조 영상 AI 데이터’ 분야 수행 기업으로 선정돼 서울대 인공지능 연구실(DSAIL)과 함께 지난해 10월 19일부터 11월 19일까지 331팀이 참여한 가운데 딥페이크 기술 발전을 위한 ‘AI 딥페이크 탐지 AI 경진대회’를 성공적으로 개최했다.

이 대회를 통해 딥페이크 검증을 위한 데이터 확보와 기술 개발에 심혈을 기울였다고 한다.

또한 연구팀은 딥페이크 검증 신뢰도 향상을 위해 독일 뮌헨공대와 이탈리아 나폴리 페데리코 2세 대학 연구진이 개발한 ‘페이스포렌식++(FaceForensics)’ 데이터와 아마존(AWS), 페이스북, 마이크로소프트 등이 모여 만든 DeepFake detection challenge(DFDC) 데이터 그리고 머니브레인이 자체 수집한 KoDF(Korean deepFake detection dataset)까지 광범위한 데이터를 딥러닝 AI에 분석 학습시켜 해당 데이터에 포함된 딥페이크 영상의 검증률을 99%까지 끌어올렸다.

여기서 더 발전해 학습한 AI가 한 번도 보지 못한 새로운 딥페이크 영상에 대한 검증을 진행했으며, 진위 여부 판단은 약 90%의 높은 검증률을 보였다. 이는 해외에서 인정받고 있는 검증 모델보다 월등히 높은 수준의 검증률이다.

머니브레인 장세영 대표는 “Detectdeepfake.ai 출시로 딥페이크 영상으로 인한 피해를 최소화하고 딥페이크 기술이 긍정적인 방향으로 발전할 수 있는 계기가 되길 바라며, 딥페이크로 인한 사회적 우려가 해소돼 다방면의 산업에 딥페이크 콘텐츠가 긍정적으로 적용되기를 바란다”고 말했다.

한편, 머니브레인이 공개한 딥페이크 영상 검증 AI 플랫폼은 ‘디텍트딥페이크. AI 홈페이지(사용하기)를 통해 무료로 이용해 볼 수 있다. 방식은 의심되는 영상을 플랫폼에 업로드하는 방식이다.