제20대 대선에서 불기 시작한 각 후보들이 딥러닝 기반 영상 합성, 음성 합성, 자연어처리(NLP) 등 원천 기술을 활용한 인공지능(AI) 휴먼이자 대화형 인공지능 ‘AI윤석열’, '이재명 챗봇', 'AI 김동연' 등이 화제가 되었고 그에 따른 쟁점 또한 뜨거웠다.

이제, 2024년 대한민국 총선(제23대 국회의원 선거)부터는 인공지능으로 제작된 영상 활용한 선거운동이 금지될 것으로 예상된다. 

인공지능(AI) 딥페이크(Deepfake) 등을 활용한 선거운동이 선거일 90일 전부터 전면 금지하는 공직선거법 개정안이 5일, 국회 정치개혁특별위원회(위원장 남인순)를 통과했다.

이법안이 여야 합의로 처리된 만큼, 7일 국회 법제사법위원회(위원장 김도읍)를 거쳐 정기국회 마지막 본회의인 8일에 무리없이 통과될 것으로 예상된다. 이 법이 시행될 경우, 내년 1월 11일부터 선거에 영향을 미칠 목적으로 딥페이크 등 AI로 생성된 영상을 만들어 유포하는 행위가 금지된다. 이를 위반하면 7년 이하 징역 또는 1천만 원 이상 5천만 원 이하 벌금에 처한다.

이제 후보자가 AI를 통해 제작된 홍보 영상을 선거 운동에 사용이 전면 금지되는 것이다. 또한 이번 개정안은 선거일보다 90일이 넘게 남았더라도 후보는 AI 영상을 만들어 올릴 때는 반듯이 가상의 정보라는 것을 워터마크 등 유권자가 명확히 알 수 있게 표시하도록 했다.

이 역시 어기면 1천만 원 이하 과태료를 부과하고 표시의무를 위반해 허위사실을 공표한다면 가중 처벌된다.