제22대 국회의원 선거를 40여 일 앞두고 언론의 선거보도 열기가 뜨거운 가운데, 최근 딥페이크로 제작된 소위 ‘윤석열 대통령 양심고백’이라는 가짜 조작 영상이 소셜미디어를 통해 확산되면서, 자유민주주의가 위협을 받고 있다. 국내에서 대통령 딥페이크 영상이 등장한 것은 이번이 처음이다. “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다. 무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”는 허위 연설을 담은 딥페이크 영상은 발전한 기술의 오용이 초래할 수 있는 사회의 혼란과 위험 수위가 어느 정도로 높아졌는지를 가늠하게 해주고 있다.

딥페이크는 인공지능 기술을 이용하여 인간 얼굴이나 음성을 합성해 실제와 비슷하게 조작된 가짜 동영상 또는 오디오를 말한다. 고도화된 기술을 이용해 현실적이고 신뢰할만한 결과물을 제작해내어 사회적 혼란을 유발하거나 허구 정보를 실제로 발생한 사실로 인식하게 만든다. 특히 AI 딥페이크는 제작이 손쉽고 가짜와 실제를 구분하기 어렵다는 점, 왜곡된 허위 정보를 담는다는 점, 전파의 속도가 빠르다는 점에서 선거에 중대한 악영향을 미칠 수 있다. 따라서 이를 금지하는 기술적 조치와 강력한 처벌 등의 선제적이고 즉각적인 대응이 필요하다.

선거 과정에서 딥페이크는 여러 측면에서 부정적인 영향을 미칠 수 있다. 먼저, 선거 캠페인 중에 후보자나 정치인의 가짜 동영상이나 가짜 음성이 유포되면 당사자의 신뢰성이 훼손되고 혼란이 야기될 수 있다. 허위 정보가 선거 캠페인을 방해하고 정당한 선거 과정을 왜곡시킬 수 있다.

또한, 딥페이크는 선거 보도의 신뢰성을 직간접적으로 훼손할 수 있다. 가짜 동영상이나 오디오가 언론에 공개되면 보도의 공정성과 신뢰성에 대한 의문이 제기되며, 선거 결과에 대한 불신이 증폭될 수 있다. 더 나아가 정치적 선동이나 선거 캠페인을 목적으로 딥페이크를 악용하는 경우, 사회적 분열과 갈등을 유발할 수 있다.

딥페이크에 대응하기 위해서는 기술, 정책, 법제, 교육적인 측면이 복합적으로 고려되어야 한다. 먼저, 딥페이크를 검증하고 탐지하기 위한 기술적 방어 수단을 강화하여야 한다. 유럽연합(EU)은 지난해 디지털 서비스법(DSA)을 통해 AI 제작 콘텐츠에 별도 표시를 의무화하였고, 미국은 행정명령을 통해 AI 콘텐츠 식별장치를 강화하도록 한 바 있다. 미국의 IT기업들은 AI로 만든 창작물을 식별하기 위한 워터마크를 도입하였다. 

선거 시기에 특히 딥페이크 영상을 이용한 선거운동을 금지하는 등 관련 법령 개정도 시급하다. 무엇보다도 중요한 것은 디지털 리터러시 교육을 확대하여 대중들이 디지털 윤리의식을 키우고, 딥페이크를 식별하고 의심하는 역량을 키우도록 하여야 한다. 선거 국면에서 딥페이크의 도전과 유혹은 성큼 다가온 AI시대에 자유민주주의를 지키는 하나의 시험대가 되가 될 전망이다.