6강. 선거와 딥페이크 — 민주주의의 시험대 | AI 허위정보와 딥페이크 — 진실의 위기 · 입문 — NUGUNA

🎯 학습 목표

이 강을 마치면 세계 각국 선거에서 실제로 등장한 AI 조작 사례를 유형별로 나누어 설명할 수 있습니다. 투표 억제, 막판 폭로, 지지 위장, 고인 소환, 공개된 합법 활용이 각각 어떤 방식으로 유권자의 판단에 개입하는지 구분하게 되고, 한국 공직선거법의 딥페이크 규정과 실제 적발 추이를 이해하게 됩니다. 아울러 "딥페이크가 선거 결과를 바꿨는가"라는 질문에 대해 현재까지의 연구가 무엇을 말하고 무엇을 말하지 못하는지를 과장 없이 정리할 수 있습니다.

이 강의 사례들은 특정 정당이나 진영을 평가하려는 것이 아닙니다. 여러 나라, 여러 진영에서 나온 사례를 고르게 다루며, 초점은 언제나 '누가'가 아니라 '어떤 수법이 어떤 위험을 낳는가'에 있습니다.

🗳️ 왜 선거가 가장 취약한 순간인가

선거는 허위정보에 특히 취약한 구조를 갖고 있습니다. 첫째, 시간이 정해져 있습니다. 투표일이라는 마감이 있기 때문에, 거짓이 밝혀지기 전에 투표가 끝나면 피해를 되돌릴 방법이 없습니다. 판결이나 정정 보도는 몇 주, 몇 달이 걸리지만 투표는 하루면 끝납니다.

둘째, 작은 차이가 결과를 바꿉니다. 접전 지역에서 몇 퍼센트포인트의 투표율 변화나 지지 이동은 당락을 가를 수 있습니다. 전체 유권자의 대다수를 설득할 필요 없이, 소수의 망설이는 유권자나 투표를 포기할지 고민하는 사람만 움직여도 충분합니다.

셋째, 감정이 가장 고조된 시기입니다. 5강에서 본 것처럼 분노와 확증편향은 확산을 가속하는데, 선거 기간은 진영 간 대립이 가장 날카로워지는 때입니다. 상대 후보에게 불리한 내용이라면 확인 없이 믿고 퍼뜨리려는 동기가 평소보다 훨씬 강해집니다.

여기에 생성형 AI가 더한 변화는 분명합니다. 후보자의 목소리와 얼굴은 연설, 토론, 인터뷰로 이미 공개되어 있어 복제에 필요한 재료가 넘쳐 납니다. 3강에서 확인했듯 필요한 재료가 수 초 분량의 음성, 사진 몇 장으로 줄어든 지금, 정치인은 가장 쉬운 표적입니다. 2024년은 미국 대선, 인도 총선, 인도네시아 대선, 유럽의회 선거 등 대형 선거가 한 해에 몰려 'AI 선거의 첫 시험대'로 불렸습니다.

🎭 사례로 본 선거 조작의 다섯 가지 수법

실제 사례를 수법별로 나누어 보면 위협의 모양이 훨씬 구체적으로 드러납니다.

① 투표 억제형입니다. 1강에서 본 2024년 1월 미국 뉴햄프셔주 사례가 대표적입니다. 조 바이든 당시 대통령의 목소리를 복제한 자동 전화가 예비경선 이틀 전 유권자들에게 "이번에는 투표하지 말고 11월을 위해 아껴 두라"는 취지로 말했습니다. 후보를 비방하는 대신 투표 행위 자체를 막으려 했다는 점에서, 가장 직접적으로 선거 절차를 겨냥한 수법입니다.

② 막판 폭로형입니다. 2023년 9월 슬로바키아 총선을 이틀 앞두고, 진보 성향 정당 '진보 슬로바키아' 대표 미할 시메치카(Michal Šimečka)와 한 일간지 기자가 표를 매수하고 개표를 조작하는 방안을 논의하는 듯한 음성 파일이 퍼졌습니다. AI로 조작된 가짜였지만, 슬로바키아 선거법은 투표일 전 이틀간 선거 보도와 운동을 금지하는 '침묵 기간'을 두고 있어 언론과 후보가 제때 반박하기 어려웠습니다. 페이스북에서만 10만 명 넘게 이 녹음을 본 것으로 추정됩니다. 반박이 불가능한 시점을 정확히 노렸다는 점이 이 수법의 핵심입니다.

③ 지지 위장형입니다. 2024년 8월 도널드 트럼프 당시 공화당 후보는 자신의 소셜미디어에 가수 테일러 스위프트가 자신을 지지하는 것처럼 보이는 이미지들을 올리며 "받아들이겠다"고 적었습니다. 일부는 AI로 생성된 것으로 분석되었고, 스위프트는 당시 어떤 후보도 지지하지 않은 상태였습니다. 유명인의 영향력을 빌려 지지 분위기를 만드는 방식으로, 상대를 공격하기보다 자기 쪽 신뢰를 부풀린다는 점이 다릅니다.

④ 고인 소환형입니다. 2024년 2월 인도네시아 대선을 앞둔 1월, 골카르(Golkar)당 부대표가 2008년 사망한 전 대통령 수하르토가 등장해 "나는 인도네시아의 두 번째 대통령 수하르토"라며 당 지지를 호소하는 3분짜리 AI 영상을 공개했습니다. 이 영상은 X에서만 470만 회 넘게 조회되었습니다. 당 측은 투표의 중요성을 일깨우려는 의도였다고 설명했지만, 32년간 권위주의 통치를 한 인물을 본인 동의 없이 되살려 정치 메시지를 말하게 했다는 점에서 큰 논란을 낳았습니다.

⑤ 공개된 합법 활용도 함께 살펴볼 필요가 있습니다. 파키스탄의 임란 칸 전 총리는 수감 중이던 2023년 12월과 2024년 2월 총선 전후, 자신이 감옥에서 전달한 메시지를 바탕으로 AI가 목소리를 재현한 연설을 지지자들에게 공개했습니다. 당 측은 이 음성이 AI로 만든 것이라고 명시했습니다. 속이려는 의도 없이 공개적으로 표시된 활용이라는 점에서 앞의 사례들과 성격이 다르며, 4강에서 배운 '기술과 의도의 구분'이 실제로 왜 필요한지 보여 줍니다.

수법	사례(시점)	노리는 효과	핵심 위험 요소
투표 억제	바이든 음성 복제 전화(미국, 2024.1)	특정 집단의 투표 포기	절차 자체를 공격
막판 폭로	시메치카 가짜 녹음(슬로바키아, 2023.9)	반박 불가능한 시점의 이미지 타격	침묵 기간 악용
지지 위장	스위프트 지지 위장 이미지(미국, 2024.8)	유명인 영향력 차용	당사자 동의 없는 이름 사용
고인 소환	수하르토 AI 영상(인도네시아, 2024.1)	향수와 권위의 동원	반박할 수 없는 인물의 발언 날조
공개 활용	임란 칸 AI 음성 연설(파키스탄, 2023~2024)	수감 중 메시지 전달	표시 여부가 정당성을 가름

표에 넣지 않은 경계 사례도 하나 있습니다. 2024년 7월 일론 머스크는 카멀라 해리스 당시 민주당 후보의 목소리를 AI로 흉내 내 스스로를 비하하게 만든 영상을 X에 올렸습니다. 원작자는 이를 패러디라고 밝혔지만, 머스크의 첫 게시물에는 그런 표시가 없었고 1억 회 이상 조회되었습니다. 원래는 풍자였던 콘텐츠가 맥락을 잃은 채 퍼지면 진짜로 오인될 수 있다는, 4강의 '풍자·패러디' 유형이 현실에서 어떻게 작동하는지 보여 주는 장면입니다.

🇰🇷 한국의 규정과 적발 추이

한국은 비교적 이른 시기에 선거 딥페이크를 법으로 규율한 나라입니다. 국회는 2023년 12월 20일 공직선거법을 개정해 제82조의8을 새로 만들었습니다. 핵심은 두 단계로 나뉩니다. 선거일 전 90일부터 선거일까지는 선거운동을 목적으로 실제와 구분하기 어려운 AI 합성 음향·이미지·영상을 제작·편집·유포·상영·게시하는 행위가 전면 금지되며, 위반하면 7년 이하의 징역 또는 1천만 원 이상 5천만 원 이하의 벌금에 처해집니다. 그 이전 기간에는 제작 자체가 금지되지는 않지만, 해당 콘텐츠가 AI로 만든 가상의 정보라는 사실을 분명히 표시해야 합니다.

적발 추이는 기술 대중화의 속도를 그대로 보여 줍니다. 중앙선거관리위원회 집계를 인용한 보도에 따르면, 법이 처음 적용된 2024년 제22대 국회의원선거에서 적발된 딥페이크 선거운동 게시물은 약 390건이었습니다. 2025년 제21대 대통령선거에서는 1만 513건으로 약 27배 늘었고, 2026년 6월 3일 지방선거를 앞두고는 선거일까지 50여 일이 남은 4월 10일 기준으로 이미 4,661건이 적발되었습니다.

집행의 어려움도 드러났습니다. 22대 총선 당시 선관위가 삭제를 요청한 게시물 가운데 4분의 1가량은 끝내 지워지지 않았는데, 대부분 국내법 집행이 어려운 해외 플랫폼에 올라 있었습니다. 법이 있어도 국경을 넘는 플랫폼에 대해서는 협조에 의존할 수밖에 없다는 한계는 12강 「플랫폼의 책임과 딜레마」에서 다시 다룹니다. 또 일부 언론과 법조계에서는 형량이 과도하고 '선거운동 목적'의 범위가 모호해 풍자나 정당한 비판까지 위축시킬 수 있다는 지적도 나왔습니다. 이 균형 문제는 14강에서 자세히 살펴봅니다.

📏 위협의 크기: 과장도 축소도 없이

"딥페이크가 선거를 뒤집었는가?" 이 질문에 대한 현재까지의 답은 생각보다 신중합니다. 균형 잡힌 판단을 위해 근거를 양쪽에서 살펴보겠습니다.

먼저 '과장을 경계하는' 근거입니다. 영국 앨런튜링연구소 산하 기술안보센터(CETaS)는 2024년 영국 총선, 프랑스 총선, 유럽의회 선거를 분석해 AI가 동원된 허위정보 사례 27건을 확인했지만, 선거 결과를 바꿨다는 결정적 증거는 찾지 못했다고 보고했습니다. 노출된 사람들은 대개 이미 그 주장에 동조하던 유권자였다는 것입니다. 메타도 2024년 12월, 그해 세계 주요 선거와 관련해 팩트체커가 판정한 허위정보 가운데 AI 생성 콘텐츠의 비중은 1% 미만이었다고 밝혔습니다. 슬로바키아 사례 역시 "딥페이크가 뒤집은 첫 선거"라는 평가가 퍼졌지만, 하버드 케네디스쿨의 『오정보 리뷰』에 실린 분석은 그 녹음이 결과에 미친 인과 효과는 입증되지 않았고, 오랜 기간 쌓인 불신과 친러 성향 정보 생태계라는 배경을 함께 봐야 한다고 지적했습니다.

다음은 '축소를 경계하는' 근거입니다. CETaS 보고서는 결과를 바꾸지 않았더라도 AI 허위정보가 선거 담론을 오염시키고 유해한 서사를 증폭하며 양극화를 굳혔다고 경고했습니다. 또 1% 미만이라는 수치는 '팩트체커가 찾아낸 것' 중의 비율이어서, 비공개 메신저나 소규모 커뮤니티에서 도는 콘텐츠는 잡히지 않습니다. 무엇보다 피해의 상당 부분은 개별 가짜가 아니라 누적된 불신에서 옵니다. 1강의 '거짓말쟁이의 배당금'처럼, 후보가 불리한 진짜 녹음을 "AI 조작"이라고 부정하기 쉬워지는 것 자체가 선거의 책임성을 약하게 만듭니다.

선거 전체가 무효가 된 사례도 있습니다. 루마니아 헌법재판소는 2024년 12월 6일 대통령 선거 1차 투표 결과를 무효로 했습니다. 정보기관 보고서를 근거로, 1위에 오른 후보를 위한 틱톡·텔레그램 중심의 조직적 온라인 캠페인과 선거자금 규정 위반, 외국 개입 정황이 선거 과정 전반을 오염시켰다는 판단이었습니다. 이 사례는 딥페이크 한 편보다 계정망과 알고리즘을 이용한 조직적 정보 작전이 더 큰 위협일 수 있음을 보여 주며, 8강에서 자세히 다룹니다. 동시에 법원의 선거 무효 판단이 민주주의를 지킨 것인지, 또 다른 논란을 낳은 것인지를 두고 유럽 안에서도 평가가 엇갈렸습니다.

관점	근거	시사점
과장 경계	CETaS: 결과 변경 증거 없음 / 메타: AI 비중 1% 미만	모든 패배를 딥페이크 탓으로 돌리면 안 된다
축소 경계	담론 오염·양극화, 비공개 채널의 사각지대, 거짓말쟁이의 배당금	결과가 그대로여도 신뢰는 깎인다
구조적 위협	루마니아 선거 무효(2024.12)	개별 가짜보다 조직적 작전이 더 위험할 수 있다

🛡️ 대응의 흐름과 유권자의 원칙

대응은 여러 층에서 동시에 진행되고 있습니다. 기업 차원에서는 2024년 2월 뮌헨안보회의에서 마이크로소프트, 구글, 메타, 오픈AI, 틱톡, X 등 20여 개 기술 기업이 「2024년 선거에서 AI의 기만적 사용에 대응하기 위한 기술 협약」에 서명했습니다. 기만적 AI 선거 콘텐츠를 탐지하고 표시하며 대응 정보를 공유하겠다는 자율 약속이었습니다. 법적 강제력이 없다는 한계가 있지만, 업계가 공동 책임을 처음 공식화했다는 의미가 있습니다. 국가 차원에서는 한국처럼 선거 기간 딥페이크를 직접 금지하는 방식, 표시 의무를 부과하는 방식, 기존 선거법·명예훼손법으로 대응하는 방식 등이 나라마다 다르게 시도되고 있으며, 13강에서 비교합니다.

유권자로서 기억할 원칙은 세 가지로 정리할 수 있습니다. 첫째, 시점을 의심합니다. 투표 직전, 특히 반박이 어려운 시기에 갑자기 등장한 결정적 폭로는 그 자체로 경계 신호입니다. 둘째, 공식 경로를 확인합니다. 투표 장소나 일정 변경, 후보 사퇴 같은 정보는 선관위와 후보 공식 채널에서 직접 확인합니다. 셋째, 같은 기준을 적용합니다. 내가 지지하는 후보에게 유리한 영상이라도, 반대 진영의 영상을 볼 때와 똑같은 기준으로 출처를 따집니다. 확증편향을 이기는 가장 실용적인 방법은 진영에 따라 기준을 바꾸지 않는 것입니다.

📝 핵심 요약과 다음 강 예고

선거의 취약성: 정해진 마감, 작은 차이의 결정력, 고조된 감정이 허위정보의 효과를 키웁니다.
다섯 수법: 투표 억제(미국), 막판 폭로(슬로바키아), 지지 위장(미국), 고인 소환(인도네시아), 공개된 합법 활용(파키스탄). 패러디가 맥락을 잃는 경계 사례도 있습니다.
한국: 공직선거법 제82조의8(2023.12)로 선거일 90일 전부터 딥페이크 선거운동 금지. 적발 건수는 약 390건(2024 총선) → 1만 513건(2025 대선)으로 급증했습니다.
균형 잡힌 평가: 결과를 바꿨다는 증거는 아직 제한적이지만, 담론 오염과 신뢰 하락, 조직적 정보 작전의 위험은 실재합니다.
유권자 원칙: 시점을 의심하고, 공식 경로를 확인하고, 진영과 무관하게 같은 기준을 적용합니다.

선거 딥페이크가 사회 전체의 신뢰를 흔든다면, 한 사람의 삶을 송두리째 무너뜨리는 딥페이크도 있습니다. 다음 7강 「딥페이크 성범죄와 개인 피해」에서는 딥페이크 피해의 가장 큰 비중을 차지해 온 성적 허위 영상물 문제를 다루고, 피해 실태와 강화된 처벌 규정, 그리고 피해를 입었을 때 실제로 도움을 받을 수 있는 절차를 구체적으로 안내하겠습니다.

선거와 딥페이크 — 민주주의의 시험대