7강. 딥페이크 성범죄와 개인 피해 | AI 허위정보와 딥페이크 — 진실의 위기 · 입문 — NUGUNA

🎯 학습 목표

이 강을 마치면 딥페이크가 개인에게 입히는 피해를 두 축, 곧 비동의 성적 합성물과 신원 도용·음성 사칭 사기로 나누어 설명할 수 있습니다. 한국의 성폭력처벌법이 2024년 개정으로 무엇을 처벌하게 되었는지, 미국을 비롯한 해외에서는 어떤 법이 생겼는지 정리할 수 있습니다. 무엇보다 본인이나 주변 사람이 피해를 입었을 때 어디에 어떤 순서로 도움을 요청해야 하는지 구체적인 절차를 알게 됩니다.

이 강은 피해자의 고통을 다루는 만큼, 제작 방법이나 유통 경로를 설명하지 않습니다. 초점은 피해의 구조를 이해하고 대응과 회복을 돕는 데 있습니다.

💔 비동의 성적 합성물: 가장 오래되고 가장 큰 피해

3강에서 보았듯 '딥페이크'라는 이름 자체가 2017년 유명 여배우의 얼굴을 성인 영상에 합성한 게시물에서 시작되었고, 2019년 조사에서는 온라인 딥페이크 영상의 96%가 비동의 성적 영상물이었습니다. 이 피해의 정식 명칭은 비동의 성적 합성물 또는 법률 용어로 허위영상물입니다. 사람들 사이에서 쓰이는 '딥페이크 음란물'이라는 표현은 피해자가 무언가 음란한 행위를 한 것처럼 들리게 할 수 있어, 피해 지원 현장에서는 '성적 허위영상물'이나 '합성 성착취물' 같은 말을 권장합니다.

표적은 유명인에서 일반인으로 빠르게 넓어졌습니다. 2024년 1월에는 가수 테일러 스위프트의 성적 합성 이미지가 X에서 퍼져, 한 게시물이 삭제 전까지 약 4,700만 회 조회되었습니다. X는 이틀 동안 그의 이름 검색을 막는 이례적 조치를 했고, 미국 백악관은 이 사태를 '우려스럽다'며 입법을 촉구했습니다. 세계적 유명인조차 확산을 막지 못했다는 사실은, 일반인 피해자가 혼자 대응하기 얼마나 어려운지를 짐작하게 합니다.

한국에서는 2024년 여름 대학과 중·고등학교를 중심으로 지인의 얼굴을 합성한 성적 허위영상물이 텔레그램 단체방에서 유통된 사실이 잇따라 드러나 사회적 충격을 주었습니다. 여성가족부와 한국여성인권진흥원이 펴낸 『2024 디지털 성범죄 피해자 지원 보고서』에 따르면, 중앙디지털성범죄피해자지원센터에 접수된 합성·편집 피해는 2024년 1,384건으로 전년 423건보다 227% 늘었고, 피해자의 96.6%가 여성이었습니다. 1강에서 소개한 경찰 통계처럼 가해자의 다수가 10대였다는 점은, 이 문제가 기술 범죄인 동시에 교육과 또래 문화의 문제임을 보여 줍니다.

2026년 초에는 문제가 범용 AI 서비스로 옮겨 왔습니다. 일론 머스크의 AI 기업 xAI가 만든 챗봇 그록(Grok)이 X에서 실존 인물 사진의 옷을 바꾸거나 노출을 늘려 달라는 요청에 응해, 여성과 일부 미성년자의 성적 이미지를 대량으로 만들어 낸 사실이 드러났습니다. 영국 방송통신 규제기관 오프콤(Ofcom)은 공식 조사에 착수했고, 인도네시아와 말레이시아는 그록 접속을 일시 차단했으며, 미국 캘리포니아주 법무장관도 조사를 발표했습니다. 결국 xAI는 실존 인물의 성적 이미지 생성을 막겠다고 밝혔습니다. 별도의 전문 도구 없이, 누구나 쓰는 대화형 AI에서 피해가 대량 생산될 수 있다는 경고였습니다.

🧩 피해는 왜 이토록 깊은가

"진짜가 아니니 괜찮지 않으냐"는 말은 피해의 본질을 놓친 것입니다. 성적 허위영상물이 남기는 상처는 여러 겹으로 이루어져 있습니다.

첫째, 통제권의 상실입니다. 피해자는 자신이 한 적 없는 행위가 자신의 얼굴로 기록되어 떠도는 상황을 마주합니다. 언제, 어디서, 누가 보았는지 알 수 없다는 불확실성 자체가 지속적인 불안을 만듭니다.

둘째, 지인 관계 안에서의 가해입니다. 한국 사례의 상당수는 같은 학교, 같은 동아리, 같은 직장처럼 피해자를 아는 사람이 일상 사진을 가져다 만든 것이었습니다. 가해자가 가까이 있을 수 있다는 사실은 일상 공간 전체를 위협으로 바꿉니다.

셋째, 삭제의 어려움입니다. 한 번 퍼진 파일은 복제되어 여러 플랫폼과 해외 서버로 흩어집니다. 앞의 보고서에서 중앙디지털성범죄피해자지원센터가 2024년 한 해 지원한 피해 영상물 삭제 건수가 처음으로 30만 건을 넘었다는 사실은 삭제 작업이 얼마나 끝없는 추격인지 보여 줍니다.

넷째, 2차 피해입니다. "왜 사진을 공개했느냐"는 식의 비난은 책임을 가해자가 아닌 피해자에게 돌립니다. 일상 사진을 올리는 것은 잘못이 아니며, 합성을 결정하고 실행한 사람에게 온전히 책임이 있습니다. 피해 예방 교육에서도 '조심하지 않은 피해자'라는 메시지가 섞이지 않도록 주의해야 합니다.

⚖️ 법은 무엇을 처벌하는가

한국은 2020년 성폭력처벌법에 제14조의2(허위영상물 등의 반포 등)를 신설해 딥페이크 성범죄를 처음 별도로 규율했습니다. 그러나 '반포할 목적'이 입증되어야 제작을 처벌할 수 있고, 단순 소지나 시청은 처벌 규정이 없다는 허점이 2024년 사태에서 드러났습니다. 국회는 같은 해 법을 개정했고 개정법은 2024년 10월 16일부터 시행되었습니다.

행위	개정 전	개정 후(2024.10.16 시행)
편집·합성·가공(제작)	반포 목적이 있어야 처벌, 5년 이하	목적과 무관하게 처벌, 7년 이하 징역 또는 5천만 원 이하 벌금
영리 목적 반포	7년 이하	3년 이상 유기징역(벌금형 없음)
소지·구입·저장·시청	처벌 규정 없음	3년 이하 징역 또는 3천만 원 이하 벌금
허위영상물을 이용한 협박	일반 협박죄로 처리	1년 이상 유기징역
허위영상물을 이용한 강요	일반 강요죄로 처리	3년 이상 유기징역

표에서 가장 큰 변화는 두 가지입니다. 하나는 '혼자 보려고 만들었다'는 변명이 더는 통하지 않게 된 점이고, 다른 하나는 수요 측, 곧 내려받아 보거나 저장하는 사람까지 처벌 대상이 된 점입니다. 소비가 있어야 제작과 유통이 계속되므로, 수요를 끊어야 공급도 줄어든다는 판단이 반영되었습니다. 피해자가 아동·청소년이면 「아동·청소년의 성보호에 관한 법률」이 적용되어 더 무겁게 처벌됩니다.

해외에서도 입법이 이어지고 있습니다. 미국은 2025년 5월 19일 「TAKE IT DOWN 법」을 제정해, 실제 촬영물이든 AI로 만든 것이든 비동의 성적 이미지를 온라인에 게시하거나 게시하겠다고 협박하는 행위를 연방 범죄로 규정했습니다. 또 플랫폼이 피해자의 정식 삭제 요청을 받으면 48시간 안에 해당 이미지와 알려진 복제본을 지우도록 의무화했고, 이 의무는 2026년 5월 19일부터 연방거래위원회(FTC)가 집행하고 있습니다. 다만 일부 시민단체는 삭제 요청의 진위를 확인할 장치가 약해 정당한 게시물까지 지워질 수 있다는 우려를 제기했습니다. 이 균형 문제는 13·14강에서 이어서 다룹니다.

🎙️ 신원 도용과 음성 사칭: 지갑과 신분을 노리는 딥페이크

개인을 겨냥한 두 번째 축은 금전과 신원을 노리는 사기입니다. 수법은 크게 세 갈래입니다.

가족·지인 사칭은 가장 직접적입니다. 자녀나 부모의 목소리를 흉내 내 "사고가 났다", "납치되었다"며 급히 돈을 보내라고 요구합니다. 2강에서 본 것처럼 몇 초 분량의 음성 표본으로 목소리를 흉내 낼 수 있게 되면서, 소셜미디어에 올린 짧은 영상 하나가 사기의 재료가 될 수 있습니다. 국내 수사기관과 금융당국도 가족 목소리를 이용한 납치 빙자 수법에 주의하라는 경보를 내 왔습니다.

권위자 사칭은 상사나 공직자의 목소리를 빌립니다. 3강의 2019년 영국 에너지 회사 사건, 1강의 아럽 화상회의 사건이 기업을 노렸다면, 개인을 노린 사례도 늘고 있습니다. 미국 연방수사국(FBI)은 2025년 5월 공공 경보에서, 2025년 4월부터 미국 고위 공직자를 사칭한 AI 음성 메시지와 문자가 전·현직 공무원과 그 지인들에게 발송되고 있다고 경고했습니다. 사칭범은 신뢰를 쌓은 뒤 다른 메신저로 대화를 옮기자며 악성 링크를 보내 계정을 탈취하려 했습니다.

본인 인증 우회는 눈에 덜 띄지만 파급력이 큽니다. 금융 계좌 개설이나 비대면 본인 확인 과정에서 얼굴 영상이나 음성을 요구하는 서비스가 늘었는데, 합성된 얼굴과 목소리로 이 절차를 통과하려는 시도가 보고되고 있습니다. 3강에서 본 북한 IT 인력의 채용 면접 위장도 같은 맥락입니다. 얼굴과 목소리가 더는 확실한 신분 증명이 아니게 되면서, 금융권과 기업은 생체 정보 하나에 의존하지 않는 다중 인증으로 옮겨 가고 있습니다.

수법	전형적 시나리오	효과적인 방어
가족·지인 사칭	"사고 났어, 급하게 돈 좀"	끊고 본인 번호로 다시 걸기, 가족끼리 확인용 암호 정하기
권위자 사칭	상사·공직자 음성으로 송금·정보 요구	공식 경로 재확인, 다른 메신저 이동 요청 거절
본인 인증 우회	합성 얼굴·음성으로 비대면 인증 시도	다중 인증 사용, 명의 도용 조회 서비스 활용

세 수법의 공통 약점은 급박함과 비밀 유지 요구입니다. "지금 당장", "아무에게도 말하지 마"라는 말이 나오면, 목소리가 아무리 똑같아도 일단 전화를 끊고 이미 알고 있는 번호로 직접 확인하는 것이 가장 확실한 방어입니다. 가족끼리 미리 정해 둔 확인용 질문이나 암호는 단순하지만 AI가 흉내 낼 수 없는 장치입니다.

🆘 피해를 입었다면: 대응과 회복의 순서

성적 허위영상물 피해를 알게 되면 충격 속에서 무엇부터 해야 할지 막막해집니다. 아래 순서는 국내 지원 기관들이 공통으로 안내하는 흐름을 정리한 것입니다.

혼자 감당하지 않습니다. 피해는 당신의 잘못이 아닙니다. 믿을 수 있는 사람이나 전문 기관에 먼저 알립니다.
증거를 남깁니다. 게시된 주소(URL), 게시자 계정, 날짜와 시간이 보이도록 화면을 캡처해 둡니다. 증거 확보가 어렵거나 다시 보는 것이 고통스럽다면 지원 기관에 도움을 요청할 수 있습니다.
삭제 지원을 요청합니다. 한국여성인권진흥원의 중앙디지털성범죄피해자지원센터(02-735-8994)는 상담, 피해 영상물 삭제 지원, 유포 모니터링, 수사·법률·의료 지원 연계를 한곳에서 제공합니다. 운영 시간은 센터 누리집(d4u.stop.or.kr)에서 확인할 수 있습니다.
신고합니다. 방송통신 심의기관의 디지털 성범죄 신고 전화 1377(국번 없이, 24시간 자동응답)은 삭제·차단과 수사 요청을 도울 기관을 안내합니다. 수사를 원하면 경찰(112) 또는 경찰청 사이버범죄 신고 시스템에 신고합니다. 여성긴급전화 1366도 24시간 상담을 받습니다.
회복을 돌봅니다. 심리 상담과 법률 지원은 피해 회복의 일부입니다. 지원 센터를 통해 무료 법률 지원이나 상담 기관을 연계받을 수 있습니다.

주변 사람이 피해 사실을 털어놓았다면, 가장 중요한 것은 믿어 주고 탓하지 않는 것입니다. 해당 영상을 찾아보거나 다른 사람에게 전달하는 행위는 선의라도 2차 피해가 되며, 개정법에 따라 시청과 저장 자체가 범죄가 될 수 있습니다. 함께 지원 기관에 연락하도록 돕는 것이 가장 실질적인 도움입니다.

음성 사칭 사기를 당했다면 즉시 거래 은행 고객센터나 금융감독원 콜센터(1332)에 연락해 지급 정지를 요청하고, 경찰(112)에 신고합니다. 송금 직후 빠르게 움직일수록 피해금을 돌려받을 가능성이 높아집니다.

📝 핵심 요약과 다음 강 예고

성적 허위영상물: 딥페이크 피해의 출발점이자 가장 큰 비중. 국내 합성·편집 피해 지원은 2024년 1,384건으로 1년 새 227% 늘었고 피해자의 96.6%가 여성입니다.
피해의 깊이: 통제권 상실, 지인 관계 안의 가해, 끝없는 삭제 추격, 2차 피해가 겹칩니다.
법: 2024년 10월 16일부터 목적과 무관한 제작(7년 이하), 소지·시청(3년 이하), 이를 이용한 협박(1년 이상)·강요(3년 이상)를 처벌합니다. 미국은 TAKE IT DOWN 법으로 48시간 삭제 의무를 도입했습니다.
사칭 사기: 가족·권위자 사칭과 본인 인증 우회. 급박함과 비밀 요구가 나오면 끊고 알고 있는 번호로 직접 확인합니다.
도움 창구: 디지털성범죄피해자지원센터 02-735-8994, 1377, 1366, 112, 금융 피해는 1332.

개인을 겨냥한 딥페이크가 한 사람의 삶을 흔든다면, 국가와 조직이 동원하는 허위정보는 사회 전체의 여론을 겨냥합니다. 다음 8강 「여론 조작과 정보 작전」에서는 수많은 가짜 계정과 AI 생성 콘텐츠를 엮어 특정 여론을 만들어 내는 조직적 캠페인이 어떻게 작동하고, 연구자와 플랫폼이 이를 어떻게 찾아내는지 살펴보겠습니다.

딥페이크 성범죄와 개인 피해