4강. 허위정보·오정보·악의정보 구분 | AI 허위정보와 딥페이크 — 진실의 위기 · 입문 — NUGUNA

🎯 학습 목표

이 강을 마치면 거짓되거나 해로운 정보를 '가짜뉴스' 한 단어로 뭉뚱그리지 않고, 진위와 의도라는 두 기준으로 정확히 나눌 수 있습니다. 국제적으로 통용되는 세 개념, 곧 오정보(misinformation)·허위정보(disinformation)·악의정보(malinformation)의 차이를 사례와 함께 설명할 수 있고, 거짓 콘텐츠가 실제로 어떤 모양으로 나타나는지 일곱 가지 유형으로 구분할 수 있습니다. 나아가 이 구분이 법·플랫폼 정책·개인의 대응 방식을 왜 다르게 만드는지 이해하게 됩니다.

🚫 '가짜뉴스'라는 말이 부족한 이유

일상에서는 진실이 아닌 정보를 흔히 '가짜뉴스'라고 부릅니다. 짧고 직관적이라 편리하지만, 전문가와 국제기구들은 이 표현을 정책 용어로 쓰지 말자고 권고해 왔습니다. 이유는 세 가지입니다.

첫째, 범위가 너무 좁습니다. 거짓 정보의 상당수는 뉴스 형식을 띠지 않습니다. 단톡방에 도는 캡처 이미지, 출처 없는 음성 파일, 조작된 밈(meme), 가짜 상품 후기는 모두 기사가 아니지만 사회에 해를 끼칩니다.

둘째, 범위가 너무 넓기도 합니다. 실수로 숫자를 잘못 옮긴 기사와 선거를 뒤집으려 조직적으로 만든 조작 영상이 같은 이름으로 불리면, 둘에 필요한 처방의 차이가 사라집니다. 앞의 경우는 정정 보도로 충분하지만, 뒤의 경우는 수사와 플랫폼 차원의 대응이 필요합니다.

셋째, 이 말 자체가 무기가 되었습니다. 정치인이나 권력자가 자신에게 불리한 보도를 '가짜뉴스'라고 낙인찍는 일이 세계 곳곳에서 반복되면서, 이 단어는 '사실이 아닌 정보'가 아니라 '내 마음에 들지 않는 정보'를 가리키는 말로 변질되었습니다. 1강에서 본 '거짓말쟁이의 배당금'이 언어 차원에서 작동하는 셈입니다.

이런 이유로 영국 하원 디지털·문화·미디어·스포츠 위원회는 2018년 7월 중간 보고서에서 정부가 '가짜뉴스'라는 용어를 거부하고 오정보·허위정보라는 말을 쓰도록 권고했고, 조사 명칭까지 '허위정보와 가짜뉴스'로 바꿨습니다. 유네스코가 같은 해 펴낸 언론인 교육 교재 『저널리즘, '가짜뉴스' 그리고 허위정보』도 제목에서 가짜뉴스에 따옴표를 붙이고, 오정보·허위정보·'정보 무질서'라는 표현이 더 바람직하다고 밝혔습니다.

💡 정보 무질서의 세 갈래

오늘날 가장 널리 쓰이는 분류 틀은 연구자 클레어 워들(Claire Wardle)과 호세인 데락샨(Hossein Derakhshan)이 2017년 유럽평의회(Council of Europe)에 제출한 보고서 「정보 무질서(Information Disorder)」에서 나왔습니다. 두 사람은 문제의 정보를 두 가지 질문으로 가릅니다. 내용이 거짓인가, 그리고 퍼뜨리는 사람에게 해를 끼치려는 의도가 있는가입니다.

오정보(misinformation)는 거짓이지만 해칠 의도 없이 퍼지는 정보입니다. 지인을 걱정하는 마음에 검증되지 않은 건강 정보를 공유하는 경우, 재난 현장 사진이라며 다른 시기의 사진을 진짜로 믿고 전달하는 경우가 여기에 해당합니다. 퍼뜨리는 사람 스스로 그것이 사실이라고 믿는다는 점이 핵심입니다.

허위정보(disinformation)는 거짓임을 알면서 해를 끼치거나 이익을 얻으려고 의도적으로 만들고 퍼뜨리는 정보입니다. 워들과 데락샨은 그 목적이 대개 정치적이거나 금전적이며, 때로는 단지 혼란을 일으키는 것 자체라고 설명합니다. 1강에서 본 바이든 대통령 음성 복제 전화, 3강의 젤렌스키 대통령 가짜 항복 영상이 대표적입니다. 유럽연합 집행위원회도 2018년 허위정보 대응 정책 문서에서 이를 '경제적 이익을 얻거나 대중을 의도적으로 속이기 위해 만들어지고 유포되며 공공에 해를 끼칠 수 있는, 검증 가능한 거짓 또는 오도성 정보'로 정의하면서, 보도상의 실수와 풍자·패러디, 당파성이 분명히 드러난 논평은 여기서 제외한다고 못 박았습니다.

악의정보(malinformation)는 가장 오해받기 쉬운 개념입니다. 내용은 사실이지만 해를 끼치려는 의도로 퍼뜨리는 정보를 말합니다. 개인의 주소나 연락처를 공개해 공격을 부추기는 이른바 '신상털기', 사적인 대화나 사진을 동의 없이 유포하는 행위, 공익과 무관한 사생활을 골라 흘려 특정인을 망신 주는 행위가 해당합니다. 진짜 정보라도 맥락과 목적에 따라 흉기가 될 수 있다는 점을 짚은 개념입니다.

구분	내용의 진위	해칠 의도	대표 예시	핵심 대응
오정보	거짓	없음	선의로 공유한 잘못된 건강 정보	정정·교육·확인 습관
허위정보	거짓	있음	선거 개입용 음성 복제 전화	추적·차단·법적 제재
악의정보	사실	있음	신상털기, 사적 영상 유포	사생활 보호·명예훼손 법리

이 표에서 비어 있는 칸, 곧 '사실이면서 해칠 의도도 없는 정보'는 정상적인 정보 유통입니다. 세 개념은 그 바깥에서 문제가 생기는 방식을 체계적으로 나눈 것입니다.

🔄 같은 콘텐츠도 옷을 갈아입는다

이 분류는 콘텐츠 자체가 아니라 유통의 각 단계에서 행위자의 의도를 기준으로 합니다. 그래서 하나의 콘텐츠가 퍼지는 과정에서 범주가 바뀌기도 합니다. 워들과 데락샨이 보고서에서 강조한 대목입니다.

예를 들어 보겠습니다. 어떤 조직이 선거 직전 후보자의 가짜 발언 영상을 만들어 퍼뜨립니다. 이 단계에서 영상은 명백한 허위정보입니다. 그런데 영상을 본 시민이 진짜라고 믿고 걱정하는 마음으로 가족 단톡방에 공유합니다. 이 시민의 행위는 오정보 유통입니다. 같은 영상이지만 공유한 사람의 의도가 다르기 때문입니다. 반대로 시민이 무심코 올린 오정보를, 이를 알아챈 누군가가 상대 진영 공격에 이용하려고 의도적으로 증폭하면 다시 허위정보 작전의 일부가 됩니다.

이 구분은 실제 대응에서 큰 차이를 만듭니다. 처음 만든 조직에는 수사와 처벌이 필요하지만, 속아서 공유한 수많은 시민을 같은 방식으로 다루는 것은 부당하고 비현실적입니다. 시민에게 필요한 것은 처벌이 아니라 정정 정보와 확인 습관입니다. 플랫폼 역시 '최초 유포 계정망'과 '선의의 재공유'를 구분해야 과잉 차단과 방치를 함께 피할 수 있습니다.

생성형 AI는 여기에 새로운 경우를 더합니다. 9강에서 다룰 환각, 즉 AI가 사실과 다른 내용을 그럴듯하게 지어내는 현상은 누구의 악의도 없이 거짓을 만듭니다. 그 결과물을 사람이 확인 없이 옮기면 오정보가 되고, 거짓임을 알면서 일부러 활용하면 허위정보가 됩니다. 기계에는 의도가 없으니, 범주를 결정하는 것은 언제나 그것을 쓰는 사람이라는 점이 다시 확인됩니다.

🧩 거짓 콘텐츠의 일곱 가지 얼굴

세 개념이 '왜' 퍼뜨리는가를 묻는다면, 워들이 비영리 검증 단체 퍼스트 드래프트(First Draft)를 통해 2017년 정리한 일곱 유형은 '어떤 모양으로' 나타나는가를 보여 줍니다. 해를 끼칠 가능성이 낮은 것부터 높은 순으로 배열되어 있으며, AI 시대의 사례를 붙여 살펴보겠습니다.

유형	설명	AI 시대의 예
1. 풍자·패러디	해칠 의도는 없으나 맥락을 모르면 속을 수 있음	정치인을 우스꽝스럽게 합성한 풍자 영상
2. 거짓 연결	제목·사진·설명이 본문과 맞지 않음	본문과 무관한 자극적 AI 썸네일
3. 오도성 콘텐츠	사실을 비틀어 특정 인상을 심음	실제 발언의 일부만 잘라 의미를 바꾼 영상
4. 거짓 맥락	진짜 콘텐츠를 다른 시간·장소의 것으로 소개	과거 재난 사진을 '오늘 현장'이라고 유포
5. 사칭 콘텐츠	유명인·언론사·기관을 흉내 냄	언론사 로고를 입힌 가짜 뉴스 화면, 목소리 복제
6. 조작 콘텐츠	진짜 콘텐츠를 변형해 속임	실제 영상의 얼굴만 바꾼 딥페이크
7. 날조 콘텐츠	처음부터 완전히 지어냄	문장 한 줄로 생성한 존재하지 않는 사건 영상

이 표에서 주목할 점이 두 가지 있습니다. 하나는 생성형 AI가 6번과 7번, 곧 가장 해로운 유형의 제작 비용을 극적으로 낮췄다는 사실입니다. 예전에는 전문가의 영역이던 조작과 날조가 이제 누구에게나 열렸습니다.

다른 하나는 AI가 없어도 충분히 해로운 유형이 여전히 많다는 사실입니다. 3번 오도성 콘텐츠와 4번 거짓 맥락은 진짜 사진과 진짜 발언만으로 만들어지기 때문에, 딥페이크 탐지기로는 전혀 걸러지지 않습니다. 전쟁이나 재난이 터질 때마다 몇 년 전 다른 나라에서 찍힌 진짜 사진이 '방금 들어온 현장 사진'으로 퍼지는 일이 반복되는 것도 이 때문입니다. 딥페이크에만 시선을 빼앗기면 더 흔한 위협을 놓치게 됩니다.

1번 풍자·패러디가 목록에 들어 있다는 점도 기억해 둘 만합니다. 풍자는 민주 사회에서 보호받아야 할 표현입니다. 다만 원래 맥락에서 떨어져 나와 퍼지면 진짜로 오인될 수 있으므로, 풍자임을 분명히 표시하는 것이 만드는 사람의 책임으로 강조되고 있습니다. 이 긴장 관계는 14강 「표현의 자유와 균형」에서 다시 다룹니다.

⚠️ 정확한 용어가 중요한 이유와 흔한 혼동

용어 구분은 학술적 꼼꼼함에 그치지 않습니다. 실제 정책과 일상 판단을 좌우합니다. 자주 생기는 혼동 네 가지와 함께 그 이유를 정리합니다.

첫째, "거짓을 퍼뜨린 사람은 모두 가해자다"라는 생각입니다. 앞서 본 것처럼 속아서 공유한 사람은 오정보의 전달자이자 동시에 허위정보의 피해자입니다. 이들을 공격하면 정정 정보를 받아들이기보다 방어적으로 굳어지기 쉽습니다. 15강의 미디어 리터러시가 비난보다 습관 형성에 초점을 맞추는 이유입니다.

둘째, "사실이면 무엇이든 퍼뜨려도 된다"는 생각입니다. 악의정보 개념이 보여 주듯, 진실한 정보도 사생활 침해나 괴롭힘의 도구가 될 수 있습니다. 한국 법에서도 사실을 적시한 경우라도 명예훼손이 성립할 수 있고, 개인정보를 동의 없이 공개하는 행위는 별도로 문제가 됩니다. 다만 악의정보 개념은 공익적 폭로나 비판적 보도까지 '해로운 정보'로 묶어 억누르는 데 오용될 수 있다는 비판도 있으므로, 적용할 때는 공익성과 사생활 침해를 함께 따져야 합니다.

셋째, "딥페이크면 허위정보다"라는 등식입니다. 딥페이크는 제작 기술의 이름이고, 허위정보는 의도의 이름입니다. 고인의 목소리를 유족 동의하에 복원한 다큐멘터리나 명확히 표시된 패러디는 딥페이크 기술을 썼어도 허위정보가 아닙니다. 반대로 AI 없이 만든 거짓 맥락 사진은 얼마든지 허위정보가 될 수 있습니다.

넷째, "의도는 알 수 없으니 구분이 무의미하다"는 반론입니다. 개별 사용자의 속마음은 알기 어렵지만, 같은 시간대에 같은 문구로 움직이는 계정망, 수익 구조와 연결된 유포 경로처럼 의도를 추정할 객관적 단서는 상당히 많습니다. 8강에서 다룰 정보 작전 분석이 바로 이런 단서를 추적하는 작업입니다.

📝 핵심 요약과 다음 강 예고

'가짜뉴스'의 한계: 범위가 모호하고 정치적 무기로 변질되어, 영국 하원(2018)과 유네스코(2018) 모두 더 정확한 용어 사용을 권고했습니다.
세 갈래: 오정보(거짓·의도 없음), 허위정보(거짓·의도 있음), 악의정보(사실·의도 있음) — 워들·데락샨, 유럽평의회(2017).
유동성: 같은 콘텐츠도 유통 단계마다 행위자의 의도에 따라 범주가 바뀌며, 대응도 달라져야 합니다.
일곱 유형: 풍자부터 날조까지. AI는 조작·날조의 비용을 낮췄지만, 진짜 자료를 비튼 거짓 맥락이 여전히 가장 흔한 위협입니다.
실천 원칙: 기술(딥페이크)과 의도(허위정보)를 구분하고, 속은 사람과 속인 사람을 구분합니다.

그렇다면 왜 거짓은 진실보다 빨리, 더 멀리 퍼질까요? 다음 5강 「가짜뉴스는 왜 빠르게 퍼지나」에서는 사람의 심리적 편향, 추천 알고리즘의 작동 방식, 그리고 관심이 곧 돈이 되는 경제 구조가 어떻게 맞물려 거짓의 확산을 가속하는지 살펴보겠습니다.

허위정보·오정보·악의정보 구분