5강. 가짜뉴스는 왜 빠르게 퍼지나 | AI 허위정보와 딥페이크 — 진실의 위기 · 입문 — NUGUNA

🎯 학습 목표

이 강을 마치면 거짓 정보가 사실보다 빠르게 퍼지는 이유를 세 층위, 곧 사람의 마음, 플랫폼의 알고리즘, 돈의 흐름으로 나누어 설명할 수 있습니다. 감정 자극·확증편향·반복 노출이 판단에 미치는 영향을 실험 결과로 짚을 수 있고, '필터버블'과 '에코체임버'라는 말의 정확한 뜻과 그 효과에 대한 최신 연구의 엇갈린 결론을 함께 이해하게 됩니다. 마지막으로 생성형 AI가 이 확산 구조의 어느 고리를 강화하는지 정리합니다.

📊 진실보다 빠른 거짓: 데이터가 말하는 것

1강에서 MIT 연구진의 2018년 『사이언스』 논문을 잠깐 소개했습니다. 이번 강의 출발점이므로 조금 더 들여다보겠습니다. 소로우시 보수기(Soroush Vosoughi), 뎁 로이(Deb Roy), 시난 아랄(Sinan Aral)은 2006년부터 2017년까지 트위터에서 퍼진 뉴스 약 12만 6천 건의 전파 경로를 추적했습니다. 300만 명가량이 450만 번 넘게 공유한 기록이었고, 각 뉴스의 진위는 여섯 개 독립 팩트체크 기관의 판정을 기준으로 삼았습니다.

결과는 모든 지표에서 한쪽으로 기울었습니다. 거짓 뉴스는 더 많은 사람에게, 더 빠르게, 더 깊은 단계까지 퍼졌습니다. 사실 뉴스가 1,500명에게 닿는 데 걸린 시간은 거짓 뉴스보다 약 6배 길었고, 공유가 공유를 낳는 연쇄의 깊이가 10단계에 이르는 속도는 거짓 쪽이 약 20배 빨랐습니다. 분야별로는 정치 관련 거짓이 테러·과학·금융 등 다른 주제의 거짓보다 더 두드러지게 확산했습니다.

연구진이 찾은 핵심 원인은 새로움이었습니다. 거짓 뉴스는 이용자가 직전에 접한 정보와 비교해 훨씬 낯선 내용을 담고 있었고, 사람들은 새로운 정보를 공유할 때 '남들보다 먼저 아는 사람'이 되는 사회적 보상을 얻습니다. 감정 반응도 달랐습니다. 거짓 뉴스에 달린 답글에는 두려움·혐오·놀라움의 표현이 많았고, 사실 뉴스의 답글에는 기대·슬픔·기쁨·신뢰가 상대적으로 많았습니다.

가장 많이 인용되는 대목은 자동화 계정, 곧 봇에 관한 분석입니다. 봇은 거짓과 사실을 비슷한 비율로 퍼뜨렸습니다. 거짓이 더 빨리 퍼진 차이를 만든 주체는 사람이었다는 뜻입니다. 거짓의 확산을 이해하려면 기계보다 먼저 사람의 마음을 들여다봐야 하는 이유가 여기에 있습니다.

🧠 마음의 지름길: 감정·확증편향·반복

사람의 뇌는 쏟아지는 정보를 일일이 따져 볼 여유가 없기 때문에 빠른 판단을 돕는 지름길을 씁니다. 평소에는 효율적인 이 지름길이 거짓 정보 앞에서는 약점이 됩니다. 대표적인 네 가지를 차례로 살펴보겠습니다.

첫째, 도덕적 감정의 전염입니다. 뉴욕대 연구진(Brady 외)은 2017년 미국 『국립과학원회보(PNAS)』에 총기 규제·동성혼·기후변화를 다룬 트윗 수십만 건을 분석한 결과를 실었습니다. '분노', '수치', '악' 같은 도덕적·감정적 단어가 하나 늘어날 때마다 리트윗이 약 20% 늘었습니다. 2025년 발표된 사전 등록 재현 연구는 이 효과를 약 17%로, 27개 연구를 종합한 메타분석은 약 13%로 추정했습니다. 크기는 다소 줄었지만 현상 자체는 거듭 확인된 셈입니다. 특히 이 효과는 같은 진영 안에서 강하게 나타났습니다. 분노를 자극하는 메시지는 반대편을 설득하기보다 내 편을 결집하는 방향으로 퍼진다는 뜻입니다.

둘째, 확증편향입니다. 사람은 이미 가진 믿음에 맞는 정보는 쉽게 받아들이고, 어긋나는 정보는 꼼꼼히 흠을 찾습니다. 자기 신념을 지키는 쪽으로 증거를 해석하는 경향을 동기화된 추론이라고도 부릅니다. 지지하는 후보에 불리한 진짜 영상은 "조작 아니냐"고 의심하면서, 상대 후보에 불리한 가짜 영상은 그대로 믿는 비대칭이 여기서 생깁니다.

셋째, 착각적 진실 효과입니다. 같은 말을 여러 번 들으면, 그 말이 사실인지와 무관하게 더 그럴듯하게 느껴지는 현상입니다. 펜니쿡(Pennycook)·캐넌(Cannon)·랜드(Rand)의 2018년 실험에서는 가짜 뉴스 제목을 단 한 번 본 것만으로도 일주일 뒤 그 제목을 더 정확하다고 평가했습니다. 놀랍게도 '팩트체커가 반박함'이라는 경고 표시를 달아도, 자신의 정치 성향과 반대되는 내용이어도 효과가 사라지지 않았습니다. 다만 '지구는 완벽한 정사각형이다'처럼 완전히 터무니없는 문장에는 효과가 없었습니다. 조금이라도 그럴듯하면 반복이 믿음을 만든다는 뜻이며, 생성형 AI는 바로 그 '조금 그럴듯한' 문장을 무한히 만들어 낼 수 있습니다.

넷째, 의외로 가장 흔한 원인은 부주의입니다. 펜니쿡과 랜드 연구진은 2021년 『네이처』 논문에서, 사람들이 진위를 판단하라고 하면 꽤 잘 가려내면서도 공유할지 결정할 때는 진위를 거의 고려하지 않는다는 사실을 보였습니다. 정확성에 대한 생각이 공유 순간에는 머릿속에서 밀려나 있는 것입니다. 트위터 이용자를 대상으로 한 현장 실험에서 무관한 뉴스 제목 하나의 정확성을 물어보는 것만으로 이후 공유하는 뉴스의 질이 높아졌습니다. 거짓을 퍼뜨리는 사람이 반드시 어리석거나 악의적인 것은 아니며, 잠깐 멈추는 습관이 상당한 차이를 만든다는 점은 15강의 핵심 실천 원칙으로 이어집니다.

심리 기제	작동 방식	근거 연구
새로움 추구	낯선 정보일수록 공유하고 싶어짐	Vosoughi 외(2018)
도덕적 감정 전염	도덕·감정 단어 1개당 공유 약 13~20% 증가	Brady 외(2017), 재현·메타분석(2025)
확증편향	내 믿음에 맞는 정보만 쉽게 수용	동기화된 추론 연구 전반
착각적 진실 효과	한 번만 봐도 더 믿게 됨	Pennycook 외(2018)
부주의	공유 순간 정확성을 떠올리지 않음	Pennycook 외(2021)

⚙️ 알고리즘: 관심을 극대화하는 기계

사람의 마음이 불씨라면, 플랫폼의 추천 알고리즘은 바람 역할을 합니다. 대부분의 소셜미디어는 이용자가 더 오래 머물고 더 많이 반응하도록 게시물의 노출 순서를 정합니다. 좋아요·댓글·공유 같은 참여 지표가 높은 게시물이 더 많은 사람에게 보입니다. 문제는 앞에서 본 것처럼 분노와 놀라움을 자극하는 콘텐츠가 참여를 많이 끌어낸다는 점입니다. 알고리즘에 거짓을 퍼뜨리려는 의도가 없어도, 참여를 극대화하는 설계가 결과적으로 자극적인 거짓을 밀어 올릴 수 있습니다.

이 우려가 실제 설계로 드러난 사례가 있습니다. 2021년 『워싱턴포스트』가 보도한 페이스북 내부 문서에 따르면, 페이스북은 2017년부터 '화나요'를 포함한 감정 반응 이모지에 '좋아요'의 5배 가중치를 부여했습니다. 내부 연구자들은 곧 이것이 논쟁적인 콘텐츠의 비중을 높일 수 있다고 경고했고, 2019년 데이터 분석에서는 '화나요'를 많이 받은 게시물에 허위정보와 유해 콘텐츠, 질 낮은 뉴스가 포함될 가능성이 더 높다는 사실이 확인되었습니다. 회사는 이후 '화나요'의 가중치를 단계적으로 낮춰 결국 0으로 만들었습니다.

알고리즘과 관련해 자주 쓰이는 두 용어도 정확히 짚어 두겠습니다. 필터버블(filter bubble)은 미국 활동가 엘리 프레이저(Eli Pariser)가 2011년 같은 제목의 책에서 쓴 말로, 개인화 알고리즘이 이용자가 좋아할 만한 정보만 골라 보여 주면서 다른 관점과 차단된 정보의 거품 속에 갇히게 되는 현상을 가리킵니다. 에코체임버(echo chamber)는 비슷한 생각을 가진 사람끼리 모여 같은 주장을 주고받으며 서로의 믿음을 증폭하는 공간을 뜻합니다. 필터버블이 알고리즘이 만드는 울타리라면, 에코체임버는 사람이 스스로 고른 울타리에 가깝습니다.

그런데 최신 연구는 "알고리즘만 바꾸면 해결된다"는 기대에 신중하라고 말합니다. 2023년 『사이언스』와 『네이처』에 동시에 실린 네 편의 대규모 실험은 메타(Meta)와 외부 학자들이 협력해 2020년 미국 대선 기간 페이스북·인스타그램 이용자 수만 명의 피드를 직접 바꿔 본 연구입니다. 알고리즘 피드를 시간순 피드로 바꾸거나, 공유된 게시물을 피드에서 모두 빼거나, 같은 성향 출처의 노출을 줄였을 때 이용자가 보는 내용은 크게 달라졌지만, 석 달 동안 정치적 양극화나 태도에는 뚜렷한 변화가 나타나지 않았습니다. 흥미롭게도 시간순 피드로 바꾼 집단은 오히려 신뢰도 낮은 출처의 콘텐츠를 더 많이 보게 되었고, 공유 게시물을 뺀 집단은 신뢰도 낮은 출처의 정치 뉴스 노출이 크게 줄었습니다. 알고리즘은 '무엇을 보는가'에는 큰 영향을 주지만, 이미 굳은 태도를 단기간에 바꾸는 힘은 생각보다 약할 수 있다는 결론입니다. 이 연구들은 기간이 3개월로 짧고 선거 막바지라는 특수한 시기에 진행되었다는 한계도 함께 지적되므로, 확정적 결론보다는 '단순한 해법은 없다'는 경고로 읽는 것이 적절합니다.

💰 관심 경제: 거짓이 돈이 되는 구조

세 번째 동력은 돈입니다. 온라인 광고는 대체로 방문자 수와 노출 횟수에 따라 수익이 정해집니다. 이 구조에서는 사실 여부보다 클릭을 부르는 힘이 수익을 결정하므로, 자극적인 거짓은 그 자체로 상품이 됩니다. 사람들의 관심 자체가 거래되는 이 시장을 관심 경제(attention economy)라고 부릅니다.

대표 사례가 북마케도니아의 소도시 벨레스(Veles)입니다. 2016년 11월 미국 매체 버즈피드는 이 도시의 젊은이들이 미국 대선과 관련한 자극적이고 날조된 기사를 싣는 웹사이트를 100개 넘게 운영하며 페이스북으로 퍼뜨리고, 구글 광고로 수익을 올리고 있다고 보도했습니다. 이들 다수는 미국 정치에 특별한 관심이 없었고, 그저 가장 많이 클릭되는 이야기를 찾다 보니 특정 진영을 겨냥한 거짓 기사에 이르렀습니다. 다만 후속 추적 보도에서는 이 사업이 순전히 10대들의 자발적 부업만은 아니었고 미국 쪽 협력자와 연결되어 있었다는 사실도 드러났습니다.

생성형 AI는 이 사업의 원가를 다시 한번 끌어내렸습니다. 과거에는 기사를 직접 쓰거나 베껴야 했지만, 이제는 AI가 그럴듯한 기사를 24시간 자동으로 찍어 냅니다. 미국의 언론 신뢰도 평가 기업 뉴스가드(NewsGuard)는 사람의 감독이 거의 없이 AI가 생성한 기사로 채워진 뉴스형 사이트, 이른바 AI 콘텐츠 농장을 추적해 왔는데, 2026년 6월 기준 16개 언어에서 3,749곳을 확인했다고 밝혔습니다. 이런 사이트들은 그럴듯한 언론사 이름을 내걸고 광고 수익을 노리며, 때로는 정치적 허위정보의 세탁 창구로 쓰이기도 합니다.

확산의 동력	핵심 기제	생성형 AI가 더하는 것
사람의 마음	새로움·감정·확증편향·반복·부주의	감정을 정밀하게 겨냥한 맞춤형 문구를 대량 생산
알고리즘	참여 지표 중심 노출	참여를 끌어낼 변형 콘텐츠를 무한히 시험
돈	클릭·노출 기반 광고 수익	콘텐츠 농장의 제작 원가를 거의 0으로

⚠️ 확산을 둘러싼 흔한 오해

지금까지의 연구를 바탕으로, 거짓의 확산에 대해 자주 듣는 네 가지 주장을 점검해 보겠습니다.

"결국 봇이 문제다." 봇과 조직적 계정망이 여론 조작에 쓰이는 것은 사실이며 8강에서 자세히 다룹니다. 그러나 MIT 연구가 보여 주듯 거짓이 사실보다 빠르게 퍼지는 차이는 주로 사람의 공유에서 나왔습니다. 봇만 막으면 해결된다는 생각은 우리 자신의 역할을 지워 버립니다.

"정정 보도를 내면 해결된다." 한번 머릿속에 자리 잡은 거짓은 정정을 접한 뒤에도 판단에 계속 영향을 미치는 경향이 있습니다. 심리학에서는 이를 지속적 영향 효과라고 부릅니다. 게다가 정정은 대체로 원래 거짓보다 늦게, 덜 자극적인 형태로 나오기 때문에 같은 사람들에게 닿지 못하는 경우가 많습니다. 사전에 속임수의 수법을 알려 주는 '예방 접종'식 교육이 주목받는 이유이며, 16강에서 실전 방법을 다룹니다.

"모든 사람이 거짓에 똑같이 노출되어 있다." 2024년 『네이처』에 실린 리뷰 논문(Budak 외)은 평균적인 이용자의 허위정보 노출량은 생각보다 적고, 노출과 공유가 강한 동기를 가진 소수 집단에 집중되는 경향이 있다고 정리했습니다. 이는 문제가 작다는 뜻이 아니라, 그 소수가 선거나 집단행동처럼 결정적 순간에 큰 영향을 미칠 수 있으므로 대응을 더 정밀하게 설계해야 한다는 뜻입니다.

"나는 비판적이라 괜찮다." 착각적 진실 효과는 경고 표시가 붙어 있어도, 자신의 성향과 반대되는 내용이어도 작동했습니다. 부주의 연구가 보여 주듯 판단 능력이 있어도 공유하는 순간에는 쓰지 않을 수 있습니다. 비판적 사고는 지식이 아니라 습관일 때 효과를 발휘합니다.

📝 핵심 요약과 다음 강 예고

데이터: 거짓 뉴스는 사실보다 넓고 빠르고 깊게 퍼지며, 그 차이를 만든 주체는 봇이 아니라 사람이었습니다(MIT, 2018).
마음: 새로움 추구, 도덕적 감정의 전염, 확증편향, 착각적 진실 효과, 공유 순간의 부주의가 확산을 돕습니다.
알고리즘: 참여 중심 설계는 자극적 콘텐츠를 밀어 올릴 수 있지만, 피드만 바꾼다고 태도가 곧바로 바뀌지는 않는다는 실험 결과도 있습니다(2023).
돈: 클릭이 곧 수익인 관심 경제에서 거짓은 상품이 되며, AI 콘텐츠 농장은 그 원가를 거의 0으로 낮췄습니다.
실천의 실마리: 공유하기 전 '이게 정확한가?'를 한 번 떠올리는 것만으로도 확산의 고리를 약하게 만들 수 있습니다.

확산의 구조가 가장 큰 시험대에 오르는 순간은 선거입니다. 다음 6강 「선거와 딥페이크 — 민주주의의 시험대」에서는 세계 각국 선거에서 실제로 등장한 딥페이크 사례와 그 영향, 그리고 한국을 포함한 각국 선거 당국의 대응을 구체적으로 살펴보겠습니다.

가짜뉴스는 왜 빠르게 퍼지나