AI 허위정보와 딥페이크 — 진실의 위기

진실의 위기 — 무엇이 문제인가

생성형 AI가 위조 비용을 낮추며 생긴 진실의 위기를 세 겹 구조(가짜의 진짜 행세·거짓말쟁이의 배당금·판단 포기)로 정리하고, 정보 오염의 사회적 비용과 강좌의 균형 원칙을 살핀다.

생성형 AI, 어떻게 콘텐츠를 만드나

생성 모델이 데이터의 패턴을 학습해 글·이미지·음성·영상을 만드는 원리(트랜스포머, GAN, 확산 모델, 음성 토큰)와 그 목표가 사실이 아닌 그럴듯함이라는 한계를 설명한다.

딥페이크의 탄생과 진화

Face2Face부터 레딧 deepfakes, StyleGAN, 사진 한 장 얼굴 교체, 실시간 변조, 음성 복제까지 딥페이크 기술의 발전사를 따라가며 제작 문턱 하락이 바꾼 위험을 살핀다.

허위정보·오정보·악의정보 구분

진위와 의도를 기준으로 오정보·허위정보·악의정보를 구분하고, 거짓 콘텐츠의 일곱 유형과 정확한 용어가 정책·대응을 바꾸는 이유를 정리한다.

가짜뉴스는 왜 빠르게 퍼지나

거짓 정보가 사실보다 빨리 퍼지는 이유를 심리(감정·확증편향·착각적 진실 효과·부주의), 추천 알고리즘과 필터버블, 관심 경제와 AI 콘텐츠 농장의 세 층위로 분석한다.

선거와 딥페이크 — 민주주의의 시험대

투표 억제·막판 폭로·지지 위장·고인 소환·공개 활용 등 각국 선거의 AI 조작 수법을 진영 구분 없이 살피고, 한국 공직선거법 규정과 적발 추이, 위협의 실제 크기를 균형 있게 평가한다.

딥페이크 성범죄와 개인 피해

성적 허위영상물과 음성 사칭·신원 도용 등 개인을 겨냥한 딥페이크 피해의 실태와 2024년 개정 성폭력처벌법·미국 TAKE IT DOWN 법, 피해 시 도움받는 절차를 안내한다.