K-pop 딥페이크 사태: 피해 아이돌은 누구이고, 무엇이 달라졌나 (2026 업데이트)

이 취재 기사를 처음 발표했을 때, 이야기는 2025년 4월에서 멈춰 있었다. HYBE가 경찰과 손잡고 8명을 검거한 직후였고, 나는 "가해자들은 익명이 더 이상 면죄부가 아니라는 사실을 처음으로 배우고 있다"고 썼다.

그로부터 1년여가 지난 지금, 나는 이 글을 처음부터 다시 썼다. 예상보다 훨씬 많은 일이 일어났기 때문이다. 첫 실형 판결들이 확정됐고, 한국 기획사가 미국 법정에서 가해자를 추적하기 시작했으며, 그록(Grok)은 단 11일 만에 300만 장의 성적 이미지를 만들어냈다. 그리고 가장 당혹스러운 변화는 — 아이돌 딥페이크를 만드는 사람이 더 이상 익명의 범죄자만이 아니라는 것이다. 이제는 팬들도 있다.

레딧의 한 게시물부터 이야기를 시작하자. r/kpop_uncensored에 한 팬이 이렇게 썼다. "나는 딥페이크쯤은 100% 구별할 수 있다고 늘 생각했다. 그런데 오늘 피드에 걸그룹 아이돌 영상이 하나 떴고, 설명 문구를 읽지 않았다면 진짜 본인이라고 믿은 채 그냥 지나쳤을 것이다." 이는 예외적인 경험이 아니다. 사람들이 자신의 딥페이크 식별 능력을 크게 과신한다는 사실은 연구로 이미 입증돼 있다(해당 연구는 우리의 미디어 리터러시 가이드에서 자세히 다뤘다). Z세대 팬들조차 "이제 구별이 안 된다"고 인정하기 시작했다면, 이 사태는 새로운 국면에 들어선 것이다.

'딥페이크 공화국'의 그늘

세계에서 가장 빠른 인터넷과 가장 기술에 밝은 인구를 가진 한국은, 여전히 '딥페이크 공화국'이라는 불명예스러운 꼬리표를 달고 있다.

숫자는 여전히 참혹하다. 시큐리티 히어로(Security Hero)의 2023년 전수조사 보고서에 따르면, 딥페이크 음란물에 등장하는 인물의 53%가 한국의 가수와 배우다 — 지구상에서 가장 집중적으로 표적이 된 집단이다. 이 보고서는 이후 갱신판이 나오지 않았지만, 한국의 공식 통계가 그 집계를 이어받았다. 디지털성범죄피해자지원센터의 연간 지원 인원은 2023년 8,983명에서 2024년 10,305명(센터 설립 이래 처음으로 1만 명 돌파), 2025년 10,637명으로 늘었고, 그중 77.6%가 10~20대다.

이것은 처음부터 연예인 스캔들이 아니었다. 아이돌 무대에서 학교 교실과 군 부대까지 번진 조직적인 디지털 폭력이다. 그리고 2025~2026년의 새로운 전개는 이렇다. 반격이 마침내 효과를 내기 시작했다. 그러나 전장(戰場)도 이동하고 있다.

딥페이크 피해를 입은 K-pop 아이돌은 누구인가 (2026 업데이트)

블랙핑크: 세계적 인기, 세계적 표적

블랙핑크 멤버들 — 특히 리사와 제니 — 은 여전히 해외 딥페이크 사이트에서 가장 자주 표적이 되는 인물군에 속한다. 2024년 9월 YG엔터테인먼트가 발표한 '무관용 원칙'(블랙핑크와 베이비몬스터 모두 적용)은 지금도 유효하다. 이 발표는 한국 경찰의 딥페이크 집중단속 첫 주에 나왔는데, 그 한 주에만 88건의 신고가 접수됐다.

제니 쪽에는 새로운 소식이 있다. 그가 직접 설립한 OA엔터테인먼트는 2026년 3월, 명예훼손·허위사실 유포·초상권 침해에 대해 복수의 법적 조치를 검토 중이라고 발표했다. 그 전에 있었던 기묘한 사건도 기억할 만하다. 제니의 친부라고 주장하는 한 남성이 AI로 생성한 '부녀 회고록'을 출간한 사건인데, 1심에서 제니가 승소해 법원은 해당 도서 전량 폐기와 SNS에서의 언급 금지를 명령했다.

트와이스: 국경을 넘는 디지털 괴롭힘

한국·일본·동남아시아를 아우르는 인기 탓에 트와이스가 마주한 위협은 독특하다. 청순한 이미지는 오히려 의도적으로 모욕적인 콘텐츠의 표적이 됐다. JYP엔터테인먼트가 2024년 8월 30일 TWICE FANS 앱을 통해 낸 입장문은 정확한 규정을 내렸다. 이것은 "명백한 위법 행위"이자 아티스트 인격권 침해다. 저작권 분쟁이 아니라, 성폭력이다.

아이유: 가해자가 동창일 때

아이유의 사례는 내가 취재한 것 중 여전히 가장 많은 것을 말해주는 사건이다. 이담엔터테인먼트는 2년에 걸쳐 180명을 고소·고발했는데, 그 안에는 아이유의 중학교 동창도 포함돼 있었다. "가해자는 익명의 낯선 사람"이라는 통념이 가장 철저하게 깨진 지점이 바로 여기다.

이제 결과가 나오고 있다. 6명이 벌금형, 4명이 조건부 기소유예 처분을 받았고, 온라인 괴롭힘과 살해 협박을 저지른 한 피고인은 벌금 300만 원을 선고받았다(현재 항소 중). 이담의 원칙은 한 치도 움직이지 않았다. "합의 없음, 선처 없음."

에스파: 신고 플랫폼에서 교도소 문 앞까지

'AI 아바타' 콘셉트로 데뷔한 그룹인 에스파가 겪어온 피해에는 늘 씁쓸한 아이러니가 겹쳐 있었다. 그러나 SM엔터테인먼트는 이 사건들을 업계의 표준 대응 모델로 바꿔놓았다.

• 팬 제보 플랫폼 '광야 119(KWANGYA 119)'를 통해 SM은 2025년 10월까지 누적 200건 이상의 형사 고소·고발을 진행했다.
• 2026년 1월, SM은 법무법인 세종과 함께 에스파·라이즈·NCT 위시를 지속적으로 공격해온 11개 계정을 형사 고발하면서, 이례적으로 계정 아이디를 공개했다.
• 2026년 4월, SM은 복수의 딥페이크 사건이 대법원에서 확정돼 피고인들이 복역 중이며, 미국 로펌들과 협력해 해외 가해자 추적에 나섰다고 발표했다.
• 2026년 6월, 대구고등법원은 카리나·윈터의 성착취 딥페이크를 제작·판매한 피고인에게 징역 2년 6개월을 선고하고, 80시간의 성폭력 치료프로그램 이수와 아동·청소년 관련 기관 7년 취업제한을 명령했다.

입장문 발표에서 실형 확정까지 — 에스파의 사건은 이제 그 전 구간을 완주했다.

뉴진스와 HYBE: 미성년 아이돌 보호전

뉴진스의 상황은 여전히 가장 심각하다. 미성년 멤버를 겨냥한 콘텐츠가 학교 이름으로 조직된 텔레그램 방에서 유통된 적이 있는데, 이는 아동성착취물(CSAM)의 영역이다.

HYBE의 대응은 업계 최초의 본격적인 기획사-경찰 공조 작전이 됐다. 2025년 2월 25일 경기북부경찰청과 업무협약(MOU)을 체결(전용 신고 핫라인 + 신속 수사)했고, 4월 11일 경찰은 HYBE 아티스트 딥페이크 제작·유포 혐의로 8명을 검거했다고 발표했다. 이는 더 큰 단속의 일부였다. 경찰은 같은 시기 텔레그램 방 운영자 23명을 검거했는데, 그중 30세 남성 한 명은 8개월 동안 아티스트 약 30명의 딥페이크 영상 1,100여 편을 제작한 혐의를 받았다. HYBE 이재상 CEO의 말은 이랬다. "무관용, 합의 없음."

BTS: 세계 최대 보이그룹도 예외가 아니다

이 섹션은 원래 버전에는 없었다. 당시만 해도 남성 아이돌이 표적이 되는 일은 드물었기 때문이다. 2026년 5월, 뷔와 정국의 성적 암시가 담긴 AI 이미지가 틱톡에서 확산됐고, 아미(ARMY)의 대규모 항의가 뒤따랐다. 딥페이크는 더 이상 여성 아이돌만의 악몽이 아니다.

스트레이 키즈 방찬: 미국 법정에서 낸 균열

2025년 9월, 판을 바꿀 수도 있는 결정이 나왔다. 캘리포니아 연방법원 판사가 방찬 측이 낸 신청을 받아들여, X(옛 트위터)에 딥페이크 유포 계정들의 신원 정보를 공개하라고 명령한 것이다. 신원을 확보하면 서울동부지방법원에 제기한 민사소송을 진전시킬 수 있다. 딥페이크 가해자의 가장 강력한 방패였던 '국경 너머의 익명성'에, 사법 절차가 처음으로 틈을 냈다.

그 밖에 기억해야 할 사건들

• (여자)아이들: 큐브엔터테인먼트는 2025년 4월 입장을 격상했다. "원본 영상이 공개된 장소에서 촬영됐는지와 무관하게" 악의적 편집·합성·유포는 범죄이며, 민형사를 병행하고 합의는 없다고 못박았다.
• 아이브 사건(날짜 정정: 2025년 1월): 스타쉽엔터테인먼트 직원이 장원영·안유진의 딥페이크 게시물을 공식 웨이보 계정에 '실수로 리포스트'한 사건. 회사는 사과하고 해당 직원을 중징계했다 — 전문가조차 합성 콘텐츠 앞에서 실수한다는 증거다.
• 역사적 배경: 모모랜드 낸시 사건(2021년): 탈의실에서 도촬된 사진이 포토샵으로 조작돼 유포됐다. 엄밀히 말해 AI 딥페이크가 아니라 '몰카+보정'이라는 딥페이크 이전 시대의 범죄다. 그러나 한국 대중이 "아이돌의 얼굴을 기술로 훔칠 수 있다"는 사실을 처음 체감한 순간이 바로 이 사건이었다.

그록의 순간: 11일, 300만 장

텔레그램 시대의 딥페이크가 그나마 '방에 들어가는' 수고를 요구했다면, 2026년 1월의 그록 사태는 문턱이 버튼 하나로 낮아졌음을 증명했다.

X의 이용자들이 그록의 이미지 기능을 악용해 실존 인물의 사진을 '원클릭 탈의'시켰다. 디지털혐오대응센터(CCDH)의 집계에 따르면 2025년 12월 29일부터 2026년 1월 8일까지, 단 11일 동안 그록이 생성한 성적 이미지는 약 300만 장. 그중 약 2만 3천 장은 미성년자와 관련된 것이었다. 피해자로 지목된 이들 중에는 에스파의 카리나, 아이브의 장원영, 그리고 원호가 있었다. 팬들은 그록의 실존 인물 이미지 편집 기능을 아예 차단하라는 연서명을 시작했다.

압박은 통했다. 1월 중순 xAI는 실존 인물 이미지의 생성·편집을 금지했다. 한국의 규제당국은 곧바로 두 갈래로 움직였다. 방송통신위원회는 X에 2주 안에 시정 방안을 제출하라는 공문을 보냈고, 개인정보보호위원회는 조사에 착수했다. 같은 사태는 미국 상원이 1월 13일 디파이언스법(DEFIANCE Act)을 만장일치로 통과시키는 직접적 동력이 됐다. 피해자에게 최소 15만 달러의 법정 손해배상 청구권을 주는 법이다(전체 그림은 우리의 딥페이크 법률 트래커 참조).

플랫폼 기능 하나. 11일. 300만 장. 이것이 2026년의 생성 속도이며, 어떤 법 집행 시스템도 이런 상대를 만나본 적이 없다.

숫자로 보는 한국 K-pop 딥페이크 사태의 규모

글로벌 차원 (시큐리티 히어로 2023년 전수조사 — 여전히 이 분야 최신 자료):

• 딥페이크 음란물에 등장하는 인물의 53%가 한국의 가수와 배우
• 조사 당시 주요 딥페이크 사이트에서 발견된 영상은 95,820편 — 2019년 대비 550% 증가, 98%가 음란물, 피해자의 99%가 여성

한국 공식 통계 (연도별, 집계 기준 명시):

• 피해자 지원: 8,983명(2023) → 10,305명(2024, +14.7%) → 10,637명(2025) [성평등가족부(구 여성가족부)]
• 콘텐츠 삭제: 딥페이크 영상물에 대한 시정요구가 2023년 7,187건에서 2024년 23,107건으로 3.2배 폭증, 2026년에는 상반기에만 15,179건
• 경찰 신고: 2021년 156건 → 2024년 1~10월 964건 — 2024년 8월 말 집중단속 시작 후 일평균 신고가 1.85건에서 8.8건으로 폭증
• 2026년의 변곡점: 2025년 11월 시작된 최신 단속에서 딥페이크 범죄가 처음으로 전년 대비 감소세를 보였다. 경찰은 지속적 단속과 개정법의 억지 효과를 원인으로 분석한다.

6년 만에 처음으로 곡선이 아래로 꺾였다. 그러나 아직 안심하긴 이르다 — 그 이유는 계속 읽어보면 알게 된다.

텔레그램 사태: 22만 7천 명의 '딥페이크 공장'

2024년 8월, 약 22만 7천 명이 구독하는 텔레그램 봇 채널이 폭로됐다. 여성 사진을 올리면 몇 초 만에 나체 딥페이크가 생성되는 구조였다. 이런 봇들은 대개 '무료 체험 후 결제 또는 친구 초대'라는 프리미엄(freemium) 공식으로 굴러가며, 디지털 성폭력을 바이럴 소셜 게임으로 만들었다. '케이팝 걸그룹' '여군' '간호사', 그리고 실제 학교 이름을 딴 방들에서, 참가자들은 자신이 아는 여성을 모욕하는 일을 경쟁했다.

전국을 충격에 빠뜨린 '피해학교 지도'

2024년 8월 27일, 한 중학교 3학년 학생이 두 시간 만에 만든 인터랙티브 지도가 올라왔다. 어느 학교에 딥페이크 텔레그램 방이 있는지 표시한 지도였다. 다음 날까지 방문자 300만 명을 넘겼고, 표시된 학교는 500곳을 넘었다(지도는 커뮤니티 제보 기반이라 검증되지 않았지만, 공포는 진짜였다). 수많은 여성과 소녀들이 밤새 SNS의 사진을 전부 지웠다 — 절박한 '디지털 엑소더스'였다.

군대도 무사하지 못했다

약 850명이 모인 한 텔레그램 채널은 최소 30명의 여군을 표적으로 삼았다. 참가자들이 여군의 이름·계급·전화번호·제복 사진을 제출하면 합성이 이뤄지는 방식이었다. 2024년 9월, 국방부는 군 내부망의 전 인원 사진을 비공개 처리하라고 지시했다. 딥페이크가 병영에 침투하는 순간, 그것은 사이버 범죄를 넘어 국가 안보의 문제가 된다.

팬이 아이돌 딥페이크를 만들기 시작했을 때

이번 업데이트에서 가장 쓰기 어려웠던 장(章)이다. 가해자의 얼굴이 달라졌기 때문이다.

2026년 6월, 404 미디어는 팬덤 전체를 얼어붙게 한 사건을 보도했다. 한 팬이 AI로 '코르티스(CORTIS)의 건호에게 안기고 볼키스를 받는 자신'의 영상을 만든 것이다. 코르티스는 HYBE가 2025년 8월 데뷔시킨 보이그룹이고, 건호는 2009년생 — 사건 당시 미성년자였다. 이를 폭로한 레딧 스레드의 최상단 댓글은 이랬다. "무해하다고 여기는 팬도 있겠지만, 이걸 용인하는 순간 훨씬 나쁜 일들로 가는 문이 열린다."

고립된 사례가 아니다. 2025년 초에는 정지 사진으로 아이돌과 팬의 친밀한 접촉 장면을 합성하는 'AI 팬 편집' 영상이 바이럴을 탔다. 틱톡과 인스타그램에는 "셀카를 올리면 아이돌과 키스할 수 있다"는 합성 앱 광고가 넘쳐났고, 팬들이 집단 신고해도 광고는 계속 되살아났다(코리아타임스가 2025년 5월 이 '앱 공세'를 집중 보도했다).

흥미로운 것은 실제로 이를 단속하는 주체다. 플랫폼도, 기획사도 아닌 — 팬덤 자신이다. 2025년 인간-컴퓨터 상호작용 분야 최고 학회인 CHI에 발표된 BTS 아미 연구는 2017~2025년 팬덤의 딥페이크 대응을 추적해, 세 가지 자생적 거버넌스 메커니즘을 발견했다. 교육용 정보 스레드, 조직화된 신고 시스템, 공개적 규탄이다. 연구는 이 체계의 취약성도 정직하게 기록한다. 사실적인 팬아트를 딥페이크로 오인하면 신고 진영과 창작 진영 사이에 내전이 벌어진다는 것이다. 그러나 법과 기술의 안전장치가 부재한 곳에서, 팬덤의 자치는 실재하는 유일한 방어선이다.

K-pop 팬 문화를 연구하는 맥쿼리대학교의 세라 키스(Sarah Keith) 박사는 핵심을 이렇게 짚었다. "실리콘밸리는 법과 '동의'라는 사회적 규범을 우회하는 기술적 샛길을 만들어냈다." 그리고 404 미디어가 그의 관점을 요약했듯 — 기획사가 아이돌을 지킬 때 그것은 자산을 지키는 일이지만, 팬이 아이돌을 지킬 때 그것은 한 사람을 지키는 일이다.

업계의 두 얼굴

여기서 모두를 불편하게 만드는 사실 하나를 짚고 가야 한다. 딥페이크를 단속하는 바로 그 K-pop 산업이, 다른 한편에서는 생성형 AI에 전력 투구하고 있다.

2025년 9월, SM은 구글 딥마인드와 손잡고 에스파 'Rich Man' 리믹스의 전면 AI 생성 뮤직비디오를 공개했다가 팬들의 뭇매를 맞았다. "영혼 없는 재앙"이 그나마 점잖은 평가였다. 석 달 뒤에는 GLXE라는 '보이그룹'이 틱톡에서 데뷔했다. 멤버 셋 전원이 합성 인물이고 보컬 전량이 AI 생성이며, 배후는 'Orion'이라는 가명의 개인 창작자다. 한편 실제 사람이 모션캡처로 구동하는 버추얼 보이그룹 플레이브는 주간 100만 장의 앨범 판매를 기록하고 있었다. 분명히 해두자면 플레이브는 딥페이크가 아니다 — 뒤에 실존하는 사람이 있다. 그러나 '가상의 얼굴 + 실제 인기'의 성공이 순수 AI 아이돌이라는 상상에 기름을 부은 것도 부정하기 어렵다.

목소리는 또 하나의 회색지대다. AI 커버는 아이돌이 부른 적 없는 노래를 '부르게' 만드는데, 한국 법에서 목소리 자체는 저작권의 보호 대상이 아니다. 업계는 자구책을 만드는 중이다. 한국음악저작권협회는 2025년 3월부터 신곡 등록 시 'AI 미사용' 확인을 요구하기 시작했고, SM은 아티스트 성문(聲紋) 추적을 위한 블록체인 특허를 출원했으며, JYP는 연습생 계약서에 음성 데이터 조항을 직접 써넣었다. 그러나 AI 커버를 두고 정면 소송을 벌인 기획사는 아직 없다. 법이 준비되지 않았기 때문이다.

같은 회사가 왼손으로는 딥페이크 제작자를 고소하고, 오른손으로는 AI 아이돌을 만든다. 업계는 스스로 선을 긋는 중이고, 그 선은 분명히 말할 가치가 있다. 차이는 기술이 아니라 동의(同意)에 있다. 그리고 그것은 지금 세계 각국의 입법자들이 긋고 있는 바로 그 선이기도 하다.

타임라인: 'N번방'에서 그록까지 (2019–2026)

시기	사건
2019–2020	'N번방' 사건으로 텔레그램이 디지털 성범죄의 허브로 자리잡다
2020년 6월	한국 최초의 딥페이크 처벌법 시행 — 그러나 시청·소지는 여전히 합법
2023년 말	시큐리티 히어로 전수조사: 딥페이크 음란물 속 인물의 53%가 한국 아티스트
2024년 8월	22만 7천 명 텔레그램 봇 폭로, 중3 학생의 '피해학교 지도'가 전국적 공포 촉발
2024년 9월	윤석열 대통령 엄정 대응 지시. 법 개정 — 시청·소지 처벌화, 최고형 7년으로 상향. 군, 내부망 사진 비공개. 텔레그램, 한국 규제당국에 사과
2024년 10월	서울대 딥페이크 조직 주범 1심 징역 10년 (검찰 "딥페이크 처벌화 이후 최고형")
2025년 1월	스타쉽/아이브 딥페이크 게시물 '실수 리포스트' 사건
2025년 2–4월	HYBE-경기북부경찰청 MOU 체결, 8명 검거. 7개월 특별단속 종료 — 공식 집계 963명 입건
2025년 4월	24시간 '디지털성범죄 대응 국가센터' 출범. 큐브, 법적 대응 격상
2025년 9월	방찬, 캘리포니아 법원에서 X 상대 신원공개 명령 획득. SM×딥마인드 AI 뮤직비디오 보이콧 사태
2025년 12월	전면 AI 그룹 GLXE 데뷔. 그록 '원클릭 탈의' 사태 발화
2026년 1월	CCDH "11일간 300만 장". 한국 규제당국, X에 조치. 「AI 기본법」 시행. SM, 11개 계정 실명 공개 고발
2026년 4월	SM, 판결 확정 발표. 미국 로펌과 해외 추적 개시
2026년 5월	뷔·정국 딥페이크 표적화, 아미 대규모 항의
2026년 6월	대구고법, 에스파 딥페이크 판매범에 징역 2년 6개월

법의 응답: 개정에서 실형까지

지난 버전에서 나는 "법이 이제 막 구멍을 메웠다"고 썼다. 이번에는 "판결이 떨어지기 시작했다"고 쓸 수 있다.

2024년 개정(성폭력처벌법)은 여전히 기반이다. 딥페이크 음란물의 시청·소지는 최고 3년, 제작·유포는 최고 7년. 경찰은 위장수사 권한을 얻었고, '비영리 목적'은 더 이상 변명이 되지 않는다.

판결의 확정: 서울대 사건 주범은 1심 10년, 항소심에서 일부 피해자와의 합의로 9년으로 감형됐다 — 그리고 항소심은 '제작을 교사한 자도 공범'이라는 판례를 세웠다. 에스파 사건 피고인은 2년 6개월. SM의 사건들은 대법원에서 확정됐다. 2020년의 '시청은 합법'에서 2026년의 실형 확정까지 — 한국은 이 길을 6년 만에 완주했다.

2026년의 새 층위: 1월 22일 「AI 기본법」이 시행되면서, 진위를 구별하기 어려운 AI 콘텐츠에는 표시 의무가 생겼다. 이로써 한국은 '딥페이크 형사처벌법 + AI 표시법'을 동시에 가동하는 세계 첫 국가가 됐다. 선거 딥페이크 금지와 24시간 대응센터까지 더하면, 한국은 현재 세계에서 가장 완비된 딥페이크 법률 도구함을 보유하고 있다. 미국·EU와의 격차가 궁금하다면 우리의 딥페이크 법률 트래커에서 전체 비교를 볼 수 있다 — 스포일러: 미국은 연방 차원의 표시 의무조차 아직 없다.

K-pop 딥페이크 신고 방법

한국 공식 채널:

• 디지털성범죄피해자지원센터: 02-735-8994, d4u.stop.or.kr (상담·법률 지원·삭제 지원)
• 방송미디어통신심의위원회 (옛 방송통신심의위원회, 2025년 10월 개편): 국내 URL 차단, 일반 신고 접수
• 경찰청 사이버수사국: 긴급신고 112 (다국어 지원)

기획사 신고 창구:

• SM: kwangya119.smtown.com (SMTOWN 계정 필요)
• HYBE: protect.hybecorp.com (산하 전 레이블 대상)
• YG / JYP / 큐브: 공식 홈페이지 제보 채널

미국 등 해외에 있다면 (영어권 가이드 대부분이 빠뜨리는 부분):

• 테이크 잇 다운 법(TAKE IT DOWN Act)에 따라 미국 플랫폼은 신고된 비동의 성적 이미지를 48시간 안에 삭제해야 한다. 플랫폼이 응하지 않으면 FTC에 신고할 수 있다(TakeItDown.ftc.gov)
• 미성년자는 NCMEC의 Take It Down 도구(takeitdown.ncmec.org), 성인은 StopNCII.org를 이용할 수 있다 — 해시가 기기 안에서 생성되므로 원본 사진은 휴대폰 밖으로 나가지 않는다
• 전체 피해자 행동 체크리스트는 우리의 딥페이크 법률 트래커에 있다

왜 하필 언제나 K-pop인가

53%라는 숫자는 오랫동안 나를 붙잡고 놓아주지 않았다. 왜 하필 K-pop인가? 이번 취재를 거치며 내린 답은 세 겹이다.

첫 번째 겹은 산업의 모순이다. 여성 아이돌은 '청순한' 이미지를 유지하도록 요구받는다 — 연애 금지, 사생활 언급 금지 — 그러면서도 남성 아이돌보다 훨씬 강하게 성적으로 소비되도록 포장된다. 서던캘리포니아대(USC)의 이혜진(Hye Jin Lee) 교수는 더 서늘한 가설을 내놓은 바 있다. 아이돌 딥페이크의 상당수는 '안티팬'의 소행일 수 있다는 것이다. 청순한 이미지를 부수는 것이야말로 안티팬에게 가장 큰 만족을 주기 때문이다.

두 번째 겹은 비즈니스 모델의 역습이다. K-pop 산업은 수십 년간 팬과 아이돌의 '준사회적 친밀감'을 의도적으로 길러왔다. 아이돌과 영상통화를 하고, '나만을 위한' 음성 메시지를 받는 산업. AI가 그 환상을 팬 스스로 제조할 수 있게 만든 순간, 이 친밀감 비즈니스는 또 다른 얼굴을 드러냈다. 팬이 만든 '아이돌과 키스하는 나' 영상은, 이 비즈니스 모델이 생성형 AI 시대에 일으킨 병변(病變) 그 자체다.

세 번째 겹은 한국의 젠더 전쟁이다. 학교 딥페이크 사태의 후폭풍에 대해 한림대 사회학과 신경아 교수는 AP통신에 이렇게 말했다. "서로에 대한 신뢰가 완전히 부서졌다." 같은 보도에서 17세 고등학생 김하은 씨는 말했다. "한국에서 여자로 산다는 게 무섭다." 딥페이크는 이 갈등의 디지털 전선(戰線)이다. 가해자의 절대다수는 젊은 남성이고, 무기는 AI이며, 탄약은 여성의 얼굴이다.

그리고 다가오고 있는 2차 재난이 하나 있어, 한 문장을 따로 쓸 가치가 있다(이것은 학계에서 '거짓말쟁이의 배당금(liar's dividend)'이라 부르는 원리에 대한 나의 확장 분석이다). 딥페이크가 충분히 흔해지면, 진짜 증거마저 의심받게 된다. 언젠가 실제 스캔들의 진짜 녹취가 "AI 조작"이라는 한마디로 세탁되는 날이 올 수 있다 — 그때 피해자는 합성된 사람만이 아니라, '보는 것이 믿는 것'이라는 신뢰 체계 전체가 될 것이다.

연구자들은 무엇을 말하고 있나

K-pop 딥페이크는 이미 본격적인 학술 연구의 영역에 들어와 있다. 그리고 두 핵심 연구의 결론은 같은 지점을 가리킨다. 팬은 방관자가 아니다.

고려대학교 연구진(Wang & Kim)이 2022년 Computers in Human Behavior에 발표한 실증 연구(K-pop 딥페이크 이용자를 다룬 세계 첫 연구)는, 아이돌 딥페이크 음란물을 접한 뒤 분노가 사람들을 실제 행동으로 이끈다는 사실을 발견했다 — 신고하고, 도움을 청하고, 피해자와 연대하는 행동 말이다. 반면 죄책감은 어떤 행동도 만들어내지 못했다. 다시 말해, '화가 나서 글을 올리는' 팬들이야말로 이 생태계에서 가장 유효한 면역세포다. 앞서 소개한 CHI 2025 아미 연구는 그 면역 반응이 어떻게 조직화되는지를 지도로 그려냈다.

정직하게 덧붙일 것이 하나 있다. 2025년의 한 체계적 문헌고찰은 딥페이크 연구가 영어권에 심하게 치우쳐 있으며, 한국과 K-pop을 다룬 동료평가 연구는 여전히 드물다고 지적했다. 이 분야에는 더 많은 연구자가 필요하다.

자주 묻는 질문

K-pop 아이돌 딥페이크를 만들면 불법인가? 한국에서는 제작·유포가 최고 징역 7년, 시청·소지만으로도 최고 3년 — 세계에서 가장 강력한 처벌 체계다. 미국에서는 성적 딥페이크의 게시가 연방 범죄이며(테이크 잇 다운 법, 최고 2~3년), 46개 주에 별도의 주법이 있다. 국가별 규정 차이는 딥페이크 법률 트래커에서 확인할 수 있다.

해외 팬도 정말 처벌받을 수 있나? 위험은 현실이 되고 있다. SM은 미국 로펌들과 해외 가해자를 추적 중이고, 방찬의 사례는 미국 법원이 국경을 넘는 신원공개 명령을 내릴 수 있음을 증명했다. 일본에서도 2025년 말 이후 AI 딥페이크 검거가 두 건 나왔다. "나는 한국에 없으니까"라는 방패는 깨지고 있다.

한국에서는 딥페이크를 '보기만' 해도 정말 감옥에 가나? 그렇다. 2024년 개정법에 따라 딥페이크 성착취물의 소지·구입·저장·시청은 최고 3년의 징역 또는 3천만 원의 벌금에 처해진다. "보기만 했고 유포는 안 했다"는 더 이상 변명이 되지 않는다.

가해자 중에 왜 이렇게 10대가 많은가? 2024년 단속 초기 데이터에서 검거자의 80% 이상이 10대였다(최근 단속에서는 비중이 다소 낮아졌다). 전문가들은 세 가지를 꼽는다. 높은 디지털 능력과 낮은 윤리적 제약, '친구를 초대하면 무료 크레딧'이라는 게임화 장치, 그리고 남성 단체 채팅방에서 딥페이크 제작이 '멋있는 일'로 통하는 또래 문화. 한국이 학교 디지털 윤리 교육을 강하게 밀어붙이는 이유이기도 하다.

'아이돌과 키스' AI 합성 앱은 합법인가? 빠르게 좁아지는 회색지대에 있다. 2025년 내내 팬들이 이런 앱 광고를 집단 신고했고, 그록 사태 이후 실존 인물 이미지 생성은 대폭 제한됐으며, 8월부터 EU는 모든 딥페이크에 표시 의무를 부과한다. 어떤 상황에서도 안전한 실용적 기준 하나를 제시한다면 이것이다. 콘텐츠 속 실존 인물이 동의하지 않았다면, 만들지 마라 — 앱이 허용하든 말든.

아이돌 영상이 딥페이크인지 어떻게 구별하나? 갈수록 어려워지고 있다. 베테랑 팬조차 속는다. 여전히 유효한 방법은 '결함 찾기'가 아니라 '출처 확인'이다. 멈추고, 핵심 장면을 역이미지 검색하고, 공식 채널에 그 영상이 있는지 확인하라. 2026년에도 유효한 6가지 식별 신호를 포함한 전체 방법론은 우리의 미디어 리터러시 가이드에 있다.

맺으며

1년 전, 나는 이 취재를 이렇게 끝맺었다. "가해자들은 익명이 더 이상 면죄부가 아니라는 사실을 처음으로 배우고 있다."

이제는 더 구체적으로 쓸 수 있다. 어떤 이들은 감옥에 있다(서울대 사건 9년, 에스파 사건 2년 6개월). 어떤 이들은 국경 너머까지 추적당하고 있다(SM의 미국 로펌, 방찬의 캘리포니아 명령). 그리고 한국의 딥페이크 범죄 곡선은 6년 만에 처음으로 아래로 꺾였다. 반격은 실재하고, 효과를 내고 있다.

그러나 그록의 '11일 300만 장'은 다른 사실도 증명했다. 생성 비용은 이미 0으로 떨어졌고, 기술이 도약할 때마다 법은 추격을 처음부터 다시 시작해야 한다. 더 복잡한 것은, 전선이 더 이상 '범죄자 대 아이돌' 사이에만 그어져 있지 않다는 점이다. 전선은 이제 팬덤의 내부를 지나가고, 딥페이크 제작자를 고소하면서 동시에 AI 아이돌을 만드는 모든 기획사의 한가운데를 지나간다.

이 싸움은 끝나려면 멀었다. 그러나 2024년의 한국이 딥페이크가 얼마나 큰 피해를 만들 수 있는지 보여줬다면, 2026년의 한국은 다른 것을 보여주고 있다. 한 사회가 진심으로 반격을 결심했을 때, 어디까지 갈 수 있는지를.

출처

• Security Hero: State of Deepfakes 2023 (53% 수치 출처)
• 성평등가족부 / 디지털성범죄피해자지원센터 연간 보고서 (2023–2025 지원 통계)
• 경찰청 국가수사본부 특별단속 보도자료 (2024–2026)
• 코리아헤럴드 / 코리아타임스 / 중앙데일리 (단속·판결 보도)
• 디지털혐오대응센터(CCDH): 그록 이미지 모니터링 보고서 (2026년 1월)
• 404 Media: "K-pop Fans Are Calling Out Creepy Deepfakes of Idols" (2026년 6월)
• Wang & Kim, Computers in Human Behavior (2022); Her & Ringland, CHI EA '25 (BTS 아미 연구)
• AP통신: "In South Korea, deepfake porn wrecks women's lives and deepens gender conflict" (2024년 10월)
• 롤링스톤 / Dazed / Music Business Worldwide (산업 보도)
• OECD.AI 사건 데이터베이스 (기획사 법적 대응 기록)