딥페이크 신고·삭제 요청, 플랫폼별로 이렇게 하세요

01딥페이크 신고, 어디에 올라갔는지부터 나눕니다

딥페이크 합성물을 발견하면 대부분 "어디에 신고해야 하느냐"부터 막힙니다. 답은 합성물이 올라간 장소에 따라 다릅니다. Google 같은 검색엔진의 검색결과, YouTube 같은 영상 플랫폼, 인스타그램과 페이스북, X 같은 SNS, 텔레그램 같은 메신저, 그리고 국내 커뮤니티와 게시판은 각자 다른 신고 창구와 기준을 운영합니다. 한 곳에 신고했다고 다른 곳까지 함께 지워지지 않습니다.

공통점도 있습니다. 거의 모든 창구가 게시물 주소(URL) 단위로 접수하고 심사합니다. Google은 신고서에 적은 주소만 검토한다고 안내합니다. 그래서 딥페이크 신고의 실제 출발점은 "어디에, 몇 개가, 어떤 주소로 올라가 있는지"를 정리하는 일입니다. 이 기록은 그 순서와 각 플랫폼의 공식 신고 경로를 정리한 것입니다. 합성물을 기술적으로 어떻게 찾는지는 딥페이크, 현재 기술로 어디까지 지울 수 있나(ARC-V10)에 따로 정리해 두었습니다.

02신고 전에 남겨 둘 것 — 주소와 화면, 시각

신고가 받아들여지면 게시물은 사라집니다. 그 뒤에는 무엇이 언제 어디에 있었는지 증명할 방법이 없어집니다. 신고 버튼을 누르기 전에 아래 기록부터 남겨 두세요. 수사기관에 고소하거나 다른 플랫폼에 같은 내용을 신고할 때도 이 기록이 그대로 쓰입니다.

합성물 파일 자체를 내려받아 모아 둘 필요는 없습니다. 신고와 삭제 요청에 필요한 것은 주소와 화면 기록이고, 파일을 휴대전화에 쌓아 두면 다시 열어 볼 때마다 고통이 커집니다. 화면을 캡처할 때도 합성된 부분이 크게 보이지 않도록 게시물 위아래의 정보 위주로 남기면 충분합니다. Google도 신고서에 첨부하는 스크린샷은 얼굴만 보이게 편집해도 된다고 안내합니다.

03Google 검색결과에서 지우는 방법

이름이나 아이디로 검색했을 때 합성물이 나온다면 Google의 검색결과 삭제 요청부터 진행합니다. Google 검색 고객센터의 "Google 검색에서 개인의 성적인 콘텐츠 삭제하기" 안내는 실제든 가짜든 본인이 등장하는 성적인 콘텐츠를 대상으로 하며, 딥페이크처럼 가짜로 만든 이미지는 세 가지 조건을 봅니다. 본인을 알아볼 수 있을 것, 가짜이면서 본인을 나체나 성적인 상황으로 거짓 묘사할 것, 본인의 동의 없이 배포됐을 것입니다.

신청은 콘텐츠에 등장하는 본인이나 그 대리인이 할 수 있습니다. 신고서에는 해당 페이지의 주소를 적고 스크린샷을 첨부합니다. 요청이 받아들여지면 신고한 주소는 Google 검색결과에 더 이상 나타나지 않습니다. 이름이나 식별 정보가 들어간 검색어에서만 빠지게 하는 부분 삭제도 있습니다. Google은 같은 이미지의 사본도 최선을 다해 찾아 지운다고 밝히고 있으며, 사본 삭제는 기본으로 진행되고 원하지 않으면 신청할 때 뺄 수 있습니다.

Google은 2024년 7월 공식 블로그에서, 이런 삭제 요청이 받아들여지면 그 사람에 대한 비슷한 검색에서 노골적인 결과를 걸러내는 것을 목표로 하고, 가짜 노골물 삭제 요청을 많이 받은 사이트는 검색 순위를 낮춘다고 설명했습니다.

04YouTube에 올라온 합성 영상

YouTube는 개인정보 보호 가이드라인에서 누군가 AI나 다른 도구로 허락 없이 내 얼굴이나 목소리를 바꾸거나 만들어 낸 경우를 개인정보 침해 신고 대상으로 명시하고 있습니다. 삭제 판단은 그 영상이 실제처럼 보이는 합성본인지, 본인을 고유하게 알아볼 수 있는지, 합성이라는 사실을 알렸는지, 패러디나 풍자, 공익적 가치가 있는지, 공인인지 등을 함께 보고 내립니다.

주의할 점은 신고 자격입니다. YouTube는 원칙적으로 본인 신고만 받습니다. 예외는 부모나 법정 후견인, 법적 대리인, 사망자의 가까운 가족 등으로 한정되며, 그 밖의 가족이나 동료, 회사 명의 신고는 받지 않습니다. 신고할 때는 영상 주소와 함께 본인이 나오는 구간의 타임스탬프를 모두 적어야 합니다. YouTube는 게시자에게 먼저 영상을 지우거나 고칠 시간을 줄 수 있으며, 게시자가 영상을 비공개로 돌리는 것만으로는 삭제로 인정하지 않는다고 안내합니다.

05인스타그램 · 페이스북과 StopNCII

Meta의 커뮤니티 규정은 동의 없이 공유된 나체 또는 준나체 이미지에 디지털로 만들거나 AI로 생성한 이미지도 포함된다고 명시합니다. 이미지 속 당사자의 신고는 동의가 없었다는 신호로 다뤄집니다. 인스타그램과 페이스북에서는 게시물의 신고 메뉴로 접수하며, Meta는 신고가 익명으로 처리된다고 안내합니다. 삭제된 이미지는 사진 대조 기술로 인스타그램, 페이스북, 메신저에 다시 올라오지 않도록 막는다고 밝히고 있습니다.

함께 알아 둘 도구가 StopNCII입니다. 이미지 원본을 올리는 방식이 아니라, 본인 기기에서 이미지의 해시(디지털 지문)를 만들어 해시만 보내는 방식입니다. 참여 플랫폼은 이 해시와 일치하는 이미지를 찾아 각자의 정책에 따라 처리합니다. StopNCII는 본인이 등장하는 딥페이크나 합성 이미지도 그 파일을 갖고 있고 나체나 준나체라면 해시를 만들 수 있다고 안내합니다. 이용하려면 이미지 속 당사자여야 하고, 촬영 당시와 현재 모두 18세 이상이어야 합니다.

06X와 텔레그램에 퍼졌을 때

X의 비동의 나체 정책은 AI나 다른 도구로 조작하거나 편집한 이미지, 특정인을 성적으로 묘사하거나 노출시키는 AI 생성물과 딥페이크를 위반 사례로 명시합니다. 이런 콘텐츠는 누구나 신고할 수 있습니다. 게시물의 신고 메뉴에서 사적인 콘텐츠 또는 비동의 콘텐츠 항목을 고르거나, X 고객센터의 신고 양식을 이용합니다. 확인이 필요하면 X가 당사자나 대리인에게 확인을 요청할 수 있고, 처음 게시한 계정은 정지될 수 있습니다.

텔레그램은 앱 안의 신고 버튼(안드로이드는 메시지를 탭, iOS는 길게 누르기, 데스크톱은 오른쪽 클릭)이나 abuse@telegram.org 이메일로 불법 콘텐츠를 신고하도록 안내합니다. 이메일에는 t.me로 시작하는 주소나 @로 시작하는 채널 아이디를 반드시 넣어야 합니다. 텔레그램 FAQ는 비동의 성적 이미지에 대해 본인이나 대리인이 신고할 수 있는 별도 경로도 안내합니다.

한계도 분명히 알아야 합니다. 텔레그램은 비공개 그룹과 대화방은 참여자끼리의 영역이라 관련 요청을 처리하지 않는다고 밝히고 있습니다. 비공개 방 안에 있는 파일은 외부에서 지울 수 없습니다. 현실적인 대응은 공개 채널과 공개 사이트를 빠짐없이 지우고, 비공개 방의 파일이 공개된 곳으로 나오는 순간을 감시해 바로 대응하는 것입니다.

07국내 사이트와 커뮤니티 — 정보통신망법 삭제 요청

국내 커뮤니티와 게시판, 블로그에 올라간 경우에는 정보통신망법 제44조의2에 따른 삭제 요청을 이용합니다. 사생활 침해나 명예훼손 등으로 권리를 침해받은 사람은 서비스 제공자에게 침해 사실을 소명하고 정보의 삭제를 요청할 수 있습니다. 요청을 받은 제공자는 지체 없이 삭제나 임시조치 등 필요한 조치를 하고 신청인과 게시자에게 알려야 합니다. 침해 여부를 판단하기 어렵거나 다툼이 예상되면 임시조치를 할 수 있으며, 그 기간은 30일 이내입니다.

실무에서는 각 사이트의 권리침해 신고 메뉴를 통해 접수합니다. 같은 합성물이 여러 게시판에 퍼졌다면 게시물마다 따로 신고해야 하고, 게시자가 지운 뒤 다른 제목으로 다시 올리는 경우도 많습니다. 해외에 서버를 둔 사이트는 사이트 운영자에게 연락이 닿지 않으면 그 사이트가 쓰는 호스팅 업체에 신고하는 경로를 함께 씁니다.

08한 번 신고로 끝나지 않는 이유

딥페이크 신고가 어려운 진짜 이유는 신고 절차가 아니라 찾는 일에 있습니다. 합성물은 만들 때마다 파일이 달라지고, 퍼지는 과정에서 제목과 파일명이 바뀝니다. 이름으로 검색해도 나오지 않는 사본은 신고 목록에 오르지도 못한 채 남습니다. 한 곳을 지우면 다른 곳에서 같은 합성물이 다시 올라오는 일도 흔합니다.

그래서 순서가 중요합니다. 먼저 기록을 남기고, 원본 게시물이 있는 사이트와 플랫폼에 삭제를 요청하고, 검색결과를 정리한 뒤, 얼굴을 기준으로 사본을 다시 찾고, 같은 기준으로 재유포를 감시합니다. 검색결과만 지우면 원본이 남고, 원본만 지우면 사본이 남습니다. 다섯 단계가 한 바퀴 돌아야 비로소 "지웠다"고 말할 수 있습니다.

092024년 개정 이후 처벌 규정

딥페이크 합성물은 2024년 10월 16일 시행된 성폭력처벌법 개정으로 처벌이 크게 무거워졌습니다. 제14조의2 제1항에서 "반포등을 할 목적으로"라는 요건이 빠져, 퍼뜨릴 목적이 없어도 대상자의 의사에 반해 성적 욕망이나 수치심을 유발할 수 있는 형태로 합성하거나 편집하면 처벌됩니다. 합성물을 소지하거나 구입, 저장, 시청한 사람을 처벌하는 제4항도 이때 새로 생겼습니다.

합성물을 이용한 협박도 따로 처벌합니다. 제14조의3은 제14조의2 제2항의 편집물등을 이용해 사람을 협박한 자를 1년 이상의 유기징역에 처하며, 같은 법 제15조는 이 죄들의 미수범도 처벌합니다. 합성물이 퍼지기 전 협박 단계부터 범죄라는 뜻입니다.

표는 일반적인 안내이며, 개별 사건에 어떤 조항이 적용되는지는 사실관계에 따라 달라집니다. 상습으로 제1항부터 제3항까지의 죄를 저지르면 형의 2분의 1까지 가중됩니다.

10사라짐컴퍼니가 대신하는 일

사라짐컴퍼니(SARAZIM LLC)는 국내최대규모 디지털장의사로, 딥페이크 합성물의 탐지와 신고, 삭제 요청을 한 번에 진행합니다. 탐지는 본인 동의를 받은 얼굴 사진 2~3장으로 시작합니다. 얼굴 식별값을 만들어 국내외 914개 이상 플랫폼에서 제목과 파일명이 바뀐 사본까지 찾고, 발견된 곳마다 주소와 화면, 확인 시각을 채증합니다. 의뢰인이 합성물을 직접 찾아보거나 다시 열어 볼 필요는 없습니다.

신고 단계에서는 대리 신청이 가능한 창구는 위임을 받아 대신 접수하고, YouTube처럼 원칙적으로 본인 신고만 받는 창구는 본인 명의 신고서를 함께 준비합니다. 삭제 이후에도 같은 기준으로 재유포를 감시하고, 처음 발견한 건수와 삭제 완료 건수, 남은 건수를 결과보고서로 드립니다. 자체 집계 기준 삭제율은 98.2%입니다.