딥페이크, 현재 기술로 어디까지 지울 수 있나

01딥페이크 삭제가 어려운 진짜 이유는 찾기 어렵기 때문입니다

딥페이크 피해를 처음 알게 되면 대부분 "이걸 지울 수 있느냐"부터 묻습니다. 결론부터 말하면, 공개된 곳에 올라간 합성물은 지금의 기술과 제도로 상당 부분 지울 수 있습니다. Google 검색은 딥페이크와 AI로 만든 동의 없는 성적 이미지를 삭제 대상으로 명시하고 있고, 주요 플랫폼들도 동의 없는 성적 이미지를 정책으로 금지합니다. 국내법도 2024년 개정으로 합성물의 제작부터 시청까지 처벌하도록 바뀌었습니다. 지우는 근거와 창구는 이미 갖춰져 있습니다.

어려운 것은 그 앞 단계, 어디에 있는지를 빠짐없이 찾는 일입니다. 일반 유출영상은 같은 파일이 복사되어 퍼지기 때문에 파일 고유값(해시)을 기준으로 사본을 묶을 수 있습니다. 하지만 딥페이크는 다릅니다. 같은 사진을 넣어도 생성할 때마다 결과물이 조금씩 다르게 나오고, 가해자는 한 사람의 사진으로 수십 장의 서로 다른 이미지를 만들어 여러 곳에 나눠 올립니다. 파일이 매번 새로 만들어지니 해시로는 서로 같은 것으로 묶이지 않습니다.

제목과 설명도 믿을 수 없습니다. 처음에는 이름이나 학교, 직장 같은 단서가 붙어 있다가도 재업로드되는 과정에서 지워지거나 외국어로 바뀝니다. 그래서 이름으로 검색해 찾은 몇 건을 지우고 나면 끝난 것처럼 보이지만, 단서 없이 남아 있던 합성물이 몇 달 뒤 다시 돌아오는 일이 반복됩니다.

02합성된 몸은 남의 것이어도, 얼굴은 피해자의 얼굴입니다

딥페이크라는 말은 넓게 쓰이지만 피해 사례에서 만나는 합성물은 대부분 몇 가지 유형으로 나뉩니다. 다른 사람의 영상에 피해자의 얼굴을 덮어씌우는 얼굴 교체, 피해자의 일상 사진에서 옷을 지운 것처럼 바꾸는 이미지 변조, 피해자의 사진을 학습시켜 새로운 장면을 만들어 내는 생성 방식입니다.

이 가운데 얼굴 교체와 이미지 변조는 구조적으로 피해자의 얼굴 특징을 최대한 그대로 살리도록 만들어집니다. 보는 사람이 "그 사람"이라고 믿게 만드는 것이 합성의 목적이기 때문입니다. 바로 이 점이 탐지에서는 결정적인 단서가 됩니다. 몸과 배경, 조명은 다른 사람의 것이어도 화면 속 얼굴은 피해자의 얼굴을 재현한 것이므로, 피해자 본인 사진에서 만든 얼굴 식별값과 가깝게 나옵니다. 합성이 정교할수록 오히려 더 잘 맞는 셈입니다.

또 하나의 단서는 원본 사진입니다. 합성물은 대부분 피해자의 SNS나 메신저 프로필, 졸업앨범처럼 이미 어딘가에 공개된 사진을 재료로 씁니다. 같은 얼굴 식별값으로 공개된 원본 사진을 함께 찾으면, 어떤 사진이 합성에 쓰였는지 짚어낼 수 있고 이는 해당 이미지가 사실과 다른 허위 합성물이라는 점을 보여 주는 근거가 됩니다.

03얼굴인식은 생각보다 훨씬 정밀합니다

얼굴인식이라고 하면 아직도 휴대전화 잠금 해제 정도를 떠올리는 분이 많습니다. 하지만 지금의 얼굴인식은 많은 사람이 생각하는 수준을 이미 한참 넘어섰습니다. 얼굴인식 알고리즘의 정확도를 공개적으로 평가해 온 미국 NIST가 2019년에 발표한 대규모 시험 보고서에 따르면, 가장 정확한 알고리즘들은 1,200만 명이 등록된 데이터베이스에서 같은 사람을 찾을 때 첫 번째 후보에서 놓치는 비율이 0.1%에 가까운 수준까지 내려왔습니다. 1,200만 명 가운데서 한 사람을 찾는 일을 천 번 하면 놓치는 경우가 한 번 정도라는 뜻이고, 알고리즘은 그 뒤로도 계속 발전해 왔습니다.

이 정밀도는 얼굴을 사진으로 비교하지 않고 숫자로 비교하기 때문에 가능합니다. 눈 사이의 거리, 코와 입의 위치 관계, 턱선과 광대의 윤곽처럼 사람마다 다르게 나타나는 특징을 수백 개의 수치로 바꾼 식별값을 만들고, 두 식별값이 얼마나 가까운지를 계산합니다. 밝기가 다르거나 화질이 떨어지거나 좌우가 뒤집혀 있어도 얼굴의 구조는 크게 변하지 않기 때문에 식별값은 가깝게 나옵니다.

같은 보고서는 한계도 분명히 적고 있습니다. 옆모습 사진이나 조명이 나쁜 사진, 통제되지 않은 환경에서 찍힌 사진은 정면 증명사진보다 정확도가 떨어집니다. 다만 해마다 알고리즘이 저화질과 어두운 사진, 고개를 돌린 사진에 대한 내성을 키우고 있다는 점도 함께 확인됩니다. 사라짐컴퍼니가 하나의 사진이 아니라 조건이 다른 사진 2~3장으로 기준을 만드는 이유가 여기에 있습니다.

04사라짐컴퍼니의 얼굴인식 탐지는 이렇게 작동합니다

사라짐컴퍼니의 딥페이크 탐지는 의뢰인 본인의 얼굴 사진 2~3장에서 시작합니다. 문제가 된 합성물을 직접 보내거나 다시 열어 볼 필요는 없습니다. 정면 사진 한 장과 약간 옆을 본 사진 한두 장이면 영상 속에서 고개를 돌리거나 그늘이 진 장면까지 안정적으로 맞춰볼 수 있는 기준이 만들어집니다.

그다음 국내외 커뮤니티, 성인 사이트, 영상·이미지 공유 사이트, 검색엔진 이미지 결과에서 후보를 모읍니다. 영상은 일정 간격으로 장면을 뽑아 각 장면에서 얼굴이 보이는 부분을 찾아내고, 썸네일과 미리보기, 따로 돌아다니는 캡처 이미지도 같은 방식으로 처리합니다. 한 화면에 여러 사람이 있으면 얼굴마다 따로 식별값을 만들어 대조합니다.

대조 결과는 유사도 점수로 나오고, 점수 구간에 따라 확인 순서를 정합니다. 여기에 이미지 해시와 메타데이터를 겹쳐 보면 같은 합성물이 그대로 복사된 사본은 한 묶음으로 정리되고, 서로 다르게 생성된 합성물은 얼굴로 다시 이어집니다. 하나의 방법이 놓친 것을 다른 방법이 잡도록 여러 겹으로 확인하는 구조입니다.

05마지막 판정은 사람이 합니다

유사도 점수는 판정이 아니라 후보를 알려 주는 숫자입니다. 정밀한 알고리즘이라도 닮은 사람이 비슷한 각도와 조명으로 찍힌 장면은 높은 점수를 받을 수 있습니다. 특히 학습 기반으로 새로 생성된 이미지는 피해자를 닮게 만들려다 실제 얼굴과 미묘하게 달라지는 경우가 있어, 점수만으로는 판단할 수 없습니다.

그래서 사라짐컴퍼니는 기계가 고른 후보를 담당자가 한 건씩 직접 확인합니다. 얼굴만이 아니라 합성에 쓰인 원본 사진과의 일치 여부, 배경과 소품, 게시물에 함께 붙은 이름이나 아이디 같은 단서를 함께 보고 동일인을 대상으로 한 합성물인지 판정합니다. 애매한 건은 확정 목록에 넣지 않고 따로 분류해 두었다가 추가 단서가 나오면 다시 검토합니다.

이 과정은 의뢰인을 보호하는 장치이기도 합니다. 의뢰인이 수십, 수백 개의 합성물을 직접 열어 보며 자신인지 확인할 필요가 없고, 관계없는 사람의 게시물을 잘못 신고해 신고 전체의 신뢰도가 떨어지는 일도 막을 수 있습니다.

06지금 기술과 제도로 어디까지 지울 수 있나

찾아낸 합성물을 얼마나 지울 수 있느냐는 기술보다 올라간 장소의 성격에 달려 있습니다. 공개된 곳일수록 근거와 창구가 분명하고, 닫힌 곳일수록 외부에서 할 수 있는 일이 줄어듭니다. 현재 기준으로 장소별 현실을 정리하면 다음과 같습니다.

정리하면, 검색과 플랫폼처럼 공개된 영역은 찾기만 하면 지울 수 있는 영역입니다. 사라짐컴퍼니가 국내외 914개 이상 플랫폼의 정책과 신고 절차를 기준으로 요청을 진행하는 것도 이 영역을 빠짐없이 덮기 위해서입니다. 사라짐컴퍼니의 자체 집계 기준 삭제율은 98.2%이며, 이 숫자는 처음에 빠짐없이 찾아냈을 때 비로소 의미를 가집니다.

07솔직하게 말하면, 지울 수 없는 것도 있습니다

어떤 업체도 인터넷에서 합성물을 영원히 완전히 없앤다고 약속할 수는 없습니다. 이미 누군가의 휴대전화나 컴퓨터에 내려받아진 파일, 초대받은 사람만 들어갈 수 있는 비공개 대화방 안의 파일은 외부에서 지울 방법이 없습니다. 또 합성에 쓰인 원본 사진이 공개된 채로 남아 있으면, 같은 사진으로 새로운 합성물이 다시 만들어질 수 있습니다.

그래서 딥페이크 대응은 한 번의 삭제로 끝나지 않습니다. 사라짐컴퍼니는 처음 만든 얼굴 식별값을 그대로 재유포 감시에 씁니다. 닫힌 곳에 있던 파일이 다시 공개된 곳으로 나오거나 새로 생성된 합성물이 올라오면, 사람이 처음부터 다시 찾을 필요 없이 같은 기준으로 걸러내 바로 삭제 요청에 들어갑니다. 사라짐컴퍼니가 10년 무상 모니터링 및 삭제를 사후 보장으로 두는 것도 이 때문입니다.

08법은 어디까지 왔나 — 2024년 개정 이후의 처벌 규정

국내에서는 2024년 10월 16일 성폭력처벌법 개정으로 허위영상물 관련 처벌이 크게 강화되었습니다. 이전에는 반포할 목적이 있어야 제작을 처벌할 수 있었지만, 개정 이후에는 대상자의 의사에 반해 성적 욕망이나 수치심을 유발할 수 있는 형태로 편집·합성·가공하는 행위 자체가 처벌 대상입니다. 만들어진 합성물을 소지하거나 구입·저장·시청하는 행위를 처벌하는 규정도 이때 새로 생겼습니다.

처벌을 원한다면 순서가 중요합니다. 게시물이 지워지면 언제, 어디에, 누가 올렸는지 증명하기 어려워지므로 삭제 요청 전에 주소와 화면 전체, 확인 시각을 남겨 두어야 합니다. 사라짐컴퍼니는 판정 단계에서 확정된 건마다 이 기록을 남기므로, 법적 대응을 검토할 때 정리된 형태로 활용할 수 있습니다. 개별 사건의 법률 판단은 변호사와 함께 검토하는 것이 정확합니다.

09사라짐컴퍼니가 딥페이크 대응에서 다른 점

딥페이크 피해 상담에서 가장 많이 듣는 말은 "어디까지 퍼졌는지 모르겠다"는 것입니다. 이름으로 검색해 보이는 것만 지우는 방식으로는 이 질문에 답할 수 없습니다. 사라짐컴퍼니는 얼굴 식별값을 중심에 두고 해시, 메타데이터, 키워드, 링크 경로를 겹쳐 확인하기 때문에, 이름도 제목도 없이 새로 만들어진 합성물까지 같은 사람을 기준으로 이어서 찾을 수 있습니다.

이 방식은 보안 전문가가 설계하고 운영합니다. 사라짐컴퍼니 대표는 팔로알토 네트웍스 출신으로 CISSP, CISM, CEH, OSCP 자격을 보유하고 있으며, 탐지 기준을 세우는 단계부터 결과 판정까지 기술적 판단이 필요한 부분을 직접 맡습니다. 결과는 처음 확인된 건수, 삭제가 완료된 건수와 남은 건수, 건별 주소와 처리 결과로 보고합니다.

얼굴 정보는 민감정보로 다룹니다. 탐지는 의뢰인 본인의 얼굴에 대해서만 별도 동의를 받은 뒤 진행하고, 받은 사진과 식별값은 탐지와 재유포 감시 목적으로만 씁니다. 다른 사람의 얼굴로 누군가를 찾아 달라는 요청은 받지 않습니다.

10지금 바로 할 일과 상담 전 준비

딥페이크를 처음 발견했을 때 가장 먼저 할 일은 지우는 것이 아니라 남기는 것입니다. 당황해서 게시자에게 연락하거나 댓글을 달면 피해 사실이 드러나 오히려 확산되거나 금전 요구로 이어질 수 있습니다. 아래 항목 중 할 수 있는 것만 정리해 두셔도 상담은 충분히 진행됩니다.