AI딥페이크 딥페이크성범죄처벌법, 제작·유포·시청까지 처벌될까

“AI로 사진 한 장을 합성한 것도 딥페이크 성범죄가 되나요?”

“직접 만든 것은 아니고 저장하거나 보기만 했는데도 처벌될 수 있나요?”

생성형 AI와 이미지·영상 편집 기술이 보편화되면서 다른 사람의 얼굴을 성적인 사진이나 영상에 합성하는 AI딥페이크 사건도 문제가 되고 있습니다.

단순한 장난이나 개인적인 사용이라고 생각하기 쉽지만, 타인의 얼굴·신체 또는 음성을 이용하여 성적 허위영상물을 만들었다면 성폭력범죄의 처벌 등에 관한 특례법상 허위영상물 관련 범죄가 문제될 수 있습니다.

특히 현재는 제작뿐 아니라 유포·판매는 물론 일정한 경우 소지·구입·저장·시청 행위까지 처벌 대상이 될 수 있습니다. 흔히 딥페이크성범죄처벌법이라고 검색하지만 별도의 법률이 존재하는 것은 아니며, 실제로는 성폭력처벌법 제14조의2를 중심으로 처벌 여부를 판단하게 됩니다.

이번 글에서는 AI딥페이크가 어떤 경우 성범죄로 처벌될 수 있는지, 딥페이크성범죄처벌법의 처벌 수위와 제작·유포·시청의 차이, 수사 과정에서 확인되는 내용을 살펴보겠습니다.

AI딥페이크 어떤 경우 성범죄가 될까

성폭력처벌법 제14조의2는 사람의 얼굴·신체 또는 음성을 대상으로 한 영상물 등을 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성·가공하는 행위를 처벌하고 있습니다.

따라서 AI 프로그램을 사용했는지, 일반적인 사진이나 영상 편집 프로그램을 사용했는지가 가장 중요한 기준은 아닙니다.

1 실제 촬영한 영상이 아니어도 문제될 수 있습니다

대표적으로 특정인의 얼굴 사진을 가져와 성적인 사진이나 영상의 신체와 합성하거나, 기존 영상물을 수정하여 실제로 존재하지 않았던 성적인 장면을 만들어내는 경우가 문제될 수 있습니다.

중요한 것은 단순히 AI가 사용됐다는 사실이 아니라 실제 사람의 얼굴·신체·음성을 대상으로 했는지, 대상자의 의사에 반하여 성적인 형태로 편집·합성·가공했는지입니다.

딥페이크성범죄처벌법 처벌 수위는

현재 성폭력처벌법에 따르면 대상자의 의사에 반하여 성적 허위영상물을 편집·합성·가공한 경우 7년 이하의 징역 또는 5천만원 이하의 벌금에 처할 수 있습니다.

만들어진 AI딥페이크 영상이나 그 복제물을 다른 사람에게 유포한 경우에도 같은 법정형이 적용될 수 있으며, 영리 목적으로 정보통신망을 이용하여 유포한 경우에는 더 무거운 처벌이 규정되어 있습니다.

행위	처벌 수위
성적 허위영상물 편집·합성·가공	7년 이하 징역 또는 5천만원 이하 벌금
허위영상물 또는 복제물 유포 등	7년 이하 징역 또는 5천만원 이하 벌금
영리 목적으로 정보통신망을 이용해 유포	3년 이상의 유기징역
소지·구입·저장·시청	3년 이하 징역 또는 3천만원 이하 벌금

1 유포 목적이 없어도 제작 자체가 문제될 수 있습니다

과거에는 제작 단계에서 반포 목적이 중요한 요건이었으나 법 개정으로 해당 요건이 삭제되었습니다. 따라서 “다른 사람에게 보여주려고 만든 것이 아니다”라는 이유만으로 제작행위가 처벌 대상에서 제외되는 것은 아닙니다.

제작하지 않고 소지·시청만 해도 처벌될까

AI딥페이크를 직접 제작하지 않았더라도 안심할 수 있는 것은 아닙니다.

현행 딥페이크성범죄처벌법 관련 규정은 성적 허위영상물이나 그 복제물을 소지·구입·저장 또는 시청한 행위도 처벌 대상으로 규정하고 있습니다.

1 제작·시청·유포는 구분해서 확인해야 합니다

다만 휴대전화나 컴퓨터에서 파일이 발견됐다는 사실만으로 모든 경우에 동일한 결론이 내려지는 것은 아닙니다.

어떠한 경위로 파일을 받게 됐는지, 실제로 저장하거나 시청했는지, 해당 영상물이 어떤 내용인지 등 구체적인 사실관계를 확인해야 합니다.

또 단체채팅방이나 SNS, 커뮤니티 등에 다시 올리거나 다른 사람에게 전달했다면 단순 소지·시청이 아니라 반포 등의 행위가 문제될 가능성도 함께 살펴봐야 합니다.

딥페이크 성범죄 수사에서는 무엇을 확인할까

AI딥페이크 사건은 대부분 휴대전화나 컴퓨터 등 디지털 자료와 밀접하게 연결되어 있습니다.

수사 과정에서는 문제가 된 영상물 자체뿐 아니라 제작에 사용한 원본 사진, AI 서비스 이용내역, 파일 저장기록, 카카오톡이나 SNS 대화, 전송내역 등이 함께 확인될 수 있습니다.

1 수사 전 확인할 내용

딥페이크 성범죄로 조사를 받게 됐다면 제작부터 저장, 전송에 이르기까지 각각의 행위와 경위를 나누어 확인할 필요가 있습니다.

• ✓해당 사진이나 영상이 만들어진 경위
• ✓실제 제작·편집·합성에 관여했는지
• ✓영상 속 인물이 누구인지
• ✓다른 사람에게 전송하거나 게시했는지
• ✓휴대전화나 컴퓨터에 저장된 경위
• ✓동일하거나 유사한 영상물이 추가로 존재하는지

저, 김규현 변호사는 AI딥페이크 사건에서 영상물의 제작·합성 경위와 저장·시청·전송 여부, 휴대전화 등 디지털 자료를 함께 살펴 적용 혐의와 수사 과정에서 확인해야 할 부분을 구체적으로 정리하겠습니다.

AI딥페이크 또는 딥페이크 성범죄로 경찰조사를 앞두고 있다면 첫 진술에 앞서 문제가 된 영상물이 만들어진 경위와 취득·저장·전송 과정, 관련 대화내역과 디지털 자료부터 차분히 정리해 보시기 바랍니다.