이번 포스팅에서는 최근 국내에서 심각한 사건 중 하나로 다루어지는 딥페이크에 대해서 다루어 보겠습니다.
자세하게 딥페이크에 대해서 정보를 알고 싶어하시는 분들을 위해 우선 딥페이크는 어떤 기술이며 왜 범죄에 악용되는지 다룬 후에 텔레그램이 왜 딥페이크 범죄에 사용된 이유, 딥페이크 사태에 대한 자세한 현황, 딥페이크 범죄가 발생한 피해 학교 확인 방법, 피해를 당했다면 대처하는 방법과 예방 방법 그리고 처벌 형량에 대해서 자세하게 다루어 보겠습니다.
딥페이크(DeepFake)란?
딥페이크(DeepFake) 기술은 인공지능과 딥러닝 기술을 이용하여 기존의 이미지를 바탕으로 조작을 통해 원하는 사진을 실제처럼 합성하여 만들어내는 기술을 의미합니다.
상단의 링크는 실제로 일론 머스크의 이미지를 바탕으로 딥페이크 기술을 적용하여 생성한 가짜 동영상을 제작하여 보여주는 시연 영상입니다.
이런 딥페이크 기술의 가장 심각한 문제는 만들어낸 결과물이 실제인지 아닌지 구분하기 힘들 정도로 완성도가 높다는 문제입니다.
최근, 인스타그램이나 유튜브를 통해 고인의 사진이나 반려견의 사진을 통해 그리워하는 유족을 위하여 실제로 움직이는 동영상을 구현하는 기술을 이용하여 여러 사람들의 인기를 끌고 있습니다. 좋은 방식으로 사용하면 더 없이 이로운 기술이지만 안타깝게 악용되는 경우가 대다수인 상황입니다.
텔레그램이 딥페이크 범죄에 사용된 이유
텔레그램(Telegram)은 2013년에 출시된 클라우드 기반의 메신저입니다. 카카오톡과 같이 채팅방을 개설하고 사람들을 초대해서 대화 및 사진, 동영상, 파일의 형태를 공유하는 방식으로 사용이 가능한 서비스입니다.
텔레그램이 범죄에 악용되기 시작한 기본적인 이유는 바로 비밀 채팅(암호화)에 대한 기능과 가상 전화번호를 기반으로 가입 가능 때문입니다.
- 비밀 채팅(암호화)
텔레그램이 전 세계에서 가장 신뢰를 얻고 사용자들 확보한 이유가 바로 보안성의 장점입니다. 비밀 채팅과 같은 방식으로 텔레그램을 사용하면 대화 내용이나 송수신한 데이터에 대해서 암호화가 진행되고 이를 통해 사용자의 개인 정보의 안전성을 보장하기 때문입니다.
실제로 비밀 채팅 기능을 통해 생성한 대화방의 경우에는 다음 기능을 가집니다.
- 특정 기기에서만 사용 가능
- 일정 시간이 지나면 메시지 자동 삭제
- 사용자가 삭제한 메시지는 상대방에게도 자동 삭제
- 스크린샷 제한
물론, 이런 기능의 장점으로 많은 회사와 군사에서 텔레그램을 사용하지만 불행하게도 이런 장점을 악용하여 범죄 조직이 모의하는 과정을 텔레그램에서 사용한다는 무서운 점도 존재합니다.
- 가상 전화번호 가입
원래는 자신의 국가의 전화번호를 통해 인증하여 텔레그램 계정을 생성하도록 되어있지만 가상 전화번호를 생성하여 가입하는 경우가 있어서 만약 범죄자들이 범행을 하고 추적을 통해 검거하려고 해도 이 가상 전화번호로 가입된 경우에는 쉽지 않다는 점이 심각한 점으로 다루어지고 있습니다.
딥페이크 사태
이번 국내에서 발생한 딥페이크 사태는 과거에 발생한 2019년 n번방 사태와 비슷한 방식으로 이루어진 범죄로 보도되고 있습니다.
하지만, 특징이라고 하면 주변의 지인 사진을 합성하여 음란물로 만들어 유포하고 이름, 나이, 전화번호, 집주소와 같은 개인정보를 함께 공유하며 당사자에게 실제로 문자나 전화, SNS의 DM(Direct Message)를 이용한 협박을 조직적으로 진행하였다는 점입니다.
더욱 심각한 문제점은 많은 대학교, 고등학교, 중학교에서 피해 사례가 발생했다는 점입니다.
해당 범죄가 발생하는 텔레그램은 지인을 능욕 또는 합성을 통해 음란물을 공유하는 “겹지인방”으로 알려져 있습니다.
심지어는 가족을 대상으로 범죄를 저지른 경우도 있는 것으로 파악되어 충격을 주고 있습니다. 또한, 지금 검거된 가해자는 10 ~ 20대 남성이 대부분으로 알려져 있습니다.
이런 범죄에 가해자들이 사용하는 사진의 대부분은 SNS(인스타그램, 카카오톡)에 게시된 사진을 도용하여 텔레그램 내에서 간편하게 사진을 합성이 가능한 “텔레그램 딥페이크 봇”을 사용하여 음란물을 제작하는 등의 범행을 진행하고 있습니다.
따라서, 자신의 SNS 계정의 보안과 얼굴 사진이 포함된 이미지는 잠시 내려두시거나 비공개 상태로 전환하시는 것이 좋겠습니다.
딥페이크 피해 상황 (피해 학교 확인 방법)
최근 X(구 트위터)를 통해서 피해자들이 피해 현황을 공유하며 피해 상황을 업데이트하며 피해가 발생한 학교를 특정 계정을 통해 계속 확인이 가능한 상태입니다.
하지만, 알려진 사실과는 달리 학교 측에서는 피해 사실이 없다고 발표하는 경우가 많은 만큼 신뢰할 만한 정보가 아니니 참고만 하시길 바라겠습니다.
- 피해 학교 현황 확인 사이트
위 사이트는 https://deepfakemap.xyz/로 한 중학생 3학년이 피해 현황을 알리기 위해 X(구 트위터)의 정보를 기반으로 제작한 사이트로 정확한 정보는 아니기에 참고 용도로만 사용하시길 바랍니다.
피해 확인 및 대처 방법(예방 방법)
대부분의 피해 확인은 가해자가 문자나 전화 혹은 SNS를 통해 협박이나 연락을 지속적으로 시도할 경우 이상한 점을 발견하여 파악하는 경우가 대부분입니다.
하지만, 종종 직접 딥페이크 범죄가 발생한 텔레그램 채팅방에 직접 들어가서 피해 사실을 확인하는 경우도 있지만 이 부분은 시도하지 마시길 바랍니다.
피해가 확인되었다면 대처는 어떻게?
만약, 피해 사례가 발견되었다면 이미지를 증거물로 수집하여 경찰과 같은 수사 기관에 연락하여 도움을 받으시길 바랍니다.
SNS나 문자, 전화를 통한 협박이 있었다면 모두 캡쳐하여 기록을 증거물로 남겨두시길 바랍니다.
피해 신고 방법은?
- 방송통신심의위원회 디지털 성범죄 24시간 신고 방법
전화번호 1337번을 누른 후 3번
- 경찰서를 통한 신고
전화번호 112
- 피해 상담 지원
디지털 성범죄 피해자 지원센터 : 02-735-8994
여성긴급전화 : 1336
- 인터넷을 통한 신고 방법
1. 경찰청 사이트를 이용한 사이버범죄 신고
2. 방송통신심의위원회 사이트를 이용한 신고
3. 여성가족부 디지털성범죄 피해자 지원센터 이용
딥페이크 사태를 예방하는 방법
커뮤니티나 학생들 사이에서는 예방하는 방법으로 SNS(인스타그램, 페이스북, 카카오톡)에 게시되어 있는 얼굴이 포함된 이미지를 비공개 혹은 계정을 비공개로 전환하여 본인의 친구 이외에는 열람이 불가하도록 제한하는 방식의 예방 방법이 공유되고 있습니다.
일부 커뮤니티에 따르면 SNS 계정 자체를 해킹하거나 비공개 상태로 전환하여도 이미지를 탈취당할 가능성이 높으니 계정의 보안에도 각별히 신경을 쓰는 것이 좋겠다라는 등의 조치도 공유되고 있습니다.
딥페이크 처벌 형량
기존의 법안을 기준으로 설명드리면 가장 최근 발생한 딥페이크 범죄 중 서울대에서 발생한 가해자의 선고 형량을 보면 5년으로 정해진 사실을 보면 형량이 죄질에 비하여 낮다는 평가가 많습니다.
현행에 따르면 2020년에 마련된 성폭력처벌법에 의하면 딥페이크 기술을 활용한 영상을 제작 및 유포한 자는 5년 이하의 징역, 5000만원 이하의 벌금형에 처한다는 허위 영상물 관련 규정이 있습니다.
만약, 영리 목적으로 딥페이크를 유포한 경우에는 최대 7년 이하의 징역형에 처한다는 규정이 있습니다.
하지만, 이는 딥페이크 영상을 제작하고 유포한 사람에 한하여 적용되는 법안이기에 딥페이크 범죄를 막기에는 사실상 부족하다는 평가가 많습니다.
이를 정부도 인식하였는지 2024년 8월 30일을 기준으로 딥페이크 소지, 구입, 단순 시청한 모든 사람에게 처벌하는 법안을 확대하겠다고 선포한 만큼 딥페이크 범죄에 칼을 든 것으로 보입니다.
이외에도 경찰 수사가 진행된 만큼, n번방 사태와 동일하게 조직적으로 연합하여 범죄를 저지른 점을 보아 범죄단체조직제의 적용도 있을 거라 추측됩니다.
혹시 내 아이도?
여담이지만, 가해자와 피해자가 10 ~ 20대가 주를 이루는 범죄인 만큼 자녀를 두신 가족분들은 혹시 자녀들이 피해자 혹은 가해자가 아닌지 관심을 가지시고 적극적으로 도움을 주시길 바랍니다.
이번 사태를 두고 많은 생각이 들지만, 떠오르는 한 아프리카 나이지리아 속담이 있습니다.
“아이 하나를 키우기 위해서는 마을 전체의 힘이 필요하다”
온라인 상에서 남의 사진을 허용도 없이 도용하여 합성하는 행위는 명백한 범죄이며 이번 사태의 경각심을 가지시고 더 이상의 피해자가 없기를 바라며 이번 포스팅은 마치겠습니다. 감사합니다.