AI인공지능 기술의 발달로 인한 피해는 어쩌면 이미 예견된 것인지도 모릅니다. 다양한 유형의 문제 중에서도 현재 딥페이크 성범죄, 사기 행각 등이 크게 대두되고 있는데, 오늘은 텔레그램 딥페이크 뜻부터 디지털 성범죄 처벌, 그리고 경찰의 딥페이크 아청물 등 7개월간 특별단속 및 엄정 대응 소식에 대해 살펴보도록 하겠습니다.
1.텔레그램 딥페이크 뜻
먼저 텔레그램 딥페이크 뜻은, 딥러닝 기술을 활용하여 기존의 이미지나 영상을 조작해 새로운 영상 또는 이미지를 생성하는 기술인 딥페이크를 이용해, 특정인의 얼굴을 합성한 영상, 음/란/물이나 허위 정보를 텔레그램이라는 메신저를 통 제작,유포하는 행위를 의미한다 할 수 있습니다.
조금 더 각각의 세부적인 뜻, 의미에 대해서 좀 더 살펴보겠습니다.
✔️텔레그램이란?
텔레그램(Telegram)은 러시아 태생 두로프 형제가 개발하여 2013년 8월 iOS용을 시작으로 현재까지 다양한 모바일 등 다양한 기기, 웹브라우저 등의 서비스에 지원하는 메신저이며, 속도가 빠르고 사용이 간편하여 인스턴트 메신저로 불리기도 합니다.
게다가 무료로 이용할 수 있고, 비밀 대화 기능을 제공하는 등 보안성이 높아 이러한 매력때문에 인기를 끌기도 했는데요.
특히, 텔레그램의 서버가 외국에 있고 국내 범죄 관련하여 국내 다른 메신저 서비스와 달리 텔레그램에 수사 협조를 요청해도 텔레그램 측이 협조하지 않으면 수사가 어렵다는 점을 악용하여 이를 중심으로 2018년 텔레그램 N번방 사건, 그리고 2024년 8월 한 뉴스 매체의 단독 보도를 통해 본격적으로 드러난 텔레그램 딥페이크 성범죄 사건이 바로 대표적인 예시라 할 수 있습니다.
✔️딥페이크란?
딥페이크는 딥러닝 기술을 기반으로 한 인공지능 기술이라 할 수 있는데, 여기서 딥러닝이란 인간의 뇌 신경망을 모방하여 데이터 속에서 복잡한 패턴을 학습하고 예측하는 인공지능 기술로, 한마디로 딥페이크는 이같은 딥러닝 기술을 이용해 특정 인물의 얼굴이나 목소리를 다른 영상, 음성에 합성하는 기술입니다.
📌딥페이크 deepfake는, 딥러닝 deep learning의 단어와 가짜 fake의 합성어
2.텔레그램 딥페이크 성범죄, 디지털 성범죄 처벌(아청물 등)
최근 뉴스를 통해 보도된 대학교는 물론 10대들을 중심으로 텔레그램을 이용한 딥페이크 음.란.물, 아청물 제작 및 유포 사건이 심각한 사회 문제로 떠올랐습니다. 이는 단순한 개인의 일탈을 넘어, 학교, 지역 사회로 번지고 있고 피해자들의 삶에 큰 상처를 입히는, 누구나 피해자가 될 수 있다는 심각한 문제로 번지고 있는데요.
이에 가해자 엄벌과 신상공개해달라는 국민청원까지 등장하고 있습니다.
이미 파악되고 있는 딥페이크 성범죄, 즉 텔레그램을 이용한 디지털 성범죄 피해 내용만해도 무척 다양한 상황입니다.
한 텔레그램 대화방에만 수십만명이 들어가 있는 것은 물론, 이러한 방이 여러 개라는 것이 예상되고 있는 상황이고, 피해자들 중에는 평범한 여성들로 대학생, 여교사, 여군, 여중고생 미성년자 등 나이와 직업을 가리지 않는 것으로 나타나고 있습니다.
일단 텔레그램 대화방에 지인 얼굴에 음.란.물을 합성하여 유포하면서 희롱을 하거나 모욕, 그리고 사고 파는 행위는 물론, 협박을 하여 만나기까지하여 제2의 범죄로도 이어질 수 있는 상황이라 그 피해 범위는 더 넓을 것으로 예상되고 있는 상황입니다.
무엇보다 이번 10대들 딥페이크 성범죄에 연관된 피해학교명단&지도라는 것도 돌아다니고 있는데, 현재 명단에는 540여 개가 넘는 학교가 등록되어 있고 실제 한 교원 단체에 의해 확인된 피해 학교만 40여 곳이라 하며, 이들 학교의 피해자에는 여교사, 학생 등이 모두 포함되어 있다고 합니다.
또한, 현재 입건된 가해자, 즉 피의자 수만 확인해봐도 10대가 70%가 넘게 나타나고 있는데, 이 텔레그램 딥페이크 성범죄가 심각한 범죄임을 인식하지 못하고 용돈벌이, 단순 놀이로 인식하고 있는 것으로도 판단되고 있습니다.
하지만 이러한 디지털 성범죄는 지난 텔레그램 엔번방 사건의 경우처럼 엄중한 처벌 대상이 될 수 있다는 점을 잊어선 안 됩니다. N번방 사건을 계기로 아청물과 성인 불법촬영물 등 관련 처벌법의 법정형과 기준이 상향 조정되는 일이 있기도 했습니다.
이번 사건의 피의자들 중 촉법소년도 속해 있다고 하는데, 촉법소년 처벌 관련 규정에 의해 형사처벌은 면하지만 가정법원 재판 등에서 보호처분(감호위탁, 보호관찰, 사회봉사 등)을 받을 수 있습니다. 다만, 촉법소년 보호처분은 전과로 남지 않습니다.
또, 실제 촬영한 영상물이 아닌 불법 합성물의 경우에는 실제 처벌 수위도 그보다는 낮을 수 있다고 하니 참고하시기 바랍니다.
✔️주요 처벌 대상 : 채널 운영자 / 불법합성물을 의뢰하여 유포한 자(의뢰만 한 경우 처벌X) / 합성물 제작,유포한 자&영리 목적 / 미성년자 불법 편집물 소지,시청한 자 등
🚨아청물 관련 처벌, 소지나 시청만 해도 징역의 처벌 수위
이번 텔레그램 딥페이크 성범죄 사건과 관련하여 가장 문제가 될 수 있는 부분이 바로 성범죄 처벌 수위 중에서도 매우 높다고 할 수 있는 아동청소년 성.착.취.물 관련 이라 할 수 있습니다.
즉, 아직 미성년자에 해당하는 피해자의 딥페이크 음/란/물을 제작하여 유포하고 또 이를 시청하거나 소지한 경우에는 관련 법으로 엄격하게 처벌될 수 있다는 문제인데요.
현행법상 피해자가 19세 미만인 경우, 아동청소년의 성보호에 관한 법률 제11조(아동청소년 불법 영상물의 제작,배포 등)에 따라 아동,청소년 불법 촬영물을 제작,수입 또는 수출한자는 무기징역 또는 5년 이상의 유기징역, 영리를 목적으로 판매,대여,배포,제공하거나 이를 목적으로 소지,운반,광고,소개하거나 공연히 전시 또는 상영한 자는 5년 이상의 유기징역에 처해질 수 있습니다.
또, 아청물을 배포하거나 제공 및 공연히 전시 또는 상영하기만 해도 3년 이상의 징역, 그리고 아청물 구입, 소지, 시청의 경우에도 이제는 벌금형 선처없이 1년 이상의 징역에 처해질 수 있습니다.
이렇듯 텔레그램 엔번방 이후 개정된 관련법 처벌 규정으로 인하여, 이제 단순히 소지하거나 시청만 해도 강력한 처벌과 함께 신상보안처분 등 불이익이 생길 수 있다는 사실에 주의가 필요합니다.
🚨디지털 성범죄 관련 성폭력특례법 제14조(카메라 등 이용촬영)를 위반할 경우
추가적으로 일반 성인을 대상으로한 디지털 성범죄를 저지른 경우에도 성폭력범죄의 처벌 등에 관한 특례법 제14조 제2항(카메라 등 이용촬영)에 의해, 제작 및 배포한 경우에는 7년 이하의 징역 또는 5천만원 이하의 벌금에 처해질 수 있고, 또 제3항에 의하여 영리 목적으로 유포, 판매한 경우에는 3년 이상의 유기징역에 처해질 수 있습니다.
성인 딥페이크물에 대해서는 소지, 시청에 대해 처벌하지 않는다고 합니다.
3.딥페이크 성범죄 피해자 지원 내용
현재 디지털성범죄피해자지원센터를 통해서 딥페이크 관련 합성 편집물 신고와 피해상담, 삭제지원, 유포현황 모니터링, 수사/의료/법률지원 등 무료로 도움을 받으실 수 있는 상황이니 참고하시기 바랍니다.
현재까지 파악된 올해 딥페이크 성.범.죄 유포 등 학생과 교사 피해 건수가 200건에 육박한 상황이고, 이중 대다수가 학생이라고 하는데요.
피해자들의 경우에는 2차 피해를 우려해 신고를 하는 것조차 힘든 경우가 많은데, 그도 그럴 것이 가해자들이 가까운 지인, 또는 친구, 심지어 가족인 상황이기 때문입니다.
이와 관련하여 교육부가 대응을 위한 긴급TF를 구성해 매주 한번씩 학교 딥페이크 사안 조사, 경찰청/여성가족부/방송통신위원회 등 관계 부처와 공조/협력하고, 시도 교육청과 비상 연락망을 운영하여 소통을 총괄한다고 하며, 학생과 교원 피해 상황 처리와 심리 지원도 진행한다고 합니다.
🚨피해 학생의 경우에는 교사나 학교전담경찰관에 신고하고 상담프로그램인 ‘위Wee 클래스, 위Wee 센터’를 통해 학생상담치유를 지원받을 수 있으며, 피해 충격이 큰 학생의 경우에는 외부 전문기관을 연계해주고, 정신건강 관련 진료 및 치료비를 최대 300만원 지원, 2차 피해 방지를 위해 피해자와 가해자 분리도 실시한다고 합니다. 피해 교사의 경우에는 교권침해 직통번호 ‘1395’를 통해 피해 신고를 하면 원스톱 상담 지원을 받을 수 있다고 합니다.
📌추가적으로 일부 디지털장의사(디지털기록 삭제) 업체들에서 미성년자 피해자는 물론, 가해 학생의 요청이 있으면 무료로 기록 삭제를 지원한다고 알려져 있는데요. 단, 가해자가 요청하는 경우에는 피해자의 동의 없이는 삭제가 어려우며, 구글에서 검색되는 것에 대해 삭제가 가능하다고 하니 참고하시면 좋을 것 같습니다.
4.텔레그램 딥페이크 성범죄 7개월간 특별단속 및 엄격 대응
이 번 사건 관련하여 지난 8.27 관련 기사에 따르면, 지인 또는 소셜미디어 이용자의 사진을 합성해 만든 딥페이크 허위영상물 기반 디지털성범죄에 대해 경찰이 대대적인 단속에 나설 것이며, 경찰청 국가수사본부에 따르면 8.28부터 내년 2025년 3월 31일까지 7개월 동안 딥페이크 성범죄 관련 특별 집중단속을 실시한다고 밝혔습니다.
경찰은 동시에 시,도경찰청 사이버성폭력수사팀을 중심으로 연계하여 적극 단속을 벌이고 딥페이크 제작, 유포까지 철저히 추적, 검거할 계획이며, 딥페이크 탐지 소프트웨어를 활용하여 분석, 국제공조 등 수사에 필요한 사항을 적극 지원할 예정이며, 딥페이크 피해 대상이 아동,청소년일 경우 아청법에 해당하므로 더욱 엄격히 대응할 것임을 밝혔습니다.
🔸확산 우려하여 정부 강력 대응책 마련 – 철저한 실태 파악과 수사
🔸방송통신심의위원회 – 모니터링 요원 늘려 실시간 피해 상황 감시, 경찰에 수사 의뢰
🔸경찰은 음.란.물 제작 대화방에 대해 내사 착수, 7개월간 특별 집중 단속
경찰의 이같은 대대적인 움직임에는 일부 SNS에서 참여자들끼리 특정 지역이나 학교의 공통 지인을 찾아가 그 지인 대상 허위 영상물을 공유하는 ‘겹지방’이 운영되는 등 범행 수법이 점점 다양해지고 체계화되고 있다는 사실에 시급히 대응책 마련에 들어간 것으로 보여지는데요.
겹지방은, 겹지인, 즉 겹치는 지인이라는 인터넷 용어로, 특정 학교, 지역 관련 겹지방을 양산하여 이 방에서 자신의 지인(피해자)을 특정하고, 이 지인을 아는 사람을 찾아 지인의 사진 또는 영상 등으로 만든 딥페이크 불법 합성물을 공유하는 방식입니다.
현재 이름만 대면 알 수 있는 학교의 이름을 딴 겹지방도 어렵지 않게 찾아볼 수 있다고 하는데요.
아직까지도 지인 공유가 활발히 이뤄지고 있는 상황이라 더욱 심각한데, 이에 경찰은 학교전담경찰관(SPO)를 통해 학교 내 딥페이크 피해 사례 파악하여 범죄첩보 수집, 경각심 제고를 위해 사례 중심 예방 교육, 홍보 등 활동을 병행한다고도 하며, 필요시 위장수사(미성년자 대상 범죄)도 확대할 방침이라 합니다.
8.30 정부에 따르면, 딥페이크 등 허위 영상물 소지/구입/시청 행위 처벌에 대한 규정을 신설하고 딥페이크물 제작/유통에 대한 처벌 기준을 상향하는 법률 개정을 추진할 계획이라 합니다.
🚨텔레그램 딥페이크 피해 학교 지도 명단
피해학교지도, 일명 딥페이크맵이라는 것이 사람들 사이에서 공유되고 있습니다. 이를 만든 제작팀은 사이버수사대의 수사요청에 적극 협조 중이라고 하고 사이트에서는 익명상담받기, 제보하기 등의 메뉴를 이용할 수 있게 하였는데요. 딥페이크 피해학교 확인 방법은 학교명 검색을 통해서 가능하니 이용에 참고하시기 바랍니다. *9월초 확인 시, 해당 사이트 접속이 되지 않는 상황인 점 참고해주세요.