최근 10대 여학생들의 평범한 얼굴을 합성해 벌이는 ‘딥페이크’ 성범죄가 잇따르고 있다. 피해자들은 또 다른 피해자를 막기 위해 피해자 학교 명단을 만들어 공유하는 상황까지 왔다. 피해 학교는 전국 중·고교와 대학 등을 포함해 모두 200여 곳에 이른다. 공포에 질린 학생들은 스스로 SNS 계정을 삭제하거나 카카오톡 프로필에서 자신의 사진을 내리고 있다.

딥페이크 범죄 피해자는 대부분이 10대 학생들로 알려졌다. 이들이 사용하는 텔레그램 방에서는 일명 ‘겹치는 지인’의 축약어인 ‘겹지인방’이라는 말이 암암리에 떠돈다.

이처럼 딥페이크 범죄의 심각성이 퍼지는 가운데 충북교육청은 지난달 28일 딥페이크를 이용한 범죄피해 방지 신고센터와 피해 시 대응요령을 안내했다.

도교육청에 따르면 피해자는 △충청북도경찰청 117 학교폭력신고센터 △긴급신고 112 △방송통신위원회 1377 △디지털성범죄피해자지원센터 △여성긴급전화 1366과 온라인 상담채널 <디포유스>에 긴급으로 도움을 요청할 수 있다. 이들 기관에서는 2차 피해를 예방하는 법‧의료지원은 물론 영상삭제에 관한 상담도 가능하다.

텔레그램 ‘10대’ 접속자 증가

지난 5일 앱 분석서비스 모바일인덱스에 따르면, 8월 텔레그램의 월간 이용자 수(MAU)는 347만1421명으로 전월보다 31만1130명이 증가했다. 2021년 3월 앱마켓 집계 이후 최대 규모다. 연령대에서는 10대 이하 이용자가 7월 41만1754명에서 8월 51만1734명으로 9만9980명이 급증해 전체 증가 폭의 32.1%를 차지했다.

미성년자가 대부분인 10대가 한 달 사이 10만명가량 늘어난 수치다. 10대 이용자 증가 폭은 50대(2만8421명)의 3.5배, 60대 이상(4291명)의 23배로 압도적이다. 결국 딥페이크 사건의 가해자와 피해자는 모두가 10대인 것으로 드러났다.

경찰청에 따르면 딥페이크 논란 이후 당국의 집중단속이 이뤄진 지난달 26∼30일 딥페이크 범죄신고는 총 118건으로 접수됐다. 이 중 특정된 피의자 33명 중 31명, 검거된 7명 중 6명이 10대다. 또 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월 1일부터 8월 25일까지 디지털성범죄피해자지원센터에 딥페이크 피해지원을 요청한 781명 가운데 36.9%(288명)도 10대 이하다.

이 같은 현상은 10대들에게 일종의 노이즈 마케팅 효과처럼 보여서 우려스럽다. 따라서 청소년을 대상으로 하는 딥페이크 교육은 물론 관련 법규의 제도 개선이 절실해 보인다. 피해자와 디지털 성범죄 예방 전문가들은 현행 법과 제도가 딥페이크의 기술발전 속도를 못 따라간다고 지적한다.

지난 2일, 22대 국회가 예상보다 석 달 늦은 가운데 개원을 했다. 우원식 국회의장은 개원연설을 통해 산적한 현안을 언급하며 “양당 대표가 신속한 추진에 합의한 딥페이크 성범죄에 대해 강력 대응하자고” 제안했다. 거대 야당의 대표도 앞서 지난달 27일 “피해자 보호방안과 딥페이크에 대한 강력한 처벌규정을 강구하라”고 주문했다.

현재 민주당은 이 대표의 지시에 따라 딥페이크 범죄에 대한 처벌강화를 추진하기로 한 상태다. 김용민 원내정책수석부대표는 “10대 청소년들이 공포에 떨면서 SNS에 올린 자기 사진을 스스로 삭제하고 있다”며 “여성가족부 장관이 지난 2월 이후 공백으로 아무 역할도 못하고 있다”고 정부를 질타했다.

이와 더불어 현재 국회전자청원에는 ‘텔레그램 딥페이크 가해자들의 강력 처벌에 관한 청원’이 올라와 있다. 청원자는 “딥페이크로 인한 피해 학교가 점점 늘어나고, 심지어 남성 피해자도 적지 않다”고 지적했다. 지금보다 강력한 처벌은 물론 가해자의 신상을 공개하라는 국민들의 목소리가 담겼다.

디지털 성범죄자 ‘낮은’ 처벌

현재 국회에 발의된 AI에 관한 법안은 생성형 AI를 이용한 제품과 운용에 대해, 표시의무를 부과하고 있다. 또 정보통신망법 개정안에선 동의 없이 신체를 촬영하고 이를 편집·합성·가공한 정보의 유통 금지, 가해자에 대한 형사처벌(7년 이하의 징역, 10년 이하의 자격정지 또는 7000만원 이하의 벌금) 등에 관한 내용을 담고 있다.

현행법을 보면, 딥페이크 음란물 제작 규제는 성폭력 범죄의처벌 등에 관한 특례법에 해당한다. 다만 이 법에선 ‘반포할 목적으로 대상자의 의사와 관계없이 사진을 촬영하고, 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공하면 처벌받는다’고만 언급할 뿐이다. 개인 소지 목적의 딥페이크 음란물 제작행위에 대해선 처벌 대상이 아니다.

충북경찰청에 따르면 충북의 최근 3년간 허위영상물 딥페이크 성범죄 관련 발생건수는 2012년 1건, 2022년 7건, 2023년 11건으로 증가했다. 관련 범죄자는 2021년 0명이었으나 2022년 4명, 2023년 8명, 2024년 23명으로 늘어났다.

날로 심각해지는 상황에서 충북경찰청은 사이버 전담팀을 꾸려 내년 3월까지 딥페이크 성범죄 특별 집중단속 한다. 이번에는 문제의 심각성을 인지하고 도경찰청이 직접 나섰다. 또 텔레그램이나 SNS 등 인터넷 상에서 유포되는 허위 영상물에 대해서는 모니터링을 강화해 추가 확산을 방지한다고 한다. 나아가 디지털성범죄피해자지원센터, 방송통신심의위원회와 연락해 불법영상에 대해서 즉시 삭제·차단할 계획이다.

지난 9일 교육부는 학교 허위합성물(딥페이크) 피해 현황을 발표했다. 올해 1월부터 9월 6일까지의 피해신고는 434건, 이 중 수사의뢰 건수는 350건, 삭제지원 연계는 184건, 피해자는 617명(학생 588명, 교사 27명, 직원 등 2명)이었다.

이번 조사는 지난달 1차 조사결과에 이은 두 번째로, 지난 6일까지의 피해 현황이다. 2차 조사결과는 최근 언론보도로 드러난 딥페이크 허위영상물 사태 이후의 피해신고를 반영한 수치다. 따라서 이번 조사는 피해신고 건수의 증가폭이 크게 나타났다.

이는 학교현장에서 신속하게 피해신고와 함께 피해자 지원에 대한 안내가 이뤄진 결과로 보인다. 10대를 위한 예방교육과 피해자들의 적극적인 신고가 긍정적 변화를 일으키고 있다.