딥페이크 피해 명단

전교조 "딥페이크 피해학교 명단 점검…최소 40곳 실제 피해 파악"

 

 

전교조가 SNS에서 돌고 있는 '딥페이크 성범죄 피해학교 명단'에 포함된 전국 초·중·고교를 대상으로 점검한 결과 최소 40곳의 중·고교에서 실제 피해가 있는 것으로 파악됐다고 27일 밝혔다.

 

 

전국교직원노동조합(전교조)이 사회관계망서비스(SNS)에서 돌고 있는 '딥페이크 성범죄 피해학교 명단'에 포함된 전국 초·중·고교를 대상으로 점검한 결과 최소 40곳의 중·고교에서 실제 피해가 있는 것으로 파악됐다고 27일 밝혔다. 이날 전교조는 "어제 오전부터 딥페이크 피해 학교 명단에 있는 학교를 중심으로 긴급 점검을 한 결과 학교 선생님 또는 학생들의 피해가 실제로 있었다고 확인된 곳은 최소 40곳"이라며 "피해 사례 상당수에 대한 수사가 이미 시작됐지만 적게는 몇 달에서 거의 1년 넘게 수사 진척이 안 되고 있는 경우도 있었다"고 밝혔다.

 

전교조에 따르면 비수도권의 한 중학교에서 발생한 딥페이크 성범죄 사건의 경우 가해 학생이 교사의 불법 합성물을 만들어 실명과 전화번호까지 불특정 다수에게 유포한 것으로 파악됐지만 1년 반 가까이 '수사 진행 중'이라는 답변만 받는 상황이었다. 그러는 사이 해당 피해자는 불특정 다수로부터 음란 메시지를 받는 등 2차 피해를 겪었다고 한다. 또 교사의 딥페이크 성범죄 피해가 있었다는 서울의 한 중학교에서는 가해 학생이 특정됐지만, 학생과 교사를 분리 조치하기 위한 교권보호위원회가 소집조차 되지 않은 것으로 전교조 조사 결과 파악됐다.

 

전교조 관계자는 "자신 혹은 다른 학교 구성원의 불법 합성물 관련 성범죄가 확인된 경우, 또는 의혹이 있는 경우에 대한 사례를 모으고 있다"며 "지금까지 '피해가 있었다'고 응답한 건수만 300건 정도 된다"고 말했다. 그러면서 "대부분 조합원인 교사의 피해 사례가 접수됐다"며 "실제로는 학생 대상으로 피해가 더 많이 발생하기 때문에 전체 딥페이크 피해는 훨씬 더 많아질 것으로 보인다"고 했다.

 

 

 

일선 중·고교 ‘패닉’… 딥페이크 학교 명단에 공포 확산

 

딥페이크 사진을 공유한 텔레그램 단체대화방이라며 유출된 대화방. '지능'(지인능욕) 등의 단어가 쓰이고 있다.

 

 

 

불특정 여성의 얼굴과 나체 사진을 합성하는 일명 ‘딥페이크’ 사진 성범죄물이 텔레그램 단체대화방에서 공유됐다는 사실이 알려지면서 불안감이 커지고 있다. SNS에서 확산 중인 ‘피해학교 명단’에는 지역별 중·고등학교까지 포함되며 계속 불어나고 있다. 성인은 물론 10대 학생들까지 ‘온라인에 올라간 사진을 내리라’는 지침을 공유하는 등 ‘사진 포비아(공포증)’를 토로하고 있다.

26일 엑스(X·구 트위터), 각종 온라인 커뮤니티에는 ‘텔레그램 딥페이크 피해자 명단’이 다수 게재됐다. 명단에는 중·고교와 대학교명이 언급돼 있다. 다만 실제 피해자가 발생한 학교인지, 피해 규모가 어느 정도인지는 구체적으로 파악되지 않았다.

많은 이들은 SNS를 통해 자신의 사진 역시 범죄에 이용됐을까봐 불안감을 호소했다. 딥페이크 범죄에 자신의 SNS 사진이 도용됐는지 알아보는 방법까지 확산하고 있다. 한 엑스 이용자는 “딥페이크의 진짜 문제점은 ‘혹시 나조차도?’라는 생각을 끊임없이 하게 만든다는 것”이라고 꼬집었다. 또 다른 이용자는 “내 친구도 자기 딥페이크 사진을 찾아서 멘붕(멘탈붕괴·정신적 혼란)이 왔다. 제발 다 내려 달라”고 글을 올렸다.

수도권의 한 고등학생은 “아직 우리 학교 이름은 (명단에) 없는데 친구들이 자기 학교 이름도 떴다고 공유하고 난리다”면서 “단체대화방 채팅 캡처 사진을 보면 너무 충격이고 불안하다”고 말했다.

경기도 소재 한 학교 학생회는 인스타그램을 통해 “현재 텔레그램에서 ○○고 학생들의 신상 및 딥페이크 합성 사진이 발견됐다고 한다. 학생 여러분의 각별한 주의를 바란다”는 긴급공지를 올렸다. 그러면서 “스토리나 게시물, 블로그 등 본인 얼굴이 나온 사진은 되도록이면 삭제처리를 권장드린다”고 덧붙였다.

서울시 소재 한 고등학교도 학생자치회 공지를 통해 “현재 텔레그램을 통해 ○○○○○고 학생들의 신상 및 딥페이크 합성 사진이 유포되고 있다는 점을 안내해 드린다. 학생 여러분의 각별한 주의를 부탁드린다”고 알렸다.

딥페이크 성범죄물 문제는 최근 대학생들의 텔레그램 단체대화방에서 이러한 사진·영상물이 유포되고 있다는 사실이 알려지면서 수면 위로 떠올랐다. 실제 텔레그램에서 ‘지인’ 또는 ‘능욕’으로 채팅방을 검색하면 여러 개의 대화방이 검색됐다.

이 같은 채팅방에서는 지인의 신상정보나 평범한 사진들을 공유해 딥페이크 사진이나 영상물을 제작하는 것으로 알려졌다. 특정 학교나 지역을 중심으로도 채팅방이 운영되는 것으로 파악됐다.

 

또한 여군을 상대로 한 딥페이크 성범죄물도 유포된 사실이 알려져 사태의 심각성이 더욱 커지고 있다. 여군을 상대로 딥페이크 사진을 유포하고 성희롱 발언을 주고받은 대화방 참가자는 900명이 넘었다. 이들은 딥페이크로 합성한 여군 사진을 ‘군수품’이라고 칭하며 능욕했다.

이 대화방의 공지 사항이라며 공유되는 사진을 보면 대화방에 참가하기 위해서는 ‘군수품’으로 만들고 싶은 여군의 군복 사진뿐 아니라 전화번호와 소속, 계급, 나이 등 개인정보를 운영자에게 제출하거나 현역 군인임을 인증해야 했다. 아울러 관리자가 지정한 여군에게 ‘능욕 메시지’를 보내고 이에 대한 반응을 인증하는 사진을 보내야 가입이 허용됐다.

일부 가해자라고 지목된 남성들의 신상도 SNS상에서 퍼지고 있다. ‘딥페이크 가해자 인스타그램 아이디’라는 제목의 명단 사진도 유포됐다. 한 인스타그램 이용자는 자신의 계정에 “딥페이크 하나 가지고 난리부르스를 떤다” “딥페이크 하는 사람들도 예쁜 사람만 고른다” 등의 문구를 올려 엑스에서 지탄을 받았다.

방송통신심의위원회는 딥페이크 영상물들에 강력히 대응하겠다고 밝혔다. 다만 텔레그램이 해외에 서버를 두고 있는 만큼 유포자를 특정하는 데 다소 어려움이 있다. 방심위 측은 “디지털성범죄 정보는 무한 복제·유포 등 확산 속도가 빠르기 때문에 ‘초동대처’가 무엇보다 중요한 만큼 인터넷 이용자들이 위원회에 적극적으로 신고해줄 것”을 당부했다.

 

 

"딥페이크 피해 학교 최소 40곳"...전교조 29일 결과 발표

 

 

 

한 엑스(X) 사용자가 27일 올린 딥페이크 성범죄 피해 학교 관련 게시글. 글 가운데 '겹지'란 '겹치는 지인'의 준말이다. X 캡처.

 

 

최근 소셜미디어와 온라인 커뮤니티에서 빠르게 퍼진 '딥페이크(인공지능 기반 이미지 합성) 성범죄 피해학교 명단' 가운데 최소 40곳의 학교에서 실제로 피해가 발생한 것으로 파악됐다.

 

전국교직원노동조합(전교조) 관계자는 27일 통화에서 "이날 오전부터 조사를 시작해 (딥페이크 피해학교) 명단 등에 기재된 약 300곳 중 최소 40곳에서 실제로 딥페이크 성범죄 피해가 있었다는 응답을 받았다"고 밝혔다. 이는 대상 학교 방문 등 교차 점검을 해 확인한 결과다. 노조 관계자는 "지속적으로 확인 중이며, 최종 조사 결과에 따라 딥페이크 성범죄 피해를 입은 학교는 40곳 또는 그 이상이 될 가능성도 있다"고 설명했다.

전교조는 해당 조사 결과를 29일 기자회견을 통해 공개한다는 방침이다. 노조 관계자는 "확실하게 피해가 드러난 40곳의 학교 중에서 피해자의 동의를 거친 사례를 선별해 학교에 파고든 딥페이크 성범죄 실태를 발표할 계획"이라고 말했다. 아울러 노조는 교육부의 딥페이크 성범죄 피해 조사가 한층 면밀하게 이뤄져야 한다고 강조했다. 일선 현장에서 조사 방식 등이 지나치게 형식적이라는 우려가 제기됐기 때문이다. 전교조는 이날 구두 논평에서 "교육부는 전국 각 학교에 미성년자 대상 디지털 성범죄 피해 현황을 파악하고 예방조치를 하라는 공문을 이날 발송했다. 그러나 각 학교로 공문이 도달한 시점은 오늘(27일) 오전 10시쯤이었는데, 교육부는 낮 12시까지 현황을 제출할 것을 요구했다"고 밝혔다. 이어 "담당 교사들은 불과 2시간 남짓한 시간 안에, 원래대로라면 수업을 해야 하는 시간에 긴급히 현황 파악을 해야 했다"고 설명했다.

 

노조는 "이런 식의 형식적이고 급박한 조사만으로는 정확한 실태를 파악하는 것도 불가능하고, 제대로 된 대책을 수립할 근거로 활용하기에도 타당하지 않다"면서 "디지털 성범죄 관련 사안을 개별 학교 책임으로 떠넘기고, 교사 업무를 가중시키는 방향으로 대응하지 않기를 바란다"고 지적했다.

 

 

딥페이크 피해 공포감↑…학교 명단, 개인 신상까지 확산

 

 

26일 X(옛 트위터)를 시작으로 텔레그램 딥페이크 성범죄가 전국적으로 확산하고 있다.

 

 

 

불특정 다수 여성 얼굴에 음란물을 합성하는 '딥페이크' 성범죄물이 텔레그램 단체대화방에서 공유되고 있어 전국 중·고등학교는 물론 대학교 여성들의 불안감이 커지고 있다. 최근 사회관계망서비스(SNS)에는 최근 '텔레그램 딥페이크 피해학교 명단'이라는 게시물이 온라인 상에 공유되며 파장이 일고 있다. 실제 피해 사실 및 규모가 경찰 수사를 통해 파악되진 않았지만, '내 사진도 범죄에 악용됐을까'하는 공포감이 여학생들과 학부모들 사이에서 점점 커지고 있는 상황이다. 26일 엑스(전 트위터)를 비롯한 각종 온라인 커뮤니티에는 '텔레그램 딥페이크 피해 지역/학교 목록'이 다수 게재됐다. 게시글에는 'XX대(학교) 방' 'XX고(등학교) 방' 등 각 지역 및 학교 이름을 앞세워 개설된 텔레그램 대화방 목록을 제보받아 올리고 있다. 또한 텔레그램 대화방에서 딥페이크 불법 음란물을 공유한 정황이 담긴 대화 내역도 확산되고 있다.  이들의 대화에선 'XX고 08(년생)' 'XX중 OOO 사진'등 특정 학교의 여학생의 나이, 이름 얼굴이 공유되고 있어 충격을 주고 있다.

 

최근 생성형 인공지능(AI) 기술이 빠르게 발전하면서 SNS나 온라인 메신저에 게시된 개인의 사진을 이용해 딥페이크 음란물을 만드는 범죄가 커다란 사회적 문제로 떠오르고 있다. 엑스의 '텔레그램 사건 정리'라는 게시물은 "인스타그램 스토리, 피드, 하이라이트, 블로그, 카카오톡 프로필 사진, 졸업앨범 사진 등 제3자의 사진에 비친 여성들의 얼굴이 텔레그램 딥페이크 성범죄물에 악용되고 있다"며 "제작채널 참여가해자만 해도 22만 명이고 정보 판.구매자, 단순 이용자까지 종합하면 40만 명 이상일 것이라 감히 예상한다"고 전했다. 아울러 "인스타그램의 비공개계정, 친한 친구(설정된 사람만 볼 수 있는 내용) 스토리까지 해킹하여 사진을 퍼갈 수 있으니 유의하라"고 덧붙였다. 현재 엑스의 26일 기준 '실시간 트렌드(실시간 검색어)'에는 이미지, 얼굴 사진, 가해자 신상, 피해자 명단 등과 같이 딥페이크 성범죄물을 확인하고자 하는 움직임이 대대적으로 확산하고 있다. 일부 가해자라고 지목된 남성들의 신상도 SNS상에 올라왔다.

실제로 피해를 입었다는 여성들의 목소리도 줄을 잇고 있다. 실제로 서울의 A대학교에 재학 중인 20대 여학생은 26일 오전 자신의 SNS 계정을 통해 지인으로부터 딥페이크 성범죄 피해를 제보받았다며 신고를 접수했다고 밝혔다. '서울대 n번방', '인하대 딥페이크 방' 사건 등 여성 대학생을 대상으로 한 딥페이크 음란물 범죄가 최근 잇따라 발생해 왔다. 이제는 이런 범죄에 대한 공포가 중·고교까지 확산하는 모습이다. 경기도 안산 B고등학교에 재학 중인 여학생은 자신의 인스타그램에 '텔레그램 딥페이크' 사건을 공유하며 '계폭(계정 폭파)이 답인 건가' '왜 우리(여성들)가 조심해야 하냐'는 등의 반응을 보였다.

딥페이크 합성물을 유포, 공유하는 범죄가 지속되고 있음에도 수사가 제대로 진행되기는 어렵다는 지적도 나온다. 주요 불법 음란물 유통 경로인 텔레그램이 해외에 서버를 두고 있어 수사 기관의 추적에 난항이 있기 때문이다. 전문가들 사이에서는 딥페이크를 활용한 범행이 연이어 발생하는 만큼 현재 미성년 대상 성범죄에만 허용된 위장수사 범위를 성인으로 확대할 필요가 있다는 의견이 나온다. 이윤호 동국대 경찰행정학과 교수는 "아동에서 성인으로 적용 대상 범위를 넓혀야 한다"며 "일부에서 표현의 자유를 근거로 수사 권한 확대를 반대하는데 법을 어기지 않는 범위 내에서의 자유만이 논의의 대상"이라고 일축했다.

한편 경찰청은 지난 5월 '서울대 N번방 사건'이 알려진 후 디지털성범죄 위장수사 범위를 성인 대상 범죄로까지 확대하는 방안을 추진 중이라고 밝혔다. 경찰청 통계에 따르면 경찰은 지난 2021년 9월부터 올해 6월까지 위장수사를 통해 1326명을 검거하고 83명을 구속했다. 또 딥페이크 불법 음란물을 제작에 대한 처벌 수위가 너무 낮다는 지적도 있다. 딥페이크 영상물 제작 의도가 반포가 아닌 단순 소지일 경우 처벌은 대부분 집행유예에 그치는 경우가 많다. 서울여자대학교 정보보호학과 김명주 교수는 "지금까지 법원에서 처벌된 건 70건 남짓이다. 그중 반 이상은 집행유예로 풀려나고, 실제 징역을 산 사람은 5~6건 정도"라며 "'(현행 구조하에) 범죄를 저질러도 큰 처벌을 받지 않는다'라는 사회적 인식을 줄 수 있어 힘이 빠지는 규제"라고 말했다.

 

 

 

"내 얼굴 사진도?"…딥페이크 '피해학교 명단'에 女학생들 공포

 

 

26일 X(옛 트위터)를 시작으로 텔레그램 딥페이크 성범죄가 전국적으로 확산하고 있다.

 

 

 

불특정 여성의 얼굴과 나체 사진을 합성하는 일명 '딥페이크' 사진 성범죄물이 텔레그램 단체대화방에서 공유됐다는 사실이 알려지면서 전국 여학생들의 불안감이 커지고 있다. 해당 명단에는 중·고등학교는 물론 대학교까지 언급돼 있다. 26일 여러 온라인 커뮤니티와 엑스(X·옛 트위터) 등 소셜서비스(SNS)에서는 텔레그램 단체대화방에 딥페이크 피해자가 속했다는 의혹을 받는 중·고등학교, 대학교, 지역 명단이 게재됐다.  다만 실제 피해자가 발생한 학교인지, 피해 규모가 어느 정도인지는 구체적으로 확인되지 않았다.

많은 사람들은 SNS를 통해 자신의 사진이 범죄에 이용된게 아닌지 불안감을 호소했다. 엑스 이용자들은 "거의 모든 학교 아닌가", "가해자 정보를 공개해야 하는 것 아니냐", "이건 매우 비난받을 만한 사건인데, 그럼 여학생들이 어떻게 안전할 수 있나. 이런 일이 계속 벌어지면, 여학생들은 어디에서 공부하나" "내 친구도 자기 딥페이크 사진을 찾아서 멘붕(멘탈붕괴·정신적 혼란)이 왔다. 제발 다 내려 달라" 등 글을 올렸다. 딥페이크 범죄에 자신의 SNS 사진이 도용됐는지 알아보는 방법도 확산하고 있다. 한 엑스 이용자는 "딥페이크의 진짜 문제점은 '혹시 나조차도?'라는 생각을 끊임없이 하게 만든다는 것"이라고 지적했다.

이런 가운데 딥페이크로 합성한 여군들을 '군수품'이라고 칭한 대화방도 등장했다. 해당 대화방 공지 사항이라며 공유되는 캡처 이미지에 따르면, 이 대화방에 참가하려면 '군수품'으로 만들고 싶은 여군의 군복 사진뿐 아니라 전화번호와 소속, 계급과 나이 등 개인정보를 운영자에게 제출해야 한다. 그렇게 현역 군인임을 인증한다. 혹은 합성장인, 관리자가 지정한 여군에게 '능욕 메시지'를 보내고 반응을 인증 사진을 보내야 가입이 허용됐다. 이 같은 소식이 확산되자 경기도의 한 여고 학생회는 SNS를 통해 "최근 텔레그램 일부 단체 대화방에서 학생들의 신상이나 사진을 이용해 불법 합성물을 제작·가공 후 공유하고 성희롱하는 끔찍한 성범죄가 이뤄지고 있다. 현재 본교에도 피해가 있다고 알려졌다"며 "타인이 볼 수 있는 곳에 게시된 개인의 얼굴이 나온 사진은 내려주는 것이 좋겠다"고 긴급 공지를 올렸다.

 

한편 딥페이크 기술이 발전하면서 이를 이용한 범죄도 빠르게 확산하고 있다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 지난 21일 경찰청에서 제출받은 '딥페이크 범죄 현황'에 따르면, 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 늘었다. 방송통신심의위원회(방심위)는 텔레그램 단체 대화방을 중심으로 확산한 딥페이크 성적 허위영상물 관련 대응에 나섰다. 방심위는 중점 모니터링에 착수해 악성 유포자 정보가 확인되는 대로 수사를 의뢰할 방침이다.

 

 

'딥페이크 공포' 확산…교육부 "올해 학생·교사 피해 196건"

 

 

딥페이크

 

 

딥페이크 음란물 유표 피해 학교 명단이 확산되면서 파장이 잇따라 발생하고 있다. 학생들 사이에서는 '혹시 나도 피해자가 아닌가'라는 공포감이 형성됐고, 일부 선량한 시민은 '딥페이크 영상 제작자'로 몰려 비난을 받는 사태도 벌어졌다. 27일 경찰 등에 따르면 지난 20일부터 딥페이크 영상 피해 학교 명단이 SNS를 통해 확산되기 시작했다. 해당 명단에는 전국 초·중·고등학교, 대학교 등이 담겼다.

문제는 피해 여부와 상관없이 학교명만 전달하면, 피해 명단에 포함된다는 점이다. 실체가 없는 명단이 일파만파 확산되면서 학생들 사이에서는 공포감이 조성됐고, 학교 차원에서 대책회의가 연일 열리고 있다. 지역의 한 여자고등학교 교사는 "이 사건이 언론을 통해 전달되면서 대책 마련을 위한 교무회의를 진행했다"며 "현재까지 피해를 본 이 학교 학생은 없는 것으로 파악됐다"고 말했다. 이어 "혹시나 피해자가 발생할 경우 담당 선생님을 통해 익명성을 보장, 경찰에 수사를 의뢰할 계획"이라고 했다. 이 학교 학생은 "다른 학교에서 피해자가 나왔다는 소문이 있어 정말 불안하다"며 "애들이 SNS계정을 비공개로 전환하고, 얼굴이 나온 게시물이나 보관함도 다 삭제하고 있다"고 불안감을 호소했다.

학부모들도 불안하기는 마찬가지다. 중학생 자녀를 둔 학부모 A씨(청주시 흥덕구·46)는 "아이가 다니는 학교가 피해 학교 명단에 있었다"며 "아이가 불안해하면서 학교를 안가려고 해 달래서 보내긴 했지만, 불안하다"고 하소연했다. 이와 반대로 피해 학교 명단이 아무렇게나 작성돼 공포감을 확산하고, 엉뚱한 피해자를 만들고 있다는 주장도 나왔다. 익명을 요구한 한 학생은 "전교생이 한 자릿수인 지역의 조그만 학교인데, 피해 학교 명단을 취합하는 계정에 제보했더니 아무런 확인 없이 바로 추가됐다"며 "다 남자애들만 다니는 학굔데, 제대로 된 확인도 안하고 이상한 소문만 나는 것 같다"고 했다. 또 다른 학생은 "가상의 학교 이름으로 피해를 본 학생이 있다고 제보했는데, 별다른 확인 없이 해당 학교도 피해 명단에 추가됐다"고 했다. 이날까지 피해 학교 명단에 포함된 충북지역 학교 중 실제로 경찰에 피해사례가 접수된 건은 없는 것으로 파악됐다. 

엄한 사람이 딥페이크 영상 제작자로 지목돼 피해를 입는 일도 생겼다. 가해자로 지목된 피해자는 SNS를 통해 "X, 텔레그램 등이 뭔지도 모르는 아이 둘 키우는 평범한 주부인데, 갑자기 가해자로 지목됐다"며 "어떤 경로로 내 아이디가 유출된 건지 모르겠고, 유출된 SNS계정으로 많은 사람들이 방문해 비난하고 있어 고통스럽다"고 했다. 남성 딥페이크 피해를 주장하는 사람도 나왔다. 해당 글 작성자는 "남자 고등학교에 재학 중인 학생인데, 알던 여학생중 한 명이 텔레그램 방에서 제 얼굴을 서양 남성 동성애 사진과 합성해 공유했다고 한다"며 "현재 유명한 텔레그램 방과는 다른 방이었고, 성인 여성과 여학생들로만 구성된 방"이라고 했다. 그러면서 "현재 이 사건은 경찰에 수사 중으로, 진술서를 쓰러 경찰서에 갔다가 또 다른 남학생 피해자를 만나기도 했다"고 했다. 충북경찰청 관계자는 "사회적으로 파장이 큰 만큼 지속적으로 관련 문서와 피해 상황 등을 모니터링 중"이라며 "피해가 의심되거나, 피해를 봤을 경우 지체 말고 경찰에 신고해 달라"고 당부했다. 앞서 지난해 10월과 올해 3월 충북 충주와 증평에서 발생한 딥페이크 사건은 최근 이슈화 된 텔레그램 이용 딥페이크 범죄와 연관이 없는 것으로 확인됐다.