탑가기

학교까지 파고든 '딥페이크'… 대한민국, 얼굴을 들 수 없다

조수현·고건
조수현·고건 기자 joeloach@kyeongin.com
입력 2024-08-28 20:43 수정 2024-08-30 18:24



학생들 불법 영상물 유포 피해 속
일상적 촬영 사진·동영상 위험성
교사들, 개인신상 노출될라 '벌벌'
경기 교원단체들, 대책 마련 촉구


딥페이크 관련 이미지. /클립아트코리아 제공
딥페이크 관련 이미지. /클립아트코리아 제공

AI 기술발전과 함께 '딥페이크' 기술력이 각종 범죄와 연계돼 논란(8월28일자 1면 보도=[이슈추적] "음란물 합성 범죄 그만"… 사건 터지자 뒷북 대응)인 가운데, 딥페이크 공포가 사회 전반으로 확산되는 모양새다.

특히 여성 얼굴에 음란물을 합성한 '딥페이크' 불법 영상물 유포 피해를 겪었다는 신고가 학생뿐 아니라 교사들 사이에서도 나오면서, 현장 교사들의 불안감이 증폭되고 있다.

수원의 한 고등학교 교사 구모씨는 학생들의 딥페이크 피해 상황을 예의주시하면서도 스스로가 피해 당사자가 되진 않을지 걱정을 놓지 못하고 있다. 최근 몇 년 새 휴대폰과 태블릿PC 등 촬영이 가능한 전자기기가 수업시간에 잦은 빈도로 활용되면서 자신도 모르게 사진 등 개인 신상이 노출될 위험이 커졌다고 한다.

어린아이들을 마주하는 유치원 교사라고 딥페이크 피해에서 자유로운 건 아니다. 학부모 참여 행사가 많은 데다, 참여 학부모들이 행사에서 사진과 동영상 촬영을 일상적으로 하는 게 곧 신상노출로 이어질 수 있다는 점을 걱정하고 있다.

 

딥페이크 피해 현안 관련 브리핑하는 오석환 차관
오석환 교육부 차관이 28일 오후 정부세종청사에서 최근 텔레그램 등 메신저를 이용한 허위 합성물(딥페이크) 피해 우려가 확산함에 따라 학생·교원들의 불안감 해소와 보호를 위해 피해 현황 조사 및 긴급 전담 조직 운영 등 신속한 지원에 나선다고 밝히고 있다. 2024.8.28 /연합뉴스


28일 교육부에 따르면 전국 17개 시도교육청이 교육부에 제출한 올해 1월부터 지난 27일까지 학생·교원 딥페이크 피해 신고 건수는 총 196건에 달하며 이 가운데 교원 피해 신고도 10건 확인됐다. 교사와 학생 사이 특수관계 등을 고려해 피해 사실을 알리기를 꺼리는 경우가 있고, 피해 사실 자체를 인지하지 못한 사례 등까지 포함하면 실제 피해 건수는 이보다 많은 것으로 추정된다.



최근 전교조 자체 점검 결과 비수도권 한 중학교에서 교사가 딥페이크 피해를 입은 데 이어, 불특정다수로부터 음란메시지를 받는 등 2차피해까지 겪기도 해 대책 마련이 시급하다는 지적이다.

경기교총 등 도내 교원단체들은 학생과 더불어 교사들에 대한 딥페이크 피해 예방과 대응책 마련을 위해 교육당국이 적극적으로 나서야 한다고 한목소리를 내고 있다.

 

경기도의회 더불어민주당도 이날 논평을 통해 사회적 파장을 불러일으키고 있는 각종 AI 이미지 딥페이크 범죄에 대해 대책 마련을 약속하며 도교육청에 강력한 대응을 요구했다.

 

사회관계망서비스(SNS)를 통해 유포하는 ‘딥페이크 성범죄’에 대한 불안감이 중·고등학교와 대학가를 중심으로 확산하는 가운데 인천에서도 관련 피해를 입은 청소년 학생이 있는 것으로 처음 확인됐다. 사진은 디지털성범죄피해자지원센터. 2024.8.28 /연합뉴스
사회관계망서비스(SNS)를 통해 유포하는 ‘딥페이크 성범죄’에 대한 불안감이 중·고등학교와 대학가를 중심으로 확산하는 가운데 인천에서도 관련 피해를 입은 청소년 학생이 있는 것으로 처음 확인됐다. 사진은 디지털성범죄피해자지원센터. 2024.8.28 /연합뉴스

한편 이날 여성가족부 산하 한국여성인권진흥원에 설치된 디지털성범죄피해자지원센터에 따르면 센터가 설립된 지난 2018년 4월 이후 올해 8월 25일까지 '딥페이크' 피해 지원에 나선 건수는 모두 2천154건에 달한다. 2018년 69건에 불과했던 피해 지원은 올해(8월 기준) 781건으로 11배 넘게 급증했다.

센터는 딥페이크에 대한 신고가 들어왔을 경우 먼저 피해자와 상담을 진행하고, 유포 사실을 확인한 뒤 삭제 지원에 나선다.

만약 피해자가 아동·청소년이라면 선제적인 삭제 조치에 들어가는데, 올해 피해 지원을 요청한 781명 가운데 36.9%(288명)는 10대 이하 청소년이나 어린이였다.

정부와 정치권 모두 대책을 쏟아내고 있지만, 문제는 대응에 어려움이 따른다는 점이다. 해외에 서버망을 둔 텔레그램 등은 문제 해결에 사각지대다.

제작자에 대한 처벌도 현재로서는 어렵다. 성폭력처벌법에서는 성적 수치심을 유발할 수 있는 형태로 촬영물 등을 합성할 경우 처벌한다고 규정했지만, 이는 유포를 목적으로 제작했을 경우에 한정된다.

이에 방송통신심의위원회는 텔레그램 기반 딥페이크 음란물 제작 및 유포 사건이 확산하자 텔레그램은 물론 페이스북·엑스(X)·인스타그램·유튜브 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성하기로 했다.

/조수현·고건기자 joeloach@kyeongin.com




# 키워드

경인 WIDE

디지털스페셜

디지털 스페셜

동영상·데이터 시각화 중심의 색다른 뉴스

더 많은 경기·인천 소식이 궁금하다면?

SNS에서도 경인일보를 만나보세요