서울시가 아동과 청소년을 대상으로 한 딥페이크 성범죄를 근절하기 위해 다양한 대응책을 마련했다. 양육자를 위한 무료 교육을 실시하고, 오는 5월에는 '디지털 성범죄 인공지능(AI) 자동 신고 시스템'을 도입할 예정이다.
서울시여성가족재단은 11일, 아동·청소년 자녀를 둔 시민을 대상으로 ‘딥페이크 성범죄 예방 교육’을 진행한다고 발표했다. 이 교육은 보호자가 디지털 성범죄에 대한 정확한 이해를 바탕으로 자녀를 효과적으로 보호할 수 있도록 지원하기 위한 것이다.
교육 내용은 딥페이크의 개념, 디지털 성범죄 현황, 가정에서 실천 가능한 예방 방법 등을 포함하며, 초등학생 자녀와 함께 참여할 수 있는 프로그램도 마련되어 있다. 교육은 서울 시내 17개 여성인력개발기관에서 무료로 제공되며, 교육 신청은 서울우먼업 홈페이지나 해당 기관을 통해 가능하다.
서울시는 지난해 6월 세계 최초로 AI를 활용해 디지털 성범죄물을 삭제하는 ‘디지털 성범죄 통합대응정책’을 수립해 유엔 공공행정상을 수상한 바 있다. 이를 바탕으로 AI 기술을 활용해 피해 영상물을 모니터링하고 상담원이 이를 삭제·신고하는 시스템을 운영하고 있다. 다음달부터는 이 기술을 업그레이드하여 AI가 영상 검색 후 자동으로 삭제 신고를 할 수 있는 ‘AI 자동 신고 시스템’을 도입할 계획이다.
또한, 아동·청소년을 성적으로 착취하기 위한 대화를 유도하는 ‘그루밍’ 성범죄를 감시하기 위한 애플리케이션도 연말까지 개발해 무료로 배포할 예정이다. 서울시 관계자는 “기술의 발전으로 불법 합성 영상의 식별이 어려워지고 있으며, 범죄 영상이 빠르게 확산되고 있다”며 “디지털 성범죄에 선제적으로 대응하기 위해 통신사와의 협업도 강화하고 있다”고 밝혔다.
여성가족부가 최근 발표한 ‘2024 디지털 성범죄 피해자 지원 보고서’에 따르면, 지난해 딥페이크 피해 건수는 1384건으로 2023년(423건) 대비 227.2% 증가했다. 특히, 딥페이크 피해자의 92.6%가 10대와 20대였으며, 미성년자 피해자의 경우 부모에게 사실이 통보되면 신고를 꺼리는 경향이 있어 숨은 피해자가 더 많을 것으로 예상된다.
