여가부 "아동·청소년 성착취물 자동 탐지 시스템 연내 구축"▲ 조용수 여성가족부 권익증진국장이 10일 정부서울청사에서 '2024 디지털 성범죄 피해자 지원 보고서' 발간에 대한 설명을 하고 있다. 연합뉴스지난해부터 사회적인 문제로 떠오른 딥페이크와 같은 합성·편집물 피해자의 절반이 미성년자인 것으로 드러났다.지난 10일 여성가족부와 한국여성인권진흥원이 발표한 '디지털성범죄 피해자 지원 보고서'에 따르면 지난해 중앙디지털성범죄피해자지원센터(중앙디성센터)에 접수된 '합성·편집' 피해 건수는 1384건으로, 전년(423)보다 227.2% 급증했다.피해 연령별로는 20대가 46.4%로 가장 많았고, 10대(46.2%), 30대(5.3%), 40대(1.2%), 50대(0.7%), 10대 미만(0.1%) 등이 뒤를 이었다. 10대 이하가 전체 피해자의 절반에 육박한 것이다.박성혜 중앙디성센터 삭제지원팀장은 브리핑에서 "최근 인공지능(AI) 기술을 활용해 친구나 교사의 사진을 합성하는 일종의 '놀이 문화'처럼 여기는 일들이 발생하고 있다"며 "10대들이 딥페이크 제작을 하는 업체에 의뢰해 딥페이크 이미지를 만들어 유포하는 사례들도 증가하고 있다"고 설명했다.우려되는 부분은 합성되는 이미지의 수준이 갈수록 정교해지고 있다는 것이다.박 팀장은 "중앙디성센터가 개소했던 2018년만 해도 '합성ㆍ편집' 피해는 일상사진에 성적인 자막을 입히는 단순하고 조악한 형태였다"며 "온라인에서 친구를 만나고, 연애도 하는 '디지털 네이티브 세대' 특성상 (관련 문제는) 지속될 것으로 보인다"고 말했다.최근에는 일본 애니메이션 제작사 지브리 등의 화풍으로 사진 바꾸기 유행을 불러온 챗GPT로 인한 피해 접수도 발생했다.그는 "아직 통계로 나올 정도의 수치는 아니지만, 중요하게 보고 있는 사례다"며 "(생성형 AI) 기업들이 미국에 많다 보니 기술 연수 프로그램을 기획해 내달 중 미국을 방문할 예정"이라고 전했다.앞서 중앙디성센터는 지난해 8월 딥페이크 성범죄에 대응하고자 '전담 대응팀'을 구성하고, 긴급 모니터링 및 삭제 지원과 텔레그램 채팅방을 모니터링하는 등 각종 대책을 제시했다.하지만 불법 합성물 증가세를 꺾기에는 대응 역량이 여전히 부족해 보인다.중앙디성센터가 수집한 불법 촬영물이 유통·게시되는 사이트 2만6318곳 가운데 95.4%는 국외에 서버를 둔 사이트인 탓에 국내 기업에 비해 삭제 지원 협조가 덜 적여가부 "아동·청소년 성착취물 자동 탐지 시스템 연내 구축"▲ 조용수 여성가족부 권익증진국장이 10일 정부서울청사에서 '2024 디지털 성범죄 피해자 지원 보고서' 발간에 대한 설명을 하고 있다. 연합뉴스지난해부터 사회적인 문제로 떠오른 딥페이크와 같은 합성·편집물 피해자의 절반이 미성년자인 것으로 드러났다.지난 10일 여성가족부와 한국여성인권진흥원이 발표한 '디지털성범죄 피해자 지원 보고서'에 따르면 지난해 중앙디지털성범죄피해자지원센터(중앙디성센터)에 접수된 '합성·편집' 피해 건수는 1384건으로, 전년(423)보다 227.2% 급증했다.피해 연령별로는 20대가 46.4%로 가장 많았고, 10대(46.2%), 30대(5.3%), 40대(1.2%), 50대(0.7%), 10대 미만(0.1%) 등이 뒤를 이었다. 10대 이하가 전체 피해자의 절반에 육박한 것이다.박성혜 중앙디성센터 삭제지원팀장은 브리핑에서 "최근 인공지능(AI) 기술을 활용해 친구나 교사의 사진을 합성하는 일종의 '놀이 문화'처럼 여기는 일들이 발생하고 있다"며 "10대들이 딥페이크 제작을 하는 업체에 의뢰해 딥페이크 이미지를 만들어 유포하는 사례들도 증가하고 있다"고 설명했다.우려되는 부분은 합성되는 이미지의 수준이 갈수록 정교해지고 있다는 것이다.박 팀장은 "중앙디성센터가 개소했던 2018년만 해도 '합성ㆍ편집' 피해는 일상사진에 성적인 자막을 입히는 단순하고 조악한 형태였다"며 "온라인에서 친구를 만나고, 연애도 하는 '디지털 네이티브 세대' 특성상 (관련 문제는) 지속될 것으로 보인다"고 말했다.최근에는 일본 애니메이션 제작사 지브리 등의 화풍으로 사진 바꾸기 유행을 불러온 챗GPT로 인한 피해 접수도 발생했다.그는 "아직 통계로 나올 정도의 수치는 아니지만, 중요하게 보고 있는 사례다"며 "(생성형 AI) 기업들이 미국에 많다 보니 기술 연수 프로그램을 기획해 내달 중 미국을 방문할 예정"이라고 전했다.앞서 중앙디성센터는 지난해 8월 딥페이크 성범죄에 대응하고자 '전담 대응팀'을 구성하고, 긴급 모니터링 및 삭제 지원과 텔레그램 채팅방을 모니터링하는 등 각종 대책을 제시했다.하지만 불법 합성물 증가세를 꺾기에는 대응 역량이 여전히 부족해 보인다.중앙디성센터가 수집한 불법 촬영물이 유통·게시되는 사이트 2만6318곳 가운데 95.4%는 국외에 서버를 둔 사이트인 탓에 국내 기업에 비해 삭제 지원 협조가 덜 적극적일 수밖에 없고, 삭제를 마치는 데까지 기간도 더 오래 걸리기 때문이다. 특히 앞선 'N번방 사건'과 지난해 딥페이크 성범죄 영