전체기사 최신뉴스 GAM
KYD 디데이
사회 서울시

속보

더보기

서울시, 전국 최초 AI 활용 아동·청소년 성착취물 찾아 선제적 삭제

기사입력 : 2024년05월22일 11:15

최종수정 : 2024년05월22일 11:15

AI 안면인식으로 성별·나이 예측…교복·인형 등 사물·언어도 판별
육안 판독 2시간 걸리던 검출속도 1분30초로 단축…정확도 300%↑

AI안면인식 시스템 검색 결과 화면. [서울시 제]

 

[서울=뉴스핌] 이진용 기자=서울시는 아동·청소년 성착취물을 특정할 수 있는 AI 안면인식 감시 기술을 전국 최초로 개발·도입해 24시간 자동 추적 선제적으로 삭제한다고 22일 밝혔.

서울연구원은 지난해 전국 최초로 AI 기술 도입을 통한 디지털 성범죄 자동 추적·감시 알고리즘을 개발했으며, 서울시에서 수행하는 24시간 불법 영상물 감시 및 신속 삭제를 위한 전반적인 기술지원을 수행하고 있다.

서울시는 아동·청소년들은 디지털 성범죄 피해를 입더라도 부모님에게 말하지 못해 신고가 이뤄지지 않아 피해 영상물이나 사진이 유포?재유포 되는 경우가 많아 이번 기술 개발에 나섰다고 취지를 밝혔다. 

아동·청소년의 경우 관련 법에 따라 당사자나 부모의 신고 없이도 피해 영상물 삭제가 가능한 만큼, AI를 통해 아동·청소년 성착취물을 빠르게 찾아내고 삭제해 피해에 신속 대응한다는 계획이다.

이번에 개발한 '아동·청소년 디지털 성범죄 AI 감시 시스템'은 AI 딥러닝 기반 안면인식 기술로 성인과 잘 구분되지 않는 아동·청소년의 성별과 나이를 판별할 수 있는 시스템이다.

특히 주목할 만한 점은 영상물에 '얼굴'이 나오지 않더라도 아동·청소년 피해 영상물 여부를 찾아낼 수 있다는 점이다. AI가 피해 영상물에 자주 등장하는 책, 교복, 인형 등 주변 사물은 물론, 이미지 속 텍스트, 청소년들이 주로 사용하는 언어까지 함께 인식해서 최종적으로 피해 영상물 여부를 판별하게 된다.

성인이 청소년에게 성착취 하는 채팅창. [서울시 제공]

또 키워드 입력부터 영상물 검출까지 90초밖에 걸리지 않기 때문에 기존에 삭제 지원관이 관련 키워드로 피해 영상물을 검색해서 수작업으로 찾아낼 때(2시간)와 비교하면 검출 속도가 1/80로 크게 개선되고, 정확도도 300% 이상 향상된다. 이렇게 되면 지난해 수작업으로 이뤄진 모니터링 건수(15만 건)의 2배인 30만 건까지 모니터링이 가능해지고, AI 학습 데이터가 축적될수록 정확도와 속도는 더욱 향상될 것으로 기대된다.

아울러, 시는 기존에 미국을 중심으로 유포됐던 피해 영상물이 최근 중국, 러시아, 베트남 등으로 확산되는 점에 착안해 국가 기반을 넓혀 검색 영역을 확장했다. 이에 AI를 통해 국내와 미국뿐 아니라 중국, 러시아 등의 국가에 유포된 피해 영상물 검색도 가능해진다.

서울시는 '서울 디지털 성범죄 안심지원센터(이하 센터, 서울여성가족재단 운영)'를 통해 긴급상담부터 수사·법률지원, 삭제지원, 심리치료?의료 지원까지 원스톱 지원하고 있다. 지난 2년간('22.3~'24.3월) 935명의 피해자를 지원했다. 총지원 건수는 3만 576건에 이른다.

디지털 성범죄 피해를 입은 아동·청소년, 시민 등은 센터 상담전용 직통번호 '815-0382(영상빨리)'나 홈페이지(www.8150382.or.kr)로 문의하면 된다.

김선순 서울시 여성가족정책실장은 "우리 사회를 충격에 빠트린 n번방 사건 이후 4년이 흘렀지만 여전히 아동·청소년을 대상으로 한 디지털 성범죄는 사라지지 않고 있고 그 피해도 심각하다"며 "서울시는 작년 전국 최초로 AI 삭제지원 기술을 도입한 데 이어서, 아동·청소년 성착취 영상을 특정할 수 있는 기술을 통해 선제적인 감시·삭제에 나서 아동·청소년이 안전한 서울을 만들어나가겠다"고 말했다.

jycafe@newspim.com

[뉴스핌 베스트 기사]

사진
이석우 대표, 두나무 떠난다 [서울=뉴스핌] 송주원 기자 = 국내 최대 가상자산거래소 업비트 운영사 두나무를 8년간 이끌어온 이석우 대표가 오는 7월1일 사임한다. 후임 후보로는 오경석 팬코 대표가 거론되고 있다. 이 대표는 29일 입장문을 통해 "두나무의 더 큰 도약을 위해 새로운 도전과 변화가 필요하다는 판단과 함께 개인적인 건강상의 문제 등으로 물러나기로 했다"라고 밝혔다. [서울=뉴스핌] 이호형 기자 = 국내 최대 가상자산거래소 업비트 운영사 두나무를 8년간 이끌어온 이석우(사진) 대표가 오는 7월1일 사임한다. 2025.02.20 leemario@newspim.com 이 대표는 사임 후 회사에 고문으로 남을 계획이다. 그는 "사임 이후에도 회사에 고문으로 남아 두나무를 위해 일할 계획이다. 새로운 대표이사와 달라질 두나무를 계속해서 지지해 주기를 바란다"라고 당부했다. 후임 대표이사로는 오경석 팬코 대표가 유력하게 거론되고 있는 것으로 전해진다. 오경석 대표는 1976년생 충남 공주 출신으로 송치형 두나무 회장과 고향이 같다. 고려대학교 경영학과를 졸업하고 공인회계사 시험과 제47회 사법시험에 합격해 수원지방법원 판사, 대법원 재판연구관, 김앤장 변호사로 근무했다. 지난 2021년부터 무신사 이사회 내 감사로 활동했으며 현재는 의류 제조업체 팬코의 대표이사로 재직 중이다. 최영주 팬코 회장의 사위기도 하다. 이번에 사임한 이 대표는 서울대 동양사학과를 졸업하고 중앙일보 기자로 근무하다 한국IBM, NHN 경영담당 이사를 거쳐 지난 2011년 카카오에 합류해 대표를 맡았다. 이후 지난 2017년 두나무 대표이사로 선임돼 2020년과 2023년 두 차례 연임에 성공해 8년간 두나무 대표직을 맡았다. jane94@newspim.com 2025-05-29 14:19
사진
해군 초계기 추락…탑승 4명 사망 [포항=뉴스핌] 남효선 기자 = 29일 오후 1시 50분쯤 경북 포항 남구 동해면 신정리의 한 야산에 해군 해상 초계기 (P-3C)가 추락했다. 이륙한지 6분 만이다. 탑승자 4명 전원은 주검으로 발견됐다. 시신이 수습된 4명의 정확한 신원은 현재까지 확인되지 않았다.   경북소방당국과 해군 당국이 29일 오후 1시 50분쯤 경북 포항 남구 동해면 신정리의 한 야산에 추락한 해군 해상 초계기 (P-3C)의 화재 진화와 함께 사고 현장을 수습하고 있다.[사진=독자제공]2025.05.29 nulcheon@newspim.com 탑승 승무원은 장교(조종사·부조종사) 2명, 부사관(전술승무원) 2명 등 4명이다. 또 정확한 추락 원인도 현재까지 밝혀지지 않았다. 사고 초계기는 이날 오후 1시 43분쯤 훈련 차 포항기지에서 이륙한 것으로 전해졌다. 사고가 나자 경북소방 당국은 헬기 2대와 인력 40명, 장비 17대를 급파해 사고 비행기에 붙은 불을 진화하고 잔불을 정리했다. 또 경찰과 소방당국은 정확한 피해 상황과 민간인 피해 여부를 파악하고 있다. 사고 초계기는 훈련 중이어서 미사일 등 무기는 탑재하지 않은 것으로 알려졌다. 해군 관계자는 "사고 당시 해상초계기는 포항 기지에서 이착륙 훈련을 하고 있었다"며 "추락 원인은 아직 파악하지 못했다"고 전했다. 해군은 사고대책본부를 구성하고 사고 원인 등 조사에 들어갔다. 잠수함을 잡는 대잠 해상 초계 임무와 작전을 하는 P-3C는 한국 해군이 1995년부터 도입했다. 현재 16대를 운용하고 있다. nulcheon@newspim.com 2025-05-29 20:45
안다쇼핑
Top으로 이동