전체기사 최신뉴스 GAM 라씨로
산업 ICT

속보

더보기

"'n번방' 성착취물 유포, AI로 거를 수 있지만 법적 문제가"

기사입력 : 2020년04월01일 07:16

최종수정 : 2020년04월01일 13:58

카카오·라인 "메신저 텍스트·이미지·영상 모두 대화로 '간주'...검열 불가"
IT 업계 "시스템으로 서버 검열가능하면 성착취물 등 음란물 차단 가능"

[서울=뉴스핌] 김지완 기자 = # "매달 프로노 사이트 방문하는 사람 숫자는 넷플릭스·아마존·트위터 방문자를 합친 것보다 많다. 그들은 점점 돈을 받은 아마추어들이 출연하는 '프로-암' 포르노를 많이 보는 추세다. 과거 포르노 배우가 옆집 여자, 동생들을 연기했다면, 진짜에 의해 대체되고 있다."

넷플릭스 다큐멘터리 '핫 걸 원티드(Hot Girl Wanted)' 도입부 멘트다. 이 다큐는 아마추어 포르노 업계에서 착쥐당하는 여성을 조명해 2015년 선댄스 영화제에서 호평 받았다. 불행히도 n번방, 박사방 참여자들은 '성착취물 제작자-유료회원-성착취물 피해 여성'으로 정확하게 나뉘며, '핫 걸 원티드'를 대한민국에서 그대로 재현했다. 

이 비극은 '메신저'라는 사적 대화통로를 통해 별다른 제재없이 수십만명에게 전파되면서 시작됐다. 비단 텔레그램만의 문제가 아니다. 카카오톡이나 라인 등 메신저가 성착취물 유포의 주요 통로로 자리잡았기 때문이다.

[서울=뉴스핌] 김창엽 인턴기자 = 2020.03.24 artistyeop@newspim.com

◆ 카카오·라인 "성착취물 서버에 올라와도 들여다 볼 권한 없어"

문제는 제2의 n번방, 박사방이 계속 나올 수 있다. 메신저가 음란물 유통 무풍지대로 손색없기 때문이다. 카카오, 라인 서버에 성착취물 영상이 올라와도, 이를 들여다 볼 권한이 없다. 

카카오톡 관계자는 "대화방 내용은 무엇이든 저희가 관여할 수 없다"면서 "모두 불법감청"이라고 목소리를 높였다. 그는 "오픈채팅도 대화방 내용을 들여다보지는 않는다"며 "채팅방 이름. 닉네임, 링크 접근 사이트 출처 펄터링이 할 수 있는 것의 전부다. 대화내용을 들여다보면 불법으로 저희가 오히려 처벌받는다"고 설명했다. 

라인 관계자 역시 "타임라인, 오픈챗 등 공개된 대화 공간에 업로드되는 콘텐츠에 대해 필터링 기술을 적용하고 있다"면서도 "개인정보 보호 원칙에 따라 1대1 채팅 메시지 모니터링 및 필터링 적용은 불가능하다"고 밝혔다.

카카오·라인은 메신저에서 오가는 텍스트·이미지·영상은 모두 대화로 간주돼, 개인정보보호법에 의해 검열 자체가 불가능하다는 입장을 냈다. 개인정보보호법은 개인 정보를 보호하여 개인의 권익 보호를 강화하고자 개인 정보 처리에 관하여 필요한 사항을 정한 법으로 지난 1995년 제정됐다. 

◆ AI·빅데이터 기술 이용하면 영상 중 음란물 선별 가능

하지만 IT업계에선 인공지능(AI), 빅데이터 등을 이용한 4차산업 기술을 이용하면 n번방, 박사방의 사태 재발을 막을 수 있다고 주장했다.

김서연 삼성SDS 수석보는 "빅데이터 기술이 발달함으로써 방대한 영상 데이터까지 분석할 수 있는 기술을 보유하고 있다"고 설명했다.

자크 아이스톡(Jarque Istock) 피보탈(Pivotal) 데이터 부문장은 "텍스트, 자연어, 이미지, 영상, 그래프, 물론 공간(지리)정보, 정량·비정량데이터, 구조화·반구조화 등 데이터 구조와 상관없이 모두 분석하고자 하는 모든 데이터를 분석할 수 있다"고 강조했다.

[서울=뉴스핌] 이형석 기자 = 메신저 텔레그램에서 이른바 'n번방'을 운영하며 미성년자 성 착취 동영상을 제작·유포한 핵심 운영자 조주빈 씨가 25일 오전 서울 종로경찰서에서 서울중앙지검으로 송치되고 있다. 이날 모습을 드러낸 조 씨는 "멈출 수 없었던 악마의 삶을 멈추어 주셔서 감사하다"고 말한 뒤 경찰차량으로 향했다. 경찰은 지난 24일 서울지방경찰청에서 신상공개위원회를 열고 조 씨의 신상을 공개하기로 결정한 바 있다. 2020.03.25 leehs@newspim.com

국계 빅데이터 전문기업의 한 임원은 "동영상도 기계적으로 바꿔놓으면 결국 숫자"라면서 "음란물의 특정 패턴을 찾아서 모형화 시키면 음란물 필터링 소프트웨어를 만들 수 있다"고 말했다.

그는 이어 "최근 AI, 빅데이터 기술을 이용하면 이전보다 정확도를 높여 완벽에 가깝게 차단할 수 있다"며 "법적으로 메신저 서버내 동영상 검열만 가능하다면 제2의 'n번방' 사태를 막을 수 있다"고 목소리를 높였다. 

◆ 포털 등 검열 가능한 곳에선 이미 AI·빅데이터 기술로 음란물 가려내

메신저와 달리 검열이 가능한 웹공간에선 이 기술이 폭넓게 적용되고 있다.

한국전자통신연구원(ETRI)는 수년전 피부색, 인체의 형태, 동작의 특성, 신음소리 등 콘텐츠 내용 자체를 분석해 일반 동영상과 음란물을 구분하는 소프트웨어를 개발해 상용화했다. 피부색의 비율을 따지는 방식에서 음란 행위시 반복되는 동작 유형에 신음소리 정보 등을 통해 정확도를 높인 것이 특징이다. 

네이버는 지난 2017년부터 음란물 필터링 인공지능(AI) 기술 '네이버 엑스아이(X-eye)'를 동영상에 적용중이다. 네이버 엑스아이는 영상 일정 구간마다 프레임을 추출해 음란물지수가 특정 수준 이상은 '임시 재생 중지' 상태로 만든다. 이후 10분 이내 검수자 검토를 거쳐 정상 영상은 복구하고 음란 영상은 삭제 조치를 하고 있다. 네이버 내부 실험 결과 음란물 검출 적중률이 98%에 달하는 것으로 알려졌다.

카카오도 '딥러닝 기반 '성인물 추천시스템'을 개발하고, 지속적으로 고도화하고 있다. 카카오 관계자는 "동영상의 경우 변형이 적고, 비슷한 시기에 인기 있는 동영상이 몰려 업로드 되는 경우가 많다"면서 "기존 검수한 동영상과 중복을 찾아 자동으로 검수하는 작업이 가능하다"고 설명했다.

그는 "중복을 검출하기 위해 영상을 이루는 프레임에서 특징(feature)를 뽑고 양자화(quantization)시켜서 특정 길이의 숫자로 된 이미지DNA를 만들면 결국 영상은 숫자열의 집합이 된다"면서 "이 숫자들을 비교하면 동영상끼리 중복인지 아닌지 판단이 가능하다"고 부연했다.

swiss2pac@newspim.com

[뉴스핌 베스트 기사]

사진
[단독] 가상거래소 코인 90% 거래 금지? 금융위 '증권형코인' 규제 추진 [서울=뉴스핌] 홍보영 기자 = 금융위원회가 코인을 증권형과 비증권형으로 나눠, 이중 증권형 코인(STO)을 자본시장법으로 규제하는 방안을 추진한다. 이럴 경우 증권형 코인을 기존 가상자산거래소에서 취급할 수 없게 돼 가상자산거래소들이 존폐 위기에 처할 수 있다는 우려가 나온다. 27일 금융당국과 정치권에 따르면 금융위 자본시장과는 코인의 증권성 여부를 검증할 수 있는 가이드라인을 마련중이다. 윤석열 대통령의 국정과제이기도 한 만큼, 금융당국에서 증권형 코인에 대한 규율방안 마련에 속도를 내고 있는 것으로 보인다. 윤 정부는 국정과제로 가상자산을 '증권형'과 '비증권형'으로 나눠 규제 체계를 마련하겠다고 밝힌 바 있다. 2022-06-28 06:00
사진
삼성전자 3나노 공정 '카운트다운'...곧 수율·고객사 발표할 듯 [서울=뉴스핌] 이지민 기자 = 삼성전자가 빠르면 이번 주 내로 차세대 게이트올어라운드(GAA) 기반 3나노미터(㎚=10억분의 1m, 이하 3나노) 공정 양산을 공식 발표할 것으로 보인다. 업계에선 삼성전자가 80~90% 이상의 높은 수율과 고객사를 확보해야 3나노 전쟁의 승자가 될 수 있을 것으로 보고 있다. 2022-06-28 09:21
Top으로 이동