IT 업계 "시스템으로 서버 검열가능하면 성착취물 등 음란물 차단 가능"
[서울=뉴스핌] 김지완 기자 = # "매달 프로노 사이트 방문하는 사람 숫자는 넷플릭스·아마존·트위터 방문자를 합친 것보다 많다. 그들은 점점 돈을 받은 아마추어들이 출연하는 '프로-암' 포르노를 많이 보는 추세다. 과거 포르노 배우가 옆집 여자, 동생들을 연기했다면, 진짜에 의해 대체되고 있다."
넷플릭스 다큐멘터리 '핫 걸 원티드(Hot Girl Wanted)' 도입부 멘트다. 이 다큐는 아마추어 포르노 업계에서 착쥐당하는 여성을 조명해 2015년 선댄스 영화제에서 호평 받았다. 불행히도 n번방, 박사방 참여자들은 '성착취물 제작자-유료회원-성착취물 피해 여성'으로 정확하게 나뉘며, '핫 걸 원티드'를 대한민국에서 그대로 재현했다.
이 비극은 '메신저'라는 사적 대화통로를 통해 별다른 제재없이 수십만명에게 전파되면서 시작됐다. 비단 텔레그램만의 문제가 아니다. 카카오톡이나 라인 등 메신저가 성착취물 유포의 주요 통로로 자리잡았기 때문이다.
◆ 카카오·라인 "성착취물 서버에 올라와도 들여다 볼 권한 없어"
문제는 제2의 n번방, 박사방이 계속 나올 수 있다. 메신저가 음란물 유통 무풍지대로 손색없기 때문이다. 카카오, 라인 서버에 성착취물 영상이 올라와도, 이를 들여다 볼 권한이 없다.
카카오톡 관계자는 "대화방 내용은 무엇이든 저희가 관여할 수 없다"면서 "모두 불법감청"이라고 목소리를 높였다. 그는 "오픈채팅도 대화방 내용을 들여다보지는 않는다"며 "채팅방 이름. 닉네임, 링크 접근 사이트 출처 펄터링이 할 수 있는 것의 전부다. 대화내용을 들여다보면 불법으로 저희가 오히려 처벌받는다"고 설명했다.
라인 관계자 역시 "타임라인, 오픈챗 등 공개된 대화 공간에 업로드되는 콘텐츠에 대해 필터링 기술을 적용하고 있다"면서도 "개인정보 보호 원칙에 따라 1대1 채팅 메시지 모니터링 및 필터링 적용은 불가능하다"고 밝혔다.
카카오·라인은 메신저에서 오가는 텍스트·이미지·영상은 모두 대화로 간주돼, 개인정보보호법에 의해 검열 자체가 불가능하다는 입장을 냈다. 개인정보보호법은 개인 정보를 보호하여 개인의 권익 보호를 강화하고자 개인 정보 처리에 관하여 필요한 사항을 정한 법으로 지난 1995년 제정됐다.
◆ AI·빅데이터 기술 이용하면 영상 중 음란물 선별 가능
하지만 IT업계에선 인공지능(AI), 빅데이터 등을 이용한 4차산업 기술을 이용하면 n번방, 박사방의 사태 재발을 막을 수 있다고 주장했다.
김서연 삼성SDS 수석보는 "빅데이터 기술이 발달함으로써 방대한 영상 데이터까지 분석할 수 있는 기술을 보유하고 있다"고 설명했다.
자크 아이스톡(Jarque Istock) 피보탈(Pivotal) 데이터 부문장은 "텍스트, 자연어, 이미지, 영상, 그래프, 물론 공간(지리)정보, 정량·비정량데이터, 구조화·반구조화 등 데이터 구조와 상관없이 모두 분석하고자 하는 모든 데이터를 분석할 수 있다"고 강조했다.
국계 빅데이터 전문기업의 한 임원은 "동영상도 기계적으로 바꿔놓으면 결국 숫자"라면서 "음란물의 특정 패턴을 찾아서 모형화 시키면 음란물 필터링 소프트웨어를 만들 수 있다"고 말했다.
그는 이어 "최근 AI, 빅데이터 기술을 이용하면 이전보다 정확도를 높여 완벽에 가깝게 차단할 수 있다"며 "법적으로 메신저 서버내 동영상 검열만 가능하다면 제2의 'n번방' 사태를 막을 수 있다"고 목소리를 높였다.
◆ 포털 등 검열 가능한 곳에선 이미 AI·빅데이터 기술로 음란물 가려내
메신저와 달리 검열이 가능한 웹공간에선 이 기술이 폭넓게 적용되고 있다.
한국전자통신연구원(ETRI)는 수년전 피부색, 인체의 형태, 동작의 특성, 신음소리 등 콘텐츠 내용 자체를 분석해 일반 동영상과 음란물을 구분하는 소프트웨어를 개발해 상용화했다. 피부색의 비율을 따지는 방식에서 음란 행위시 반복되는 동작 유형에 신음소리 정보 등을 통해 정확도를 높인 것이 특징이다.
네이버는 지난 2017년부터 음란물 필터링 인공지능(AI) 기술 '네이버 엑스아이(X-eye)'를 동영상에 적용중이다. 네이버 엑스아이는 영상 일정 구간마다 프레임을 추출해 음란물지수가 특정 수준 이상은 '임시 재생 중지' 상태로 만든다. 이후 10분 이내 검수자 검토를 거쳐 정상 영상은 복구하고 음란 영상은 삭제 조치를 하고 있다. 네이버 내부 실험 결과 음란물 검출 적중률이 98%에 달하는 것으로 알려졌다.
카카오도 '딥러닝 기반 '성인물 추천시스템'을 개발하고, 지속적으로 고도화하고 있다. 카카오 관계자는 "동영상의 경우 변형이 적고, 비슷한 시기에 인기 있는 동영상이 몰려 업로드 되는 경우가 많다"면서 "기존 검수한 동영상과 중복을 찾아 자동으로 검수하는 작업이 가능하다"고 설명했다.
그는 "중복을 검출하기 위해 영상을 이루는 프레임에서 특징(feature)를 뽑고 양자화(quantization)시켜서 특정 길이의 숫자로 된 이미지DNA를 만들면 결국 영상은 숫자열의 집합이 된다"면서 "이 숫자들을 비교하면 동영상끼리 중복인지 아닌지 판단이 가능하다"고 부연했다.
swiss2pac@newspim.com
