전체기사 최신뉴스 GAM 라씨로
KYD 디데이
산업 ICT

속보

더보기

네이버, 실시간 음란이미지 필터링 시스템 도입...정확도 '99.5%'

기사입력 : 2021년06월29일 14:16

최종수정 : 2021년06월29일 14:17

2017년 선보인 24시간 실시간 음란물 필터링 기술 '엑스아이'
선행 이미지인식 기술 연구결과 접목해 속도, 정확도 모두 높여

[서울=뉴스핌] 구윤모 기자 = 네이버는 연중 24시간 음란 이미지가 네이버에 등록될 경우 이를 실시간으로 감지해 검색 노출을 막아주는 '엑스아이(X-eye) 2.0'을 내달부터 적용한다고 29일 밝혔다.

지난 2017년 처음 선보인 '엑스아이'는 네이버에 축적된 방대한 400여만 장의 이미지를 형태별로 분류해 AI 학습을 거쳐 탄생했다. 기존에는 이미지 모니터링 담당자들이 조치를 취할 때까지 유해물이 노출된다는 단점이 있었지만, 음란물 필터링 AI 시스템 '엑스아이' 도입 이후 98.1%의 높은 적중률로 유해한 사진, 동영상을 실시간으로 걸러냈다.

[서울=뉴스핌] 구윤모 기자 = 엑스아이 2.0 [사진=네이버] 2021.06.29 iamkym@newspim.com

새롭게 선보이는 '엑스아이 2.0'은 네이버 AI랩과 클로바가 진행한 선행 이미지인식 기술 연구결과들이 활용돼 더욱 고도화됐다. ▲속도, 정확도가 더욱 높아진 고성능 이미지인식 모델 '렉스넷(ReXNet)' ▲AI 모델 학습 시 데이터 부족을 위해 사용되는 데이터증강기법 '컷믹스(CutMix)' ▲더욱 안정적으로 모델을 학습하고 인식 정확도를 향상시키는 최적화 기법 'AdamP' 등 다양한 AI 기술들이 적용됐다.

이를 통해 기존 정상/음란으로만 구분하던 '엑스아이 1.0'에서 정상/음란/성인/선정 4가지 등급으로 커버리지를 확대하면서도 더욱 높은 판단 정확도인 99.5%를 자랑한다. 기존 음란/성인성 이미지뿐 아니라 선정적 표현에 대한 판단 정확도가 뛰어나 다양한 서비스에서 활용이 가능하다.

아울러 문제되는 부분이 지나치게 작게 나오거나 희미한 경우 등 잘못 탐지할 가능성이 높은 사례를 보완했다. 극히 일부의 놓친 이미지에 대해서도 보다 고도화된 AI 모델이 빠르게 자동학습이 가능하도록 설계했다. 이를 통해 최신 데이터를 지속적으로 반영할 수 있어 탐지 정확도는 더욱 높아질 것으로 기대된다.

유봉석 네이버 서비스운영총괄은 "건전한 인터넷 이용 환경 조성을 위해 음란물, 성인물은 물론 불법촬영물, 혐오 등 사회적 변화에 맞춰 다양한 유해 콘텐츠 차단을 위해 지속적으로 노력해오고 있다"며 "추후 엑스아이의 오픈 API 기술을 공개해 아직 기술이 부족한 스타트업과 사업자 등 다양한 영역에서 활용할 수 있도록 준비 예정"이라고 말했다.

정석근 네이버 클로바 CIC 대표는 "네이버 클로바에서 진행 중인 다양한 선행 연구 결과물이 서비스나 비즈니스를 넘어 사회 문제 해결에 성공적으로 기여한 중요한 사례"라며 "앞으로도 자체 개발한 고도화된 AI 기술이 실생활에 도움이 되도록 협업하겠다"고 말했다.

한편 네이버는 작년 발생한 N번방 사건 등 아동·청소년 관련 성범죄, 성착취물 관련 성적 표현에 대한 관리를 강화하기 위해 지난 1월 29일 업그레이드된 'AI클린봇 2.5'를 적용한 바 있다.

 

iamkym@newspim.com

CES 2025 참관단 모집

[뉴스핌 베스트 기사]

사진
尹지지율 2%p↓, 26.9%…"김 여사 논란 등 영향" [서울=뉴스핌] 박성준 기자 = 윤석열 대통령의 지지율이 소폭 하락해 20%대 중후반을 기록했다는 여론조사 결과가 31일 발표됐다. 종합뉴스통신사 뉴스핌 의뢰로 여론조사 전문업체 미디어리서치가 지난 28일~29일 이틀간 전국 만 18세 이상 남녀 1001명에게 물은 결과 윤 대통령의 국정운영에 대한 긍정평가는 26.9%로 집계됐다. 부정평가는 71.9%로 나타났다. '잘 모름'에 답한 비율은 1.2%다. 지난 조사 대비 긍정평가는 2.0%포인트(p) 하락했고 부정평가는 3.5%p 상승했다. 긍정평가와 부정평가 간 격차는 45.0%p다. 연령별로 보면 40대에서 긍·부정 평가 격차가 극명하게 드러났다. 만 18세~29세에서 '잘함'은 19.9% '잘 못함' 80.1%였고, 30대에서는 '잘함' 29.6% '잘 못함' 68.3%였다. 40대는 '잘함' 16.1% '잘 못함' 82.9%, 50대는 '잘함' 25.7% '잘 못함' 74.3%로 집계됐다. 60대는 '잘함' 32.2% '잘 못함' 67.3%였고, 70대 이상에서는 '잘함' 40.5% '잘 못함' 54.9%로 집계됐다. 지역별로는 서울 '잘함' 25.1%, '잘 못함'은 74.0%로 집계됐다. 경기·인천 '잘함' 27.8% '잘 못함' 70.8%, 대전·충청·세종 '잘함' 21.3% '잘 못함' 77.9%, 강원·제주 '잘함' 32.7% '잘 못함' 64.9%로 조사됐다. 부산·울산·경남 '잘함' 32.1% '잘 못함' 67.1%, 대구·경북은 '잘함' 36.8% '잘 못함' 62.1%로 집계됐다. 전남·광주·전북은 '잘함' 13.2% '잘 못함' 85.0%로 나타났다. 성별로도 남녀 모두 부정평가가 우세했다. 남성은 '잘함' 26.3% '잘 못함' 72.1%, 여성은 '잘함' 27.5% '잘 못함' 71.6%였다. 김대은 미디어리서치 대표는 여론조사 결과에 대해 "도이치모터스·명품백 논란, 선거 관련 의혹 등 김건희 여사 리스크가 증폭됐고, 한동훈 국민의힘 대표와 '빈손 회동'이후 당정 갈등 심화로 전통적인 핵심 지지층인 70대 이상과 영남권에서도 지지율이 하락했다"고 분석했다. 신율 명지대 정치외교학과 교수는 "(윤 대통령 지지율 하락의) 근본적인 원인은 불통 이미지 때문"이라며 "불통이라는 것은 여론에 대한 반응성이 떨어진다는 이야기다. 김건희 여사와 관련한 논란이 대표적인 사례"라고 평가했다. 그는 "김 여사 관련한 사과를 하는 것도 이미 늦었다"며 "윤 대통령은 법조인 출신이라 법적으로 문제가 없으면 괜찮다고 생각하는 것 같은데 국민 인식은 그렇지 않다"고 설명했다. 그러면서 "김 여사 문제에 대해 제대로 된 해결책을 제시하면 지지율이 오를 수 있지만 그렇게 하지 않으면 지지율 반등은 힘들어 보인다"고 덧붙였다. 이번 여론조사는 성·연령·지역별 인구비례 할당 추출 방식으로 추출된 표본을 구조화된 설문지를 이용한 무선(100%) ARS 전화조사 방식으로 실시했으며 응답률은 3.3%, 표본오차는 95% 신뢰수준에 ±3.1%p다. 통계보정은 2024년 1월말 행정안전부 주민등록 인구통계를 기준으로 성별 연령별 지역별 가중 값을 부여(셀가중)했다. 자세한 내용은 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. parksj@newspim.com 2024-10-31 06:00
사진
국민 3명 중 2명 "김건희 여사 특검 실시해야" [서울=뉴스핌] 지혜진 기자 = 국민 3명 중 2명은 윤석열 대통령 부인 김건희 여사의 각종 의혹에 대해 특별검사법 실시의 필요성을 인식한다는 여론조사 결과가 31일 발표됐다. 여론조사 전문기관 미디어리서치가 종합뉴스통신사 뉴스핌의 의뢰로 지난 28~29일 이틀간 전국 만 18세 이상 남녀 1001명을 대상으로 ARS(자동응답시스템) 조사 결과 '더불어민주당에서 김건희 여사의 도이치모터스 주가조작, 공천 개입 등이 포함된 총 14가지 의혹들에 대해 특검법을 재발의했다. 김 여사 특검 실시에 대해 어떻게 생각하느냐'는 질문에 '실시해야 한다' 66.2%, '실시해서는 안 된다' 26.0%, '잘 모름'은 7.9%로 응답했다. 연령별로는 40대, 만18세~29세, 50대 순으로 실시해야 한다는 의견이 높았다. 70대 이상을 제외하고는 실시해야 한다는 의견이 과반을 차지했다. 40대는 '실시해야 한다'고 응답한 비율이 81.2%에 달했다. 반면 '실시해서는 안 된다'는 12.7%에 그쳤다. 만18세~29세는 '실시해야 한다' 76.5%, '실시해서는 안 된다' 19.0%, '잘 모름'은 4.5%로, 50대는 '실시해야 한다' 69.9%, '실시해서는 안 된다' 25.0%, '잘 모름'은 5.1%로 나타났다. 30대는 '실시해야 한다' 62.0%, '실시해서는 안 된다' 34.3%, '잘 모름'은 3.7%로, 60대는 '실시해야 한다' 57.5%, '실시해서는 안 된다' 33.7%, '잘 모름'은 8.8%로 응답했다. 70대는 '실시해야 한다' 45.5%, '실시해서는 안 된다' 33.7%, '잘 모름'은 20.8%였다. 지역별로는 광주·전남·전북, 대전·충청·세종, 서울, 경기·인천, 부산·울산·경남, 강원·제주, 대구·경북 순으로 실시해야 한다는 여론이 우세했다. 대구·경북을 제외한 모든 지역에서 김 여사 특검법에 찬성하는 의견이 절반 이상으로 집계됐다. 광주·전남·전북은 '실시해야 한다' 78.4%, '실시해서는 안 된다' 15.4%, '잘 모름'은 6.2%, 대전·충청·세종은 '실시해야 한다' 72.9%, '실시해서는 안 된다' 24.6%, '잘 모름'은 2.5%로 나타났다. 서울은 '실시해야 한다' 68.7%, '실시해서는 안 된다' 24.8%, '잘 모름'은 6.5%, 경기·인천은 '실시해야 한다' 67.4%, '실시해서는 안 된다' 25.6%, '잘 모름'은 7.0%였다. 부산·울산·경남은 '실시해야 한다' 62.5%, '실시해서는 안 된다' 27.5%, '잘 모름'은 10.1%로, 강원·제주는 '실시해야 한다' 59.3%, '실시해서는 안 된다' 21.2%, '잘 모름'은 19.5%로 응답했다. 대구·경북은 '실시해야 한다' 46.3%, '실시해서는 안 된다' 41.1%, '잘 모름'은 12.6%였다. 지지 정당별로는 국민의힘을 제외한 모든 정당에서 실시해야 한다는 의견이 압도적이었다. 더불어민주당 지지층은 '실시해야 한다' 95.5%, '실시해서는 안 된다' 2.7%, '잘 모름'은 1.8%, 조국혁신당 지지층은 '실시해야 한다' 90.8%, '실시해서는 안 된다' 5.8%, '잘 모름'은 3.3%로 나타났다. 진보당 지지자들은 '실시해야 한다' 77.0%, '실시해서는 안 된다' 23.0%, '잘 모름'은 0%였다. 보수 성향의 개혁신당 지지층은 '실시해야 한다' 87.6%, '실시해서는 안 된다' 6.4%, '잘 모름'은 6.0%였다. 지지정당이 없다고 응답한 층도 '실시해야 한다' 79.1%, '실시해서는 안 된다' 15.0%, '잘 모름'은 5.9%로 특검에 찬성하는 여론이 더 컸다. 국정 지지별로는 응답층의 의견이 극명하게 엇갈렸다. 윤석열 정부가 잘 못하고 있다고 답한 이들은 김건희 특검법에 대해 '실시해야 한다'고 응답한 이들이 88.8%에 달한 반면, 정부가 잘하고 있다고 평가한 응답층은 '실시해서는 안 된다'가 78.6%로 나타났다. 한편, 성별로는 차이가 두드러지지 않았다. 남녀 각각 '실시해야 한다'고 응답한 이들이 67.4%, 64.9%로 나타났다. 김대은 미디어리서치 대표는 "전통적인 보수 지지층인 60~70대 이상과 영남권에서 조차 김 여사 특검을 실시해야 한다는 응답이 높게 나오면서 특검이 대세로 굳어지고 있다"며 "최근 한동훈 국민의힘 대표가 특별감찰관 추천을 대안으로 제시했지만 특감은 한계가 있는 등 국민 다수가 원하는 건 '특감'이 아니라 '특검'이라는 결과"라고 분석했다. 이번 조사는 무선 RDD 활용, ARS를 통해 진행됐다. 신뢰 수준은 95%, 표본 오차는 ±3.1%p, 응답률은 3.3%다. 자세한 조사 개요 및 내용은 미디어리서치 홈페이지와 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. heyjin@newspim.com 2024-10-31 06:00
안다쇼핑
Top으로 이동