전체기사 최신뉴스 GAM 라씨로
KYD 디데이

네이버, 실시간 음란이미지 필터링 시스템 도입...정확도 '99.5%'

기사입력 : 2021년06월29일 14:16

최종수정 : 2021년06월29일 14:17

2017년 선보인 24시간 실시간 음란물 필터링 기술 '엑스아이'
선행 이미지인식 기술 연구결과 접목해 속도, 정확도 모두 높여

[서울=뉴스핌] 구윤모 기자 = 네이버는 연중 24시간 음란 이미지가 네이버에 등록될 경우 이를 실시간으로 감지해 검색 노출을 막아주는 '엑스아이(X-eye) 2.0'을 내달부터 적용한다고 29일 밝혔다.

지난 2017년 처음 선보인 '엑스아이'는 네이버에 축적된 방대한 400여만 장의 이미지를 형태별로 분류해 AI 학습을 거쳐 탄생했다. 기존에는 이미지 모니터링 담당자들이 조치를 취할 때까지 유해물이 노출된다는 단점이 있었지만, 음란물 필터링 AI 시스템 '엑스아이' 도입 이후 98.1%의 높은 적중률로 유해한 사진, 동영상을 실시간으로 걸러냈다.

[서울=뉴스핌] 구윤모 기자 = 엑스아이 2.0 [사진=네이버] 2021.06.29 iamkym@newspim.com

새롭게 선보이는 '엑스아이 2.0'은 네이버 AI랩과 클로바가 진행한 선행 이미지인식 기술 연구결과들이 활용돼 더욱 고도화됐다. ▲속도, 정확도가 더욱 높아진 고성능 이미지인식 모델 '렉스넷(ReXNet)' ▲AI 모델 학습 시 데이터 부족을 위해 사용되는 데이터증강기법 '컷믹스(CutMix)' ▲더욱 안정적으로 모델을 학습하고 인식 정확도를 향상시키는 최적화 기법 'AdamP' 등 다양한 AI 기술들이 적용됐다.

이를 통해 기존 정상/음란으로만 구분하던 '엑스아이 1.0'에서 정상/음란/성인/선정 4가지 등급으로 커버리지를 확대하면서도 더욱 높은 판단 정확도인 99.5%를 자랑한다. 기존 음란/성인성 이미지뿐 아니라 선정적 표현에 대한 판단 정확도가 뛰어나 다양한 서비스에서 활용이 가능하다.

아울러 문제되는 부분이 지나치게 작게 나오거나 희미한 경우 등 잘못 탐지할 가능성이 높은 사례를 보완했다. 극히 일부의 놓친 이미지에 대해서도 보다 고도화된 AI 모델이 빠르게 자동학습이 가능하도록 설계했다. 이를 통해 최신 데이터를 지속적으로 반영할 수 있어 탐지 정확도는 더욱 높아질 것으로 기대된다.

유봉석 네이버 서비스운영총괄은 "건전한 인터넷 이용 환경 조성을 위해 음란물, 성인물은 물론 불법촬영물, 혐오 등 사회적 변화에 맞춰 다양한 유해 콘텐츠 차단을 위해 지속적으로 노력해오고 있다"며 "추후 엑스아이의 오픈 API 기술을 공개해 아직 기술이 부족한 스타트업과 사업자 등 다양한 영역에서 활용할 수 있도록 준비 예정"이라고 말했다.

정석근 네이버 클로바 CIC 대표는 "네이버 클로바에서 진행 중인 다양한 선행 연구 결과물이 서비스나 비즈니스를 넘어 사회 문제 해결에 성공적으로 기여한 중요한 사례"라며 "앞으로도 자체 개발한 고도화된 AI 기술이 실생활에 도움이 되도록 협업하겠다"고 말했다.

한편 네이버는 작년 발생한 N번방 사건 등 아동·청소년 관련 성범죄, 성착취물 관련 성적 표현에 대한 관리를 강화하기 위해 지난 1월 29일 업그레이드된 'AI클린봇 2.5'를 적용한 바 있다.

 

iamkym@newspim.com

[뉴스핌 베스트 기사]

사진
김수현 "故김새론, 미성년땐 사귀지 않아" [서울=뉴스핌] 정일구 기자 = 미성년자였던 고(故) 김새론과 교제했다는 의혹을 받는 배우 김수현이 31일 오후 서울 마포구 스탠포드호텔에서 열린 긴급 기자회견에서 입장 밝히며 눈물을 흘리고 있다. 2025.03.31 mironj19@newspim.com   2025-03-31 17:43
사진
김효주 "아직도 할 수 있는 선수 증명" [서울=뉴스핌] 김용석 기자 = "LPGA에서 17개월 만에 우승을 차지해 기쁘다." 김효주(30)가 미국여자프로골프(LPGA) 투어에서 통산 7번째 우승 트로피를 들어 올렸다. 김효주는 31일(한국시간) 미국 애리조나주 챈들러의 월윈드골프클럽에서 열린 포드 챔피언십 최종일, 연장전 끝에 릴리아 부를 꺾고 우승을 차지했다. [서울=뉴스핌] 김용석 기자 = LPGA 통산 7승을 수확한 김효주. [사진= LPGA] 2025.03.31 fineview@newspim.com 역전 우승이다. 3라운드까지 릴리아 부에게 4타 뒤진 공동5위로 출발한 김효주는 대회 마지막 날인 4라운드에서 버디 9개, 보기 1개로 무려 8타를 줄였다. 릴리아 부와 나란히 최종합계 22언더파 266타로 동타를 이룬 김효주는 연장전이 벌어진 18번 홀(파4)에서 1.5m 거리의 버디 퍼트를 성공시켜 승리를 확정지었다. LPGA 통산7승이다. 2015년과 2016년 각각 1승씩을 올린 그는 2021년 HSBC 위민스 월드 챔피언십, 2022년 롯데 챔피언십, 2023년 볼룬티어스 오브 아메리카스 클래식 등에서 6승을 수확한 뒤 1년5개월만에 다시 정상에 올랐다. 김효주는 매니지먼트사 지애드스포츠를 통해 "오늘 마지막까지 집중한 것이 중요했다"고 밝혔다. "작년 겨울 전지훈련에서 열심히 훈련하며 몸 상태를 끌어올리기 위해 노력했기 때문에 이번 대회에서도 좋은 샷감을 기대할 수 있었다"고 말했다. 파이널 라운드에서도 집중을 잃지 않기 위해 노력했다는 그는, "그 결과 좋은 성과로 이어져서 정말 감사한 마음"이라고 기쁨을 전했다. 이번 대회에서는 새로운 샤프트와 퍼터를 사용한 것이 주효했다는 김효주는 "좋은 샷감과 함께 시너지 효과가 난 덕분에 우승까지 할 수 있었다"고 말했다. 특히 LPGA에서 17개월 만에 우승을 차지한 그는 "아직도 내가 할 수 있는 선수라는 것을 증명해 너무 뿌듯하다"며 언제나 응원해주시는 팬들에게 진심으로 감사의 인사를 전했다. 이번 우승은 김아림에 이어 한국 선수로는 올해 두 번째 LPGA 투어 우승이다. 김효주는 "올 시즌, 한국 선수들의 상승 흐름에 좋은 기폭제가 되었으면 한다"고 덧붙였다. fineview@newspim.com 2025-03-31 14:44
안다쇼핑
`
Top으로 이동