[서울=뉴스핌] 황혜영 기자 = 인공지능(AI) 기술의 급속한 확산과 함께 딥페이크 성범죄, 여성혐오 표현, 스토킹, 개인정보 악용 등 새로운 형태의 디지털 기반 젠더폭력이 증가하고 있다. 이에 따라 인공지능 개발 단계부터 위험을 예방할 수 있는 체계적인 대응 필요성이 제기되고 있다.

한국여성정책연구원은 최근 '디지털 기반 젠더폭력 방지를 위한 AI 벤치마크 데이터셋 필요성 연구' 보고서를 통해 인공지능 기술이 야기할 수 있는 젠더폭력 문제를 사전에 차단하기 위한 정책 방향을 제시했다.

해당 연구는 김애라 연구위원을 책임으로 수행됐으며 인공지능 모델의 성능과 안전성을 평가할 수 있는 표준 데이터셋, 즉 'AI 벤치마크 데이터셋'의 중요성을 강조했다.

23일 연구에 따르면 국내에서는 이미 인공지능 관련 윤리 기준과 규제 틀이 존재하지만 실제 대응은 피해 콘텐츠 삭제나 차단 등 사후 조치에 집중되어 있는 것으로 나타났다.

이로 인해 인공지능이 생성하거나 확산시키는 젠더폭력 문제를 근본적으로 예방하는 데에는 한계가 있다는 지적이다.

또한 현행 윤리 기준에는 인간 존엄성, 차별 금지, 다양성 보장 등의 가치가 포함되어 있으나 법적 구속력이 부족하고 기업의 자율적 노력에 의존하는 구조로 인해 실효성이 떨어지는 것으로 분석됐다.

결과적으로 젠더폭력 예방 및 차별 방지 기능이 충분히 작동하지 못하고 있다는 평가다.

김애라 연구위원은 "인공지능 개발과 안전성 평가 단계에서부터 젠더폭력 위험을 체계적으로 점검하고 차단할 수 있는 성인지적 설계가 필요하다"고 강조했다.

연구진은 이를 위한 핵심 과제로 ▲한국어 기반의 젠더폭력 방지 벤치마크 데이터셋 구축과 대규모 언어모델(LLM) 안전성 평가 지표 개발 ▲과학기술정보통신부와 인공지능안전연구소 등 관련 기관 간 역할 분담과 민관 협력 거버넌스 구축 ▲기존 자율 안전성 평가 체계와의 연계 및 공공 부문 우선 활용 ▲벤치마크 활용 의무화를 위한 중장기 입법 과제 검토 ▲지속적인 모니터링과 환류 체계 확립 등 다섯 가지를 제안했다.

김종숙 원장은 "인공지능이 디지털 성범죄 확산의 도구로 악용되지 않도록 사전에 위험을 점검하고 대응할 수 있는 구체적인 안전 기준 마련이 필요하다"고 말했다.

한편 해당 연구보고서의 상세 내용은 한국여성정책연구원 공식 홈페이지에서 확인할 수 있다.

hyeng0@newspim.com