[서울=뉴스핌] 이정화 기자 = 시민단체가 인공지능(AI) 챗봇 이루다 사건과 관련해 국가인권위원회(인권위)에 인권침해 및 차별 진정 및 정책권고 제안서를 제출했다.

참여연대, 민주사회를 위한 변호사모임(민변), 사단법인 정보인권연구소 등 시민단체들은 이루다 챗봇 사건에 대한 인권침해 및 차별 진정과 정책권고를 요청하는 취지의 진정 및 정책권고 제안서를 인권위에 접수했다고 3일 밝혔다.

[서울=뉴스핌] 이현경 기자 = 인공지능 챗봇 이루다 [사진=이루다 페이스북] 2021.01.13 89hklee@newspim.com

20세 여성 대학생 캐릭터로 설정된 이루다는 지난해 12월 23일 출시돼 3주 만에 약 80만명의 이용자를 모았다. 하지만 일부 이용자들이 이루다를 대상으로 한 성희롱, 인종·성별 편향성 발언 등을 학습하며 논란이 됐다. 이후 이루다를 만든 스캐터랩은 이루다를 만드는 과정에서 연애 분석 앱 '연애의 과학' 이용자들의 카카오톡 데이터를 가져다 쓰면서 개인정보보호법을 위반했다는 의혹까지 불거지며 결국 지난달 15일 서비스를 종료했다.

이들은 "이루다 사건은 개별 인권침해 사안일 뿐만 아니라 인공지능 기술의 남용이 인권에 미칠 수 있는 부정적인 영향을 보여준 대표적인 사안"이라며 "이는 인공기술의 남용에 따른 프라이버시권 및 표현의 자유 침해에 대한 국가 등에 의한 제도적 보호의 부재를 여실히 드러낸 사안으로, 근본적으로는 국가에 의한 인권침해에 해당한다"고 주장했다.

이어 "우리나라는 이른바 제4차 산업혁명이라는 미명 아래 상업적 분야 등에서 인공지능 기술 등 신기술이 무비판적으로 도입되고 있으며, 개인정보의 상업적 활용이 무분별하게 허용되고 있다"며 "그러나 정보 주체인 시민들의 권리를 보장하기 위한 입법적, 행정적 기반은 전무하다"고 지적했다.

그러면서 "인권위는 이와 같은 공적 보호의 부재로 인한 인권침해 상황을 엄중히 인식해야 한다"며 "인권위는 신속히 관련 정책을 인권의 관점에서 점검하여 권고를 내리는 등 국가인권기구로서의 역할을 다 하여야 할 것"이라고 촉구했다.

이들은 인권위에 이루다 사건에 대한 철저한 조사 및 피해자들에 대한 배상 권고를 요청했다. 또 ▲사적 주체도 대상에 포함하는 실효성 있는 영향평가제도 구축 및 감사제도 도입 ▲인공지능에 의한 차별을 규율하기 위한 기반으로서 평등법 제정 ▲프로파일링 및 자동화된 의사결정 거부권 등 정보 주체의 권리 보장 ▲개인정보보호법상 가명 정보 및 동의제도에 관한 규정 정비 및 구제 절차 보장 ▲인공지능 기술의 활용에 있어 기업 등이 준수해야 할 가이드라인 개발 및 보급 등의 권고를 제안했다.

clean@newspim.com