[세종=뉴스핌] 이경태 기자 = 20대 여성 말투의 AI(인공지능) 챗봇 '이루다' 서비스를 개발한 업체가 1억원의 과태료 물게 됐다. 

개인정보보호위원회는 28일 제7회 전체회의를 열고 챗봇 '이루다' 제작사인 ㈜스캐터랩에 총 1억330만원의 과징금과 과태료 등을 부과했다. 이번 처분은 AI 기술 기업의 무분별한 개인정보 처리를 제재한 첫 사례로 꼽힌다. 

AI 챗봇 이루다는 스캐터랩이 지난해 크리스마스를 앞두고 출시한 20세 여대생 스타일의 AI 챗봇이다. 제작사가 카카오톡의 대화내용을 무단으로 수집했다는 의혹이 불거지면서 서비스가 중단된 상태다.

인공지능 챗봇 이루다 [자료=이루다 페이스북] 2021.04.28 biggerthanseoul@newspim.com

개인정보위는 지난 1월 12일 조사에 착수했고, 이번 사안이 국민과 산업계에 미치는 영향이 적지 않다는 점을 고려했다.

조사 결과, 스캐터랩은 자사의 앱 서비스인 '텍스트앳'과 '연애의 과학'에서 수집한 카카오톡 대화를 2020년 2월부터 1년 뒤인 지난 1월까지 페이스북 이용자 대상 챗봇 서비스인 '이루다'의 AI 개발과 운영에 이용한 것으로 드러났다.

더구나 스캐터랩은 '이루다' AI 모델의 개발을 위한 알고리즘 학습 과정에서 카카오톡 대화에 포함된 이름, 휴대전화번호, 주소 등의 개인정보를 삭제하거나 암호화하는 등의 조치를 전혀 하지 않고, 약 60만 명에 달하는 이용자의 카카오톡 대화문장 94억여 건을 이용한 것으로 나타났다.

'이루다' 서비스 운영 과정에서는, 20대 여성의 카카오톡 대화문장 약 1억 건을 응답 DB(데이터베이스)로 구축하고, '이루다'가 이 중 한 문장을 선택해 발화할 수 있도록 운영했다.

개인정보위는 스캐터랩이 '이루다' 서비스 개발과 운영에 이용자의 카카오톡 대화를 이용한 것에 대해 이용자의 '신규 서비스 개발' 목적의 이용에 동의를 받은 것으로 판단하지 않았다. 이용자의 개인정보 자기결정권이 제한되는 등 이용자가 예측할 수 없는 손해를 입을 수 있다고 봤다.

개인정보위는 또 스캐터랩 개발자들의 코드 공유 및 협업 사이트로 알려진 깃허브(Github)에 2019년 10월부터 지난 1월까지 이름 22건, 지명정보 34건, 대화 상대방과의 관계 등이 포함된 카카오톡 대화문장 1431건과 함께 AI 모델을 게시한 행위에 대해서도 개인정보 보호법을 위반했다고 판단했다.

이에 대해 개인정보위는 '이루다'와 관련된 사항을 포함해 모두 8가지 개인정보 보호법 위반행위에 대해 총 1억 330만원의 과징금과 과태료를 부과하고 시정조치를 명령했다.

윤종인 개인정보위 위원장은 "해당 사건은 전문가들조차 의견이 일치하지 않아 어느 때보다도 격렬한 논쟁이 있었고 매우 신중하게 검토했다"며 "이번 처분 결과가 AI 기술 기업이 개인정보를 이용할 때 올바른 개인정보 처리 방향을 제시하는 길잡이가 되길 바란다"고 당부했다.

biggerthanseoul@newspim.com