[세종=뉴스핌] 이경태 기자 = 인공지능(AI) 기업이 개인정보를 활용한 서비스 모델을 내놓을 때 규제샌드박스를 적용받아 사업을 추진할 수 있게 된다. 이와 함께 가명처리된 개인정보를 통한 AI 학습이 허용될 예정이다.

개인정보보호위원회는 3일 이같은 내용이 포함된 '인공지능 시대 안전한 개인정보 활용 정책방향'을 발표했다.

국내 AI 산업은 매출규모가 2020년 1조9000억원에서 2022년 4조원 가까이 증가할 정도로 급속도로 성장한 것으로 나타났다. 해마다 AI 산업에 많은 기업들이 진입하고 있다. 그러나 이들 기업은 데이터를 수집하고 활용하는 데 있어 개인정보 보호 법령 등 관계 법령의 저촉여부를 둘러싸고 불확실성을 호소하고 있다. 

◆ AI 프라이버시팀 10월 신설…드론 통한 AI 학습 규정 안내

개인정보위는 이렇듯 변화 속도가 빠르고 데이터 활용 범위, 방식이 고도로 복잡한 AI에 대해 그 특성을 고려해 규정 중심이 아닌 원칙(principle) 중심의 규율체계를 정립한다는 방침을 정했다.

우선 AI와 관련된 사항을 전담하는 원스톱 창구인 '(가칭)AI 프라이버시팀'을 오는 10월 중 신설한다. 이 팀은 AI 모델·서비스를 개발·제공하는 사업자와 소통창구를 마련해 사안별로 개인정보 처리의 적법성, 안전성 등에 대한 법령해석을 지원하거나 규제 샌드박스 적용을 검토하는 등 적극적인 컨설팅 역할을 수행하여 불확실성을 대폭 축소한다.

또 '(가칭)사전 적정성 검토제'도 올해 안에 도입한다. 사업자가 요청할 때 비즈니스 환경을 분석해 '개인정보 보호법'을 준수할 수 있도록 적용방안을 함께 마련하고 이에 따른 사업자의 이행결과에 대해 개인정보위가 적정하다고 판단한 사안에 대해서는 행정처분을 하지 않는다.

사업자가 신청서를 제출한 시점부터 적용방안 통보까지 원칙적으로 60일 이내에 진행되도록 해 민간에서 느끼는 법적 리스크를 신속하고 확실하게 줄여나갈 수 있을 것으로 개인정보위는 설명했다.

개인정보위은 AI 개발·서비스 단계별 개인정보 처리기준, 보호조치, 고려사항 등을 제시한다. 그동안에는 별도의 기준이 없었는데, 이번에 AI 개발·서비스 단계별 개인정보 처리원칙 등을 규정했다.

AI 모델·서비스를 기획하는 단계에서 개인정보 보호 중심 설계 원칙(Privacy by Design)을 반영해 모델링·학습·운영에 대한 개인정보 침해 위험을 최소화할 수 있는 방안 등을 안내한다. 

데이터를 수집할 때 개인정보의 처리 원칙을 일반 개인정보, 공개된 정보, 영상정보, 생체인식정보로 나눠 제시한다. 개인정보위는 드론·자율주행차 등을 통한 영상의 촬영, 원격관제, 저장, AI 학습 등이 가능한 경우도 안내한다.

AI 학습 단계에서는 개인정보를 가명처리해 별도의 동의 없이 AI 연구개발이 가능할 수 있게 허용한다. 다만 다른 정보와의 연계·결합을 통한 재식별 등 사전·사후적으로 발생 가능한 위험에 대한 방지 조치가 필요하다는 게 개인보호위의 설명이다.

AI 활용 맥락에서 나타나는 다양한 위험을 사전에 완벽히 제거하는 것은 어렵기 때문에 이를 최소화하기 위한 노력 정도에 따라 예방조치의 이행 수준을 판단할 방침이다.

AI 모델을 개발해 실제 이용자를 대상으로 서비스를 상용화하는 단계에서는 투명성 확보와 정보주체의 권리보장이 필요하다는 점도 강조됐다. 그러나 AI 특성을 고려해 구체적인 공개범위 및 방법, 권리행사 방안 등에 대해서는 충분한 검토 이후 가이드라인을 마련한다는 게 개인정보위의 계획이다.

◆ 개인정보보호강화기술 R&D 확대…글로벌 기업 협력 추진

개인정보위는 이번 정책방향을 통해 기초적인 기준과 원칙을 세운다는 점을 강조했다. 이를 바탕으로 실제 현장에서 적용 가능하도록 민간과 협력하여 세부 분야별로 구체화해 나갈 계획이다.

AI 기업·개발자, 학계·법조계, 시민단체 등 민·관이 함께 논의할 수 있는 'AI 프라이버시 민·관 정책협의회'를 오는 10월 중 구성한다. 추진계획에 따라 분야별 AI 환경에서의 데이터 처리기준 등을 공동으로 작업해 발표한다.

개인정보보호강화기술(PET)이 활성화될 수 있도록 연구·개발(R&D)을 확대하고 관련된 가이드라인 등을 마련한다. PET 적용이 모호하거나 검증이 필요한 경우에는 보안성·안전성이 확보된 '개인정보 안심구역'에서 기술개발·실증이 가능하도록 할 계획이다. 

AI의 리스크 수준에 따라 차등적인 규제 설계가 가능할 수 있도록 위험성에 대해 구체적으로 판단할 수 있는 'AI 리스크 평가모델'도 마련한다. 이러한 위험성 평가체계를 구축하기 위해서는 여러 실험과 시도가 필요한 만큼 '규제 샌드박스'를 활용해 AI 분야의 다양한 사례를 축적한다. 이를 바탕으로 운영현황, 위험요인 등을 분석해 리스크를 식별·평가할 수 있는 체계를 2025년까지 지속적으로 구축해 나간다는 게 개인정보위의 계획이다.

AI에 관한 디지털 국제규범 형성을 위해 글로벌 협력체계로 확대한다.

개인정보위는 새로운 차원의 디지털 질서 수립을 선언한 '파리 이니셔티브(2023년 6월)'에 입각해 AI 개인정보 분야 국제규범 마련을 위한 협력체계도 강화한다.

오는 2025년 글로벌 프라이버시 총회(GPA)를 유치해 AI를 중심으로 디지털 심화 시대에 새롭게 대두되는 프라이버시 이슈도 논의한다. 그 외에도 여러 논의의 장에 적극적으로 참여해 새로운 국제규범 체계의 확립 과정에 주도적 역할을 할 계획이다. 오픈AI, 구글, 메타 등 글로벌 AI 사업자와 국내 AI 사업자와의 소통도 활성화한다.

고학수 개인보호위원장은 "이제 AI는 전 세계, 모든 산업에서 기반 기술로서 역할을 하고 있는 만큼 데이터를 어떻게 안전하게 활용할 수 있을지에 대한 새로운 디지털 질서 정립이 필요한 시점"이라며 "인공지능에 있어 무조건적인 '제로 리스크(zero risk)'를 추구하기 보다는 프라이버시 침해 최소화를 위한 실천적 노력을 경주하는 것이 더욱 중요하다"고 강조했다.

biggerthanseoul@newspim.com