AI시대  더 이상 프라이버시는 없는 걸까?  이제 자동차까지 사생활을 엿본다.

미국의 비영리단체 '모질라 재단'이 전 세계 25개 자동차 기업을 대상으로 조사한 결과 모든 업체가 필요 이상으로 많은 개인 정보를 수집했으며 수집한 정보를 차량 운행 등과 무관하게 사용한 것으로 드러났다. 

이들은 운전 속도, 차량 목적지 등 운행 정보는 물론 차 안에서 듣는 음악, 의료 및 유전 정보 심지어 성적활동 관련 정보에 이르기까지 광범위한 정보를 수집했다. 이렇게 다양하고 폭 넓은 운전자 개인정보를 얻을 수 있었던 건 최근 확대되고 있는 자동차 소프트웨어에 무선 네트워크를 결합한  커넥티드 서비스와 구글 지도 덕분이다.

이들 중 84%는 차량 소유주로부터 수집한 개인 정보를 서비스 제공업체나 정보 중개업자 등과 공유할 수 있다고 했고 76%는 수집한 개인 정보를 판매할 수 있다고 밝혔다.

강력한 데이터 수집 기계가 된 자동차는 그렇게 소리 소문없이 데이터 사업으로 뛰어들었다.

디지털 사회가 도래하면서 데이터가 산업계에 원유가 될 것은 이미 예상된 일이었다. 디지털 소비의 특수성 때문이다. '무료', '공짜', '파격할인', 누구나 취약할 수 밖에 없는 말을 내세우지만 디지털 상품과 서비스는 결코 공짜가 아니다.

광고를 봐주고 이용후기와 평가를 공유하고 동참함으로써 상품과 서비스를 업데이트 시킨다. 고객의 반응과 활동이 상품과 서비스의 질적, 양적 개선을 이루고 사업을 성장시키는 셈이다. 이 과정에서 소비자의 개인정보, 구매이력은 물론 취향, 즐겨 찾는 곳, 선호 행태 등 다양한 데이터가 사업자에게 전달된다.

대놓고 '광고 보면 공짜' TV를 제공하는 스타트업도 생겼다. 미국 스타트업 텔리(Telly)는 사용자 동의 하에 개인정보를 수집하고 맞춤 광고를 보여주는 대신 1000달러 상당의 55인치 스마트TV를 제공한다. 스크린 하단에 아예 광고전용 스크린이 붙어있다.

텔리가 밝힌 수익 구조의 핵심은 사용자가 사전 제출한 개인 정보와 TV 시청 습관 등 수집한 데이터를 바탕으로 한 맞춤형 광고를 내보내는 것. 문제는 텔리가 수집하는 개인정보가 연락처, 보유 자동차 브랜드, 리스 만기일, IP주소는 물론 정치 성향, 구매 항목, 클릭한 버튼, 사용 빈도, 시청 습관 까지 매우 광범위하다는 점이다. 더구나 TV에 영상 통화와 피트니스 기능을 위한 모션 인식 카메라, TV를 몇 명이 시청 중인지 감지하는 센서까지 탑재되었으니 수집할 수 있는 개인정보는 상상 이상이 될 수 있다. 텔리는 올해 말까지 50만대를 배포할 계획이다.                        

생성형AI시대가 열리면서 데이터의 중요성은 한층 더 커졌다. 인터넷 데이터는 함께 공유하는 모두의 것이라는 인식이 깨졌기 때문이다.

챗GPT 등 거대언어모델이 소셜미디어 데이터를 스크랩하고 크롤링해서 학습한 것이 알려지면서 콘텐츠를 제공하는 기업과 개인들은 더 이상 동의 없는 무상 데이터는 없음을 확실히 하고 있다. 이미 제공된 데이터의 가치를 요구하는 소송도 이어지고 있다.

공개 데이터의 양이 줄어들수록 데이터 비용은 올라간다. 이제 AI에 있어 학습 가능한 데이터의 양은 매개변수의 수나 학습에 사용되는 GPU 자원보다 훨씬 중요해졌다. 데이터를 가진 자가 AI를 지배하게 되는 셈이다.

그런데 나날이 높아지는 데이터의 중요성에 비해 우리의 개인정보보호는 그리 안녕한 상황이 아니다.  사용자의 개인정보가 가장 기본이 되는 핵심 데이터임에도 불구하고 정작 사용자가 본인의 정보 보호에 그리 민감하지 않은 편이다. 대개의 경우 디지털 상품이나 서비스 사용 전 이용약관조차 제대로 읽지 않은 채 동의를 표한다. 물론 이용 약관에 동의하지 않으면 아예 이용자체가 불가한 업체의 횡포도 심각하다.

네이버가 발간한 <2022 네이버 프라이버시 백서-인공지능에서의 개인정보보호 고려사항>에는 AI 기반 개인정보 보호 원칙 4가지가 소개되어 있다.

AI윤리 규정에 앞선 OECD에서 정한 개인정보 보호원칙과 국내 '개인정보 보호법', GDPR(General Data Protection Regulation, 유럽연합 일반개인정보보호법)을 참고했다.

개인정보보호 4원칙

1. 최소 수집의 원칙 - 목적에 필요한 최소한의 정보를 수집하고, 사생활 침해를 최소화하는 방법으로 개인정보를 처리하며, 익명처리 원칙을 준수해야 한다.

2. 목적 제한의 원칙 - 개인정보의 처리 목적을 명확히 하고, 목적 내에서 최소한의 개인정보만을 적법하고 정당하게 수집해야 하며 목적과 양립되지 않는 방식으로 추가 처리되면 안 된다.

3.  이용 제한의 원칙- 목적 범위 내에서 적법하게 처리, 목적 외 활용을 금지하는 조항에 근거를 두어 목적을 달성하면 해당 개인정보를 파기한다.

4. 투명성 원칙 - AI에는 개인이 직접 제공하지 않은, 파생되거나 추론된 데이터가 활용되는 경우도 다수 있을 수 있다. 이 경우 간결하고 이용과 이해가 쉽고 명확한 용어와 필요시 시각화 기법을 사용해 정보 주체의 이해를 돕도록 한다.

최근 대거 출시 중인 AI 개인화 서비스를 제공하는 애플리케이션들을 살펴보자. 이들 앱은 제공받은 개인의 특성과 정보에 따라 사용자에 특화한 맞춤형 서비스를 제공한다. 높은 만족도의 토대에는 그 동안 앱이 수집한 이용자의 개인정보, 활동, 습관 등의 데이터가 자리한다. 

과연 우리의 데이터는 목적 범위 내에서 최소한으로 수집되었을까? 목적 외에는 사용되지는 않았을까? 적절한 사용 후에는 확실히 파기되었을까? 이 모든 정보처리 과정을 충분히 설명해 줄 의향은 있을까?

더 이상 개인정보를 무료 사용과 맞바꾸는 일은 없어야 한다. 세상에 공짜는 없다. 개인 정보의 재산적 가치에 대해 재고해 볼 때가 되었다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등