전체기사 최신뉴스 GAM 라씨로
KYD 디데이
산업 ICT

속보

더보기

SKT 에이닷도 골머리…AI가 학습한 개인정보 어떻게 관리될까

기사입력 : 2023년11월01일 15:55

최종수정 : 2023년11월01일 16:40

SKT "통화요약 불법 아냐" VS 개보위 "검토해보겠다"
"AI 학습 사각지대에 개인정보 유출 위험 있어"

[서울=뉴스핌] 조수빈 기자 = SK텔레콤, KT에 이어 LG유플러스까지 인공지능(AI) 시장에 뛰어들면서 통신사 삼파전이 AI로 번지고 있다. 이 가운데 SK텔레콤의 통화요약 기능처럼 고객 데이터를 학습하는 AI에 대한 우려가 커지면서 AI 프라이버시 확보에 정부도 가세했다.

SK텔레콤은 인공지능(AI) 개인비서 서비스 에이닷의 아이폰 앱에서 'A. 전화'를 통해 통화녹음, 통화요약 등 새로운 기능을 제공한다. [사진=SK텔레콤]

AI 학습에 가장 문제가 되는 것은 개인정보다. AI는 학습을 위해 방대한 데이터를 수집한다. 그 안에는 개인정보나 민감한 기업정보도 포함되기에 AI가 학습하는 데이터에 대한 관리도 까다로운 과제로 남는다.

이통3사는 공통적으로 현행 법에서 지정하고 있는 비식별데이터만 모은다고 밝혔다. 2020년 정부의 데이터3법 시행 이후 데이터 활용을 위한 가명정보 개념이 도입됐다. 기업 입장에서는 가명처리 된 데이터를 활용할 수 있는 법적 근거가 마련된 셈이다. 통신업계 관계자는 "이름, 나이 등 특정할 수 있는 데이터를 비식별화해서 사용한다"며 "비식별정보로도 충분히 AI 학습이 가능하다"고 설명했다.

SK텔레콤이 출시한 AI 개인비서 서비스 에이닷이 구설수에 오른 것도 개인정보 때문이다. 에이닷이 지난 10월 출시한 AI 전화 서비스는 아이폰에서도 통화녹음, 통화요약 기능을 지원한다. 아이폰이 정책상 금지한 통화녹음을 자사 기술력으로 우회해 구현한 서비스다.

SK텔레콤은 이용약관에 통화 녹음 파일과 통화 내용 속 전화번호, 일정, 계좌번호 등 정보는 1년 동안 이용자 단말기에 보관된다고 밝혔다. 통화요약을 위해서는 통화 내용이 SK텔레콤의 서버로 전송되는데 텍스트로 변환되는 즉시 자동 파기된다.

논란이 된 것은 주소, 일정 등과 개인을 특정할 수 있는 통화내용이 제3자인 SK텔레콤의 서버에 잠깐이라도 머문다는 사실이다. 현재 통화녹음 동의를 얻은 것은 SK텔레콤 이용자이며 상대방이 SK텔레콤 가입자가 아니고 에이닷 사용자가 아닐 경우 동의없이 통화 내 개인정보가 학습된다는 것이 개인정보 침해의 소지가 있다는 지적이다.

개인정보보호위원회 관계자는 "아직까지 조사에 착수한 단계는 아니며 제기된 문제에 대해 검토하는 단계"라며 "에이닷의 통화요약처럼 SK텔레콤 서버에 정보가 올라갈 경우 개인정보보호법상 개인정보 처리에 해당하기 때문에 문제가 불거진 것"이라고 부연했다.

SK텔레콤은 통화내용이 텍스트로 전환되는 즉시 서버에서 삭제된다고 반박했고 개보위 측은 이 내용이 실효성 있는 주장인지 면밀히 살피겠단 입장이다. 개보위에 따르면 통화녹음과 관련된 유사한 사례로 개인정보보호법 위반이 된 사례는 아직 없다.

지난 30일 서울 대한상공회의소에서 열린 AI 프라이버시 민·관 정책협의회 출범식에 고학수 개인정보보호위원회 위원장(왼쪽)이 위촉장을 전달하고 있다. [사진=조수빈 기자]

◆AI 학습 과정은 아직 '사각지대'…보안에 힘주는 기업들

전문가들은 아직까진 AI의 학습 알고리즘을 운영자도 정확히 파악하기 힘들다는 것이 한계점이라고 지적한다. 블랙박스는 인공지능에선 원하는대로 결과값을 도출할 순 있지만 무엇을 어떻게 학습해서 나온 결과인지 알 수 없는 상황을 일컫는다. 개발단계에서 발생하는 일종의 사각지대다.

김명주 서울여대 정보보호학과 교수는 "한 회사가 보유한 같은 서버 내에서 학습된 데이터는 사용자나 관리자가 모르는 사이 AI가 사전에 학습한 내용을 다른 서비스에 사용할 가능성도 있다"며 "학습 시킨 내부 영역들이 어떻게 다른 서비스와 융합이 되는지는 현 기술로는 파악하기 힘들다. 그렇기에 개인정보 관리에 대한 사각지대가 존재하는 것"이라고 설명했다.

이에 프라이빗 대규모언어모델(LLM), 온프레미스 등 별도의 서버를 구축하는 형식이 각광받고 있다. 김 교수는 "내부 데이터만 활용하기 때문에 검증 데이터만 활용해 할루시네이션(환각 현상)도 적다"며 "다만 비용과 인력이 많이 드는 것이 문제"라고 설명했다. LG유플러스와 KT 등 기업 간 거래(B2B) 시장을 겨냥한 기업들이 서버를 직접 구축해주는 온프레미스, 프라이빗 서버 방식을 채택하며 비용 절감을 강조하는 것도 시장의 니즈에 맞춘 것이다.

기업 역시 AI 학습이 갖고 있는 사각지대에 대해 인지하고 있다. 최준기 KT AI·빅데이터 본부장은 지난 10월 31일 열린 초거대 AI 믿음 공개 기자간담회에서 AI 학습의 편향성을 극복하기 위한 노력에 대해 "이것(LLM)이 블랙박스인 게 맞고, 99.9% 노력을 했지만 마지막 0.1%에서 저희가 생각지도 못한 이탈을 할 수가 있다"며 "대화에 있어서 사회적으로 용납이 가능한 AI를 위해 노력 중"이라고 강조했다.

정부에서도 개인정보 유출 차단 등 신뢰 가능한 AI 개발에 힘을 주고 있다. 30일 개인정보보호위원회는 고학수 개보위 위원장, 배경훈 LG AI연구원장을 공동의장으로 하는 AI 프라이버시 민·관 정책협의회 출범식을 개최했다. 해당 협의회에는 SK텔레콤, KT, LG 등 이통사도 포함돼 있다. 기업이 AI 사업을 전개하기 이전 법 위반 여부를 우려하는 경우 개보위가 사전 협의에 참여하는 사전적정성 검토제가 언급되기도 했다.

이날 고 위원장은 "데이터 처리의 회색지대(Gray Area)를 악용하거나 프라이버시를 도외시하는 AI 서비스가 국민 권익을 침해하는 일이 발생하면 해당 기업은 물론 국가 전체의 AI 혁신 동력을 해칠 수 있다"며 "AI 모델을 개발하거나 서비스 기획 단계부터 기업이 스스로 개인정보 침해 위험성을 관리하는 문화가 정착될 수 있도록 정부와 기업이 함께 노력해 나가야 한다"고 강조했다.

한편 이통3사는 하반기에 자사의 특성을 살린 생성형 AI를 공개하면서 생성형 AI 시장 진입에 대한 의지를 보였다. SK텔레콤이 가장 먼저 지난 9월 한국어 LLM 서비스인 에이닷(A.)을 정식 출시했다. 에이닷은 SK텔레콤의 AI 컴퍼니 전환의 핵심 서비스로 출시 이후 한 달만에 '아이폰 통화녹음' 기능을 공개하며 많은 관심을 받았다.

이어 지난달 29일 LG유플러스가 자사가 보유한 통신, 플랫폼 데이터와 AI 기술 역량을 통합한 통신 전용 생성형 AI '익시젠'을 개발한다고 밝혔다. 그룹사인 LG가 이미 초거대 범용 AI인 '엑사원'을 보유하고 있어 별도로 AI 개발을 고려하지 않는다는 입장을 유지하던 LG유플러스가 '통신 맞춤형'으로 전략을 달리하는 모습이다. 마지막으로 KT도 31일 초거대 AI 믿음을 출시하며 B2B 시장 개척을 위한 초거대 AI 개발에 이어 B2C 영역 진출까지 역량을 강화하겠다고 밝혔다. 

beans@newspim.com

[뉴스핌 베스트 기사]

사진
트럼프 주니어 취재진 피해 조용히 입국 [서울=뉴스핌] 조민교 기자 = 정용진 신세계그룹 회장 초청으로 한국을 방문한 도널드 트럼프 미국 대통령의 장남 트럼프 주니어가 취재진을 피해 조용히 입국했다. [서울=뉴스핌] 최지환 기자 = 도널드 트럼프 미국 대통령의 장남 트럼프 주니어가 29일 오후 서울 강서구 김포국제공항에 도착해 탑승기에서 내리고 있다. 2025.04.29 choipix16@newspim.com 29일 재계에 따르면 트럼프주니어는 전용기편으로 입국해 서울김포비즈니스항공센터에 오후 6시20분경 도착했다. [서울=뉴스핌] 최지환 기자 = 도널드 트럼프 미국 대통령의 장남 트럼프 주니어가 29일 오후 서울 강서구 김포국제공항에 도착해 탑승기에서 내리고 있다. 2025.04.29 choipix16@newspim.com 이후 취재진을 피해 건물 오른쪽으로 나간 뒤 준비된 벤츠 차량을 타고 떠났다. 차량은 정 회장 측에서 직접 준비한 것으로 전해졌다. 트럼프주니어 외 여성 1명이 동행했으며 화사한 옷을 입은 채 꽃을 들고 있던 것으로도 전해졌다.  현장에는 취재진과 경호원을 포함해 많은 인력이 대기 중이었다. 강서경찰서에서도 출동해 안전사고 예방에 만전을 기하는 모습이었다.  [서울=뉴스핌] 조민교 기자 = 트럼프주니어를 위해 마련된 의전 차량. 왼쪽 차량을 타고 공항을 빠져나간 것으로 전해졌다. 2025.04.29 whalsry94@newspim.com 당초 트럼프주니어는 차량을 타고 숙소로 바로 이동할 것으로 전해졌으나 경기 성남시 백현동 소재 정 회장 자택으로 이동해 저녁 식사를 함께하며 회동을 가질 계획인 것으로 나타났다. 만찬 회동 이후 트럼프 주니어는 이날 밤 10시쯤 서울 강남구에 있는 조선팰리스 호텔로 이동할 예정이다. 이 호텔에서 하룻밤 묵은 뒤 30일 국내 재계 총수들과 릴레이 면담을 이어갈 것으로 알려졌다. [서울=뉴스핌] 최지환 기자 = 도널드 트럼프 미국 대통령의 장남 트럼프 주니어가 29일 오후 서울 강서구 서울김포비즈니스항공센터를 통해 입국하고 있다. 2025.04.29 choipix16@newspim.com 이번 트럼프 주니어의 방한은 평소 친분이 있는 정용진 신세계그룹 회장이 '가교 역할'을 하면서 성사됐다. 정용진 회장은 트럼프 주니어의 방한 일정에 동행할 것으로 알려졌다. 이후 트럼프 주니어의 구체적인 방한 일정은 확인되지 않고 있다. 다만 재계에서는 삼성과 SK, 현대차, LG 등 4대그룹을 비롯해, 한화, GS, HD현대중공업 등 10대 그룹 주요 총수들이 연이어 트럼프 주니어와의 면담에 나설 것으로 예상하고 있다. 면담 예정일은 오는 30일로 전해졌다. 트럼프주니어를 기다리는 취재진으로 북적거리는 모습. [사진=공동취재단] mkyo@newspim.com 2025-04-29 19:29
사진
'김문수·한동훈' 최종 승자는 누구 [서울=뉴스핌] 박서영 김가희기자 = 국민의힘 대통령선거 결선 진출자에 김문수·한동훈 후보가 이름을 올렸다. 반탄(탄핵반대)파 김 후보와 찬탄(탄핵찬성)파 한 후보가 2파전을 겨루게 된 가운데 최종 1인 자리를 놓고 치열한 공방이 펼쳐질 것으로 보인다. 국민의힘 대선 후보 경선 선거관리위원회는 29일 오후 3차 경선에 진출할 후보자 2명을 발표했다. 안철수·홍준표 후보는 탈락했다. [서울=뉴스핌] 윤창빈 기자 = 29일 서울 여의도 국민의힘 당사에서 열린 제21대 대통령 후보자 국민의힘 3차 경선 진출자 발표 행사에서 3차 경선에 진출한 김문수(가나다순) 후보와 한동훈 후보가 기념촬영을 하고 있다. 2025.04.29 pangbin@newspim.com 황우여 국민의힘 선거관리위원장은 경선 결과를 발표하며 "과반 득표자가 없어 3차 경선으로 이어지게 됐다"며 "우리 당과 대한민국의 미래를 위해 깊이 고민하시고 이번 투표에 참여해주신 존경하는 당원 여러분께 진심으로 감사하다"고 말했다. 2강 후보에 진입한 김 후보는 "한 후보와 같이 마지막 경선을 하게 된 것을 매우 감사하게 생각한다. 미래가 창창한 대한민국을 위해 한 후보께서 많은 역할 해주시길 기대한다"고 인사를 전했다. 한 후보는 "어려운 대선 상황에서 김 후보와 제가 생각은 조금 다르지만 2인 3각의 마음으로 하나의 후보로서 이재명 더불어민주당 대선 후보와 맞서야 한다"며 "남은 경선 과정에서 김 후보를 경쟁자가 아닌 동반자로 생각하고 함께 이재명과 싸워 이기는 한 팀이 되겠다"고 목소리를 높였다. 앞서 홍 후보는 경선 결과 발표 직전 한덕수 대통령 권한대행을 입당시켜, 3차 경선에 진출하는 2명의 후보와 '원샷 국민 경선'을 진행하자고 제안했다. 이에 대해 김 후보는 "그 부분은 조금 더 논의를 해봐야 한다"고 말을 아꼈다. 그는 경선 결과 발표 직후 기자들과 만나 "한 대행도 아직 출마선언을 하지 않았다. 지금 제가 답을 드리는 것 자체가 너무 앞서가는 것이고 당에서도 생각이 있을 것이기 때문에 차차 논의될 것으로 본다"고 즉답을 피했다. 한 후보는 한 대행을 포함한 '원샷 경선'이 공정성에 어긋난다고 강조했다. 그는 "나머지 (탈락한) 6명은 치열한 과정을 통해 여기까지 왔기 때문에 갑자기 (한 대행이) 들어와서 여기서 경선한다는 것은 현실적이지 않다"며 "우리는 전통이 있고 룰이 있는 정당"이라고 반대 의사를 내비쳤다. [서울=뉴스핌] 윤창빈 기자 = 29일 서울 여의도 국민의힘 당사에서 열린 제21대 대통령 후보자 국민의힘 3차 경선 진출자 발표 행사에서 진출에 실패한 안철수 후보가 소감을 밝히고 있다. 2025.04.29 pangbin@newspim.com 한편 이날 결선 문턱을 넘지 못한 안 후보는 "누가 최종 후보가 되든 이재명을 막고 정권교체 이루는 데 제 힘을 바치겠다. 우리 당의 승리가 국민 승리고 역사의 승리"라고 소회를 전했다. 홍 후보는 이날 결선 탈락을 끝으로 정계 은퇴를 선언했다. 홍 후보는 "정치인생을 오늘로서 졸업하게 되어 감사하다. 이제 시민으로, 자연인으로 돌아가서 좀 편하게 살도록 하겠다. 이번 대선에서 제 역할은 여기까지"라고 했다. 앞서 지난 27∼28일 진행된 국민의힘 2차 경선은 당원투표 50%, 국민 여론조사 50%의 룰이 적용됐다. 당원 투표엔 76만5773명 중 39만4명(50.93%)이 참여했고 국민 여론조사는 5개 기관에서 6000명(역선택 방지 적용)을 대상으로 이뤄졌다. 후보들의 순위와 득표율은 공개되지 않았다. 따라서 결선에 진출한 김 후보와 한 후보 중 누가 앞섰는지 알 수 없다. 이날 3차 경선에 진출한 김문수·한동훈 후보 2명은 오는 30일 양자 토론회를 진행한다. 국민의힘 선관위는 다음달 1∼2일 양일 동안 선거인단 투표(50%)·국민 여론조사(50%)를 거친 후 같은달 3일 전당대회에서 최종 1명을 선출할 계획이다. seo00@newspim.com 2025-04-29 15:44
안다쇼핑
Top으로 이동