전체기사 최신뉴스 GAM
KYD 디데이

[딥시크 쇼크] 보안·신뢰성 논란...폭탄 제조법에 악성코드까지

기사입력 : 2025년01월31일 09:02

최종수정 : 2025년01월31일 09:02

탈옥을 통한 악의적 정보 생성 가능성
신뢰성 부족과 오정보 생성 위험

[서울=뉴스핌] 오영상 기자 = 저비용 생성형 AI(인공지능) 기술로 주목받고 있는 중국의 대규모 언어 모델(LLM) '딥시크(DeepSeek)'가 보안 및 신뢰성 문제로 논란이 되고 있다.

포춘, 니혼게이자이신문 등 외신들에 따르면 전문가들은 딥시크의 보안 장치가 미흡해 악성코드 제작, 랜섬웨어 개발, 폭탄 제조법 안내 등 부정적 용도로 악용될 가능성이 크다고 경고하고 있다.

[서울=뉴스핌] 최헌규 중국전문기자= 2025.01.28 chk@newspim.com

◆ 탈옥을 통한 악의적 정보 생성 가능성

딥시크의 보안 문제는 특히 '탈옥(Jailbreak)'을 통한 악의적 정보 생성이 가능하다는 점에서 심각성이 제기된다.

일반적으로 생성형 AI의 기반이 되는 대규모 언어 모델에는 부적절한 이용이 의심되는 프롬프트(지시)를 거부하는 '가드레일(안전장치)' 기능이 탑재돼 있다. 하지만 문구를 변형한 프롬프트를 사용해 이러한 제한을 우회하는 행위를 '탈옥'이라고 부른다.

일본의 보안 기업 미쓰이물산 시큐어디렉션의 요시카와 다카시 수석 악성코드 분석 엔지니어는 "현재 생성되는 악성코드는 정밀도가 낮지만, AI 성능이 향상되면 사이버 공격에 활용될 위험이 커진다"고 우려를 나타냈다.

요시카와가 지난해 12월 공개된 딥시크의 대규모 언어 모델 'V3'를 테스트한 결과, 악성코드 작성법이나 폭탄 제조법과 같은 민감한 정보를 제공하는 경우가 확인됐다. 같은 요청을 미국 오픈AI의 'GPT-4o'에 입력했을 때는 응답을 거부했다.

또한 지난 1월 20일 공개된 딥시크의 'R1' 모델은 논리적 사고 과정을 표시하는 기능이 도입됐는데, 이 과정에서 악성코드가 직접적으로 화면에 표시되는 문제가 발견됐다. 이는 AI가 직접적으로 악성 소프트웨어 제작을 돕는 결과를 초래할 수 있다는 점에서 보안 우려를 낳고 있다.

이스라엘의 정보 보안 기업 켈라도 딥시크의 보안 취약성을 지적하며, R1 모델을 이용해 랜섬웨어 개발, 독소 및 폭발물 제조 지침 생성 등 다양한 악의적 시도가 가능했다고 발표했다.

오픈AI 챗GPT와 딥시크.[사진=로이터 뉴스핌] 2025.01.28 mj72284@newspim.com

◆ 신뢰성 부족과 오정보 생성 위험

딥시크의 또 다른 문제는 신뢰성 부족이다. 미국의 정보 신뢰성 평가 기관 뉴스가드의 조사에 따르면, 딥시크 챗봇은 뉴스 관련 질문에 83%의 높은 비율로 부정확한 답변을 제공하거나 응답하지 못했다. 또한 거짓 정보가 주어졌을 때 이를 반박하는 경우는 17%에 불과했다.

켈라의 실험에서 딥시크는 오픈AI 직원 10명의 이메일 주소, 전화번호, 급여 등의 데이터를 생성하도록 요청받았을 때 실제처럼 보이는 허위 정보를 제공했다. GPT-4o는 같은 요청에 대해 개인정보를 제공할 수 없다고 거부했다.

이러한 신뢰성 부족으로 인해 딥시크의 R1 모델은 테스트 대상이었던 11개 챗봇 중 10위라는 저조한 성적을 기록했다. 반면 오픈AI의 GPT-4o, 앤스로픽의 '클로드', 미스트랄의 '르챗' 등 서구권 국가의 AI 모델들은 대부분 상위권에 올랐다.

딥시크의 운영사가 서구권 국가들과 개인정보 보호법이 다른 중국 기업이라는 점도 문제로 지적되고 있다. 이 회사는 이용 약관에서 사용자의 데이터가 중국 내 서버에 저장되며, 중국 법률이 적용된다고 명시하고 있다. 또한 분쟁 발생 시 중국 법원에서 해결해야 한다는 조항도 포함돼 있다.

전문가들은 "중국은 국가 안보를 위한 정부의 데이터 조사에 기업이 협력할 의무를 지는 법 제도가 있다"며 "딥시크가 보유한 사용자 데이터를 정부에 제공하도록 강제하기 쉬운 환경"이라고 지적했다.

이러한 보안 문제로 인해 서구권에서는 딥시크에 대한 경계를 강화하고 있다. 미국 해군은 딥시크 사용을 금지했으며, 백악관은 국가안보회의(NSC) 차원에서 딥시크의 영향을 검토 중이다.

또한 유럽에서는 여러 국가의 규제 기관이 딥시크에 투명성 관련 설명을 요구하고 있으며, 이탈리아에서는 애플리케이션 스토어에서 딥시크 앱이 삭제됐다.

일본에서도 딥시크 사용을 제한하는 움직임이 나타나고 있다. GMO 인터넷 그룹은 보안 리스크를 이유로 딥시크를 업무에 사용하지 않기로 결정했으며, KDDI는 직원이 이용을 신청할 경우 입력 정보 보호 등의 리스크를 심사할 방침이다.

goldendog@newspim.com

[뉴스핌 베스트 기사]

사진
돌연 취소된 '2+2 통상협상' 왜? [세종 = 뉴스핌] 김범주 기자 = 25일(현지 시각) 미국 현지에서 열릴 예정이었던 '한미 2+2 재무·통상 협의'가 돌연 취소된 배경에 관심이 모아지고 있다. 미국 측이 한국 대표단에 '양해'의 뜻을 여러 차례 표명했다는 것이 우리 정부의 설명이지만, 외교상 결례에도 불구하고 협의를 미뤄야 했던 배경에는 한국 협상단을 길들이겠다는 의도가 있는 것 아니냐는 해석이 나온다. [영종도=뉴스핌] 김학선 기자 = 미국 측 요청으로 한미 2+2 통상 협의가 연기된 24일 구윤철 부총리 겸 기획재정부장관이 출국 직전 취소 소식을 듣고 인천공항 2터미널을 나서고 있다. 2025.07.24 yooksa@newspim.com 24일 기획재정부에 따르면 구윤철 부총리 겸 기재부 장관은 이날 오전 9시경 이메일로 미국 측으로부터 협의 취소를 통보 받았다. 이날 오전 구 부총리는 협의를 위해 미국으로 출발할 예정이었다. 당시 인천공항 대기실에 있었던 것으로 파악됐다. 기재부는 이 같은 사실을 오전 9시 30분께 언론에 공개했고, 구 부총리는 정부 관계자들과 함께 오전 9시 50분께 공항을 빠져나갔다. 이날 회의가 취소가 된 배경에 대해 기재부 측은 "스콧 베선트 재무장관의 긴급한 일정 때문이었다"고 설명했다. 다만 '긴급한 일정'에 대한 설명은 없었던 것으로 파악됐다. 미국 측이 이메일을 통해 여러 차례에 걸쳐 사과 의사를 밝혔지만, 협상 관련 구체적 일정은 확정하지 않았다는 설명이다. 김정관 산업통상자원부 장관, 여한구 통상교섭본부장의 미국과의 협상은 예정대로 진행된다. 김 장관은 크리스 라이트 에너지장관 등을, 여 본부장은 제이미스 그리어 무역대표부(USTR) 대표와 각각 만난다. 하지만 양국 경제·통상 수장이 구체적 이유 없이 협의를 돌연 취소한 배경으로 한미간 협상이 난항을 겪은 것 아니니냐는 해석이 나온다. 앞서 지난 20일 미국으로 출국한 위성락 대통령실 국가안보실장은 이날 오후 귀국할 예정이지만, 고위급 협상에 진전이 없었던 것 아니냐는 관측도 나온다. 한국 정부는 1000억달러(약137조원) 규모의 미국 현지 투자 계획을 미국 정부에 제안할 예정인 것으로 전해졌다. 한국보다 먼저 관세협상을 타결한 일본 사례를 참고해 짠 전략으로 풀이된다. 일본은 5500억달러(약 757조원) 규모의 투자 펀드를 약속하고 미국과의 상호관세 15%부과에 합의했다. [영종도=뉴스핌] 김학선 기자 = 미국 측 요청으로 한미 2+2 통상 협의가 연기된 24일 구윤철 부총리 겸 기획재정부 장관이 출국 직전 취소 소식을 듣고 인천공항 2터미널을 나서고 있다. 2025.07.24 yooksa@newspim.com 다만 한국 정부가 제시할 투자 규모에 미국 정부가 만족할지 여부는 미지수다. 댄 스커비노 백악관 부비서실장이 최근 소셜미디어(SNS) 엑스(옛 트위터)에 공개한 일본 대표단과의 협상 사진을 살펴보면 트럼프 대통령이 직접 대미 투자액을 상향했을 것으로 추정되는 투자액이 나온다. 애초 일본이 제시한 투자액 4000억달러는 펜으로 그어져 있고, 그 위에 5000억달러라는 숫자가 써 있었기 때문이다. 트럼프 대통령은 전날 일본의 대미국 투자액은 5500억달러라고 공개했다. 협상액보다 500억 달러가 높아진 셈이다. 촉박한 협상 일정을 무기 삼아 미국이 비관세 영역도 손보려는 의도가 아니니냐는 해석도 나온다. 2025년 미국 무역대표부의 비관세 장벽 보고서(NTE)에서도 한국의 방산·통신·원전 분야를 지적했다. 박기훈 한국투자증권 연구원은 "방산과 통신은 미국 기업의 진입 장벽이라는 측면에서 구조 개선에 대한 압력을 가할 가능성이 크다"고 지적했다. wideopen@newspim.com 2025-07-24 18:42
사진
특검, 한덕수 자택·총리공관 압수수색" [세종=뉴스핌] 양가희 기자 = 내란특검팀이 24일 국무총리 서울공관에 대한 압수수색에 들어갔다. 국무총리실은 이날 문자 공지를 통해 특검팀의 수사에 적극 협조하고 있다며 이같이 밝혔다.   특검은 이날 한덕수 전 총리 자택 압수수색에도 나섰다. [서울=뉴스핌] 이형석 기자 = 한덕수 전 국무총리가 2일 오후 서울 서초구 서울고등검찰청에 마련된 내란 특검 사무실에서 조사를 마치고 차량으로 이동하고 있다. 2025.07.02 leehs@newspim.com 한 전 총리는 윤석열 전 대통령의 비상계엄 선포 계획을 알고도 이를 묵인 또는 방조했다는 의혹을 받고 있다. 특검은 압수물 분석을 마치는 대로 한 전 총리 등을 다시 조사한 뒤 구속영장 청구 여부 등을 검토할 전망인 것으로 알려졌다. sheep@newspim.com 2025-07-24 13:54
안다쇼핑
Top으로 이동