이 기사는 인공지능(AI) 번역을 바탕으로 전문 기자들의 검증과 분석을 거쳐 생산된 콘텐츠로, 원문은 9월 11일 블룸버그통신 기사(Anthropic Says US Adversaries Aimed Claude at Weapons Research)입니다.

[서울=뉴스핌] 김현영 기자 = 앤스로픽(Anthropic PBC)이 발표한 보고서에 따르면, 이 회사의 인공지능(AI) 모델 '클로드(Claude)'가 가미카제 드론 군집, 미사일 항법 시스템, 생물무기 개발 등 다양한 군사적 목적의 악용 시도에 이용된 것으로 나타났다.

앤스로픽 위협정보팀이 11일(현지시간) 공개한 보고서에 따르면, 이란, 러시아, 중국, 예멘 등의 이용자들이 지난 1년간 이 AI 기업의 첨단 모델을 오용한 사례로 적발됐다. 다만 이들 사례에는 앤스로픽의 최신 모델인 '페이블(Fable)'과 '미토스(Mythos)'는 포함되지 않았다.

앤스로픽은 보고서에서 "AI 모델의 성능이 갈수록 향상됨에 따라, AI 개발사와 사회의 방어 주체들이 이를 더 안전하게 만들기 위해 나서지 않는다면 그 위험 또한 커질 것"이라고 밝혔다.

미국의 AI 기업들은 중국 등 경쟁국에 뒤처지지 않기 위해 더욱 강력한 AI 시스템을 개발·배포하는 데 속도를 내는 한편, 안전장치를 유지하려 애쓰고 있다. 앤스로픽 또한 생물무기 및 재래식 무기 개발을 포함해 자사 기술이 유해한 목적으로 쓰이지 않도록 하는 데 주력하고 있다.

이러한 입장으로 인해 앤스로픽은 미 국방부와 정면으로 충돌하기도 했다. 국방부는 클로드가 대규모 감시나 자율무기 시스템에 사용되는 것을 앤스로픽이 허용하지 않자 이 회사와의 협력을 중단한 바 있다.

보고서는 이용자들이 클로드를 미국의 적대 세력을 돕는 데 활용하려 한 시도들을 담고 있다. 다수의 경우 이들은 클로드의 안전장치를 우회하거나 자신의 위치를 은폐하려 한 것으로 나타났다.

앤스로픽이 국가와 연계되지 않은 것으로 판단한 러시아 이용자들은 우크라이나 전장 영상으로 훈련된 자율형 1인칭 시점(FPV) 가미카제 드론 군집용 소프트웨어를 제작하는 데 클로드를 이용하려 한 것으로 나타났다.

보고서는 또한 생물무기 개발을 뒷받침할 수 있는 방식으로 클로드가 사용된 다섯 건의 사례연구도 상세히 다뤘다. 여기에는 모기 매개 쇠약성 바이러스인 치쿤구니야의 개량형을 만들려 한 국가지원 바이러스 학자들의 사례도 포함됐다. 이 시도는 앤스로픽이 서비스를 제공하지 않는 한 미상국의 군사 연구기관 연구비 지원을 위한 신청서 작성을 클로드에 요청한 데서 포착됐다.

앤스로픽은 보고서에 담긴 생물무기 관련 사례연구가 모두 "모호한" 성격을 지니고 있으며, 양성적(선의의) 과학적 목적을 지닌 연구일 가능성도 있다고 밝혔다.

한편 후티 반군이 장악한 예멘 북부에 기반을 둔 행위자들은 여러 종류의 미사일용 소프트웨어를 제작하는 데 클로드를 이용한 것으로 드러났다.

앤스로픽은 "해당 행위자들이 실제로 작동 가능한 장비를 배치하는 데 성공했다는 증거는 없다"고 밝혔다.

중국, 이란 등 국가와 연계된 행위자들은 감시 체계를 구축하고 이를 용이하게 하는 데 클로드를 활용하려 한 것으로 나타났다. 중국과 연계된 한 작전은 시리아군 내 위구르족을 "추적, 프로파일링, 포섭"하는 데 클로드를 이용했다. 이란의 한 조직은 예배 시간 확인 도구로 위장한 감시 소프트웨어를 만드는 데 클로드를 이용했다. 중국 외교부는 논평 요청에 즉각 응하지 않았다.

또 다른 사례에서는 말리의 국가정보기관 소속으로 추정되는 컨설턴트가 이 서아프리카 국가에서 약 2500만 대의 휴대전화를 감시하도록 설계된 시스템을 구축하는 데 클로드를 이용한 사실이 확인됐다. 이 시스템은 법원의 영장 없이도 특정 전화번호에 대한 '정보 보고서'를 생성할 수 있었다. 앤스로픽은 해당 컨설턴트의 계정을 차단했다고 밝혔지만, 클로드 기반의 이 감시 플랫폼은 이미 현지에 배치돼 회사의 완전한 통제를 벗어난 상태였다고 설명했다. 말리 정부는 논평 요청에 즉각 응하지 않았다.

앤스로픽의 보고서는 또한 러시아와 중국의 국가 지원이 의심되는 정보기관부터 핵티비스트, 사이버 범죄자에 이르기까지 다양한 해커들이 민감한 데이터를 탈취하려는 활동을 가속·증폭하는 데 자사 AI를 활용하고 있다는 점도 조명했다. 다만 보고서는 핵심 시스템에서 새롭거나 위험한 취약점을 새로 발견했다고 밝히지는 않았다.

보고서에 따르면, 마이크로소프트가 '미드나잇 블리자드(Midnight Blizzard)'라 부르며 러시아 정보기관과 연계된 것으로 알려진 해킹 조직은 "AI를 활용해 작전을 자동화함으로써 속도를 높였다"고 밝혔다. 이들은 앤스로픽의 소프트웨어를 이용해 악성코드 개발 과정 상당 부분을 자동화했으며, 군사정보 및 국방 관련 표적을 겨냥한 피싱 이메일 작성에도 이를 활용한 것으로 나타났다. 러시아 외교부는 논평 요청에 즉각 응하지 않았다.

앤스로픽은 또 다른 해킹 조직인 사이버 갈취 집단 '샤이니헌터스(ShinyHunters)'가 유출된 보안 인증정보를 검색하고, 이를 이용해 해당 조직들의 데이터를 탈취하는 데 AI를 활용했다고 밝혔다.

앤스로픽은 보고서에서 "여기서 소개한 사례들은 전형적인 오용 사례가 아니라, 현재까지 확인된 것 가운데 가장 주목할 만하고 새로운 형태의 위협 활동의 사례"라고 밝혔다. 보고서에는 이 밖에도 사기와 해킹 도구 등 다른 유형의 위협에 대한 내용도 함께 담겼다.

kimhyun01@newspim.com