불 뿜는 드론, 전차포를 메고 달리는 로봇 개. SF영화의 한 장면이 아니다. 현실이 되어 버린 군사로봇 이야기다.

우크라이나는 얼마 전 녹인 쇳물을 투하하는 일명 '드래곤 드론'을 전장에 투입했다. 러시아군의 엄호물을 제거하기 위해 2200도에 달하는 알루미늄과 산화철의 혼합물인 '테르밋'을 투하하는데 인간의 뼈까지 녹이는 치명적인 살상무기로 알려졌다. 군사전문가들은 드래곤 드론이 물리적인 타격보다 적에게 공포심을 주기 위한 심리효과를 노렸다고 분석한다.

로봇 개도 실전에 나섰다. 최근 공개한 우크라이나군의 영상에 의하면 원격 감지기술과 열화상 카메라가 적용된 로봇 개는 전장 주변의 환경을 실시간 기록 저장할 뿐 아니라 탄약과 수류탄 등 보급품 운반에도 쓰인다. 7kg의 물품을 싣고 시속 14.5km 이상의 속력으로 3.2km 이상 이동하며 최대 5시간동안 작동하는 로봇 개는 몸집이 작아서 러시아 드론에 거의 감지되지 않는다.

하민회 이미지21 대표.

AI와 로봇이 전쟁의 양상을 바꾸고 있다. 3년이 가까워지는 우크라이나 전, 5개월째 끝나지 않는 이스라엘 전은 '알고리즘 전쟁'의 실체를 보여준다.

재래식 무기와 인력 중심의 전통적인 전쟁 패러다임이 첨단 AI 기반의 무인, 자율 기술로 옮겨가면서 전에 보지 못한 새로운 무기가 대거 등장했다. 정밀 타격 능력을 갖춘 AI 자폭 드론과 무인항공기, 전투 현장을 누비는 AI 로봇 개, 공격 목표를 스스로 정하는 AI 탱크, 대규모 데이터 분석을 통해 공습대상을 지목하는 시스템, 적을 인식해 추적하는 프로그램 등이 실전에서 활용되고 있다.

심지어 AI는 식별과 타깃 공격을 넘어 전쟁 전체의 시나리오를 짜는 '사령관'의 역할까지 넘보고 있다. 각종 전쟁 정보와 인간의 사고방식과 결함까지 모두 학습한 AI는 수 천만 번의 시나리오를 거듭 돌려 인간이 미처 생각 못한 '신의 한 수'를 찾아낸다.

[서울=뉴스핌] 양윤모 기자 = '2024 인공지능의 책임 있는 군사적 이용에 관한 고위급 회의(2024 REAIM 고위급 회의)' 개막식이 국방부와 외교부 공동 주관으로 9일 오전 롯데호텔 서울 크리스탈볼룸에서 김용현 국방부 장관, 조태열 외교부 장관 등이 참석한 가운데 개최되었다. REAIM 고위급 회의는 AI의 군사적 이용이 국제 평화와 안보에 미치는 영향에 대한 이해를 제고하고 관련 국제 규범 형성 과정에 기여하고자 출범했으며, 정부, 산업계, 학계, 국제기구 등 다중 이해관계자가 함께 참여하는 1.5트랙 국제 다자 회의체이다. 2024.09.09 yym58@newspim.com

미국의 시뮬레이션에서는 AI 사령관의 작전 능력이 인간을 능가했고 사우스차이나모닝포스트에 따르면 중국은 인민해방군(PLA)이 수십년 간 쌓은 전략을 학습시킨 AI 사령관을 이용해 최선의 시나리오를 도출하는 워 게임까지 실시했다.

전쟁 알고리즘의 목표는 뚜렷하다. 적군의 피해를 극대화하고 아군의 피해를 최소화하는 것. 신속하고 정확한 의사결정과 작전의 효율성 증대가 필수적이다.

위험한 임무에 로봇을 투입하면 아군의 인명 손실을 크게 줄이고 24시간 연속 작전 수행이 가능하다. 전투의 템포가 가속화되는 건 물론 국민의 지지까지 얻어낼 수 있다. 군사로봇과 AI 활용이 증가할 수밖에 없는 현실적인 이유다.

문제는 승리를 위해 인간의 판단은 점차 축소되고, AI의 결정에 의존하게 된다는 점.

대표적으로 전투 지휘와 공격 명령, 인명 살상 결정권과 이에 따른 각종 윤리적 판단까지 AI에게 맡기는 '자율 살상 무기 시스템(LAWS· Lethal Autonomous Weapon Systems)'을 꼽을 수 있다.

자율 살상 무기는 공식적으로는 가동되지 않는다고 알려졌지만 이미 우크라이나 전에서부터 실전에 투입되었다. 미국 기업 팰런티어의 국방 정보 플랫폼 '고담'은 우크라이나가 러시아군의 위치를 정확히 파악하는 데 큰 역할을 했고, 우크라이나의 전술 프로그램 'GIS 아르타'는 적 드론 등의 표적을 식별해 가장 효율적인 부대에 화력 지원을 명령한다.

이스라엘은 하마스 전에서 얼굴인식 프로그램 '라벤더'로 테러리스트를 식별해 표적으로 선정한 후 건물과 구조물을 목표물로 식별하는 또 다른 AI 프로그램 '가스펠'과 함께 사용해 폭격작전을 수행했다. '라벤더'는 하마스 한 명 사살에 민간인 15명 희생을 허용하는 교환 비율을 적용했다고 알려져 있다.

[서울=뉴스핌] 양윤모 기자 = '2024 인공지능의 책임 있는 군사적 이용에 관한 고위급 회의(2024 REAIM 고위급 회의)' 개막식이 국방부와 외교부 공동 주관으로 9일 오전 롯데호텔 서울 크리스탈볼룸에서 김용현 국방부 장관, 조태열 외교부 장관 등이 참석한 가운데 개최됐다. 행사에 참여한 콜롬비아 공군 관계자가 KAI의 FA-50의 시뮬레이터를 이용하여 강화학습으로 학습한 AI Agent 와 전술훈련을 체험하고있다. REAIM 고위급 회의는 AI의 군사적 이용이 국제 평화와 안보에 미치는 영향에 대한 이해를 제고하고 관련 국제 규범 형성 과정에 기여하고자 출범했으며, 정부, 산업계, 학계, 국제기구 등 다중 이해관계자가 함께 참여하는 1.5트랙 국제 다자 회의체이다.2024.09.09 yym58@newspim.com

자율 살상 무기는 혁신적이지만 여전히 윤리적 쟁점의 한 가운데 자리한다.

인간의 판단을 배제한 채 알고리즘에 의해 살상 결정이 이루어지기 때문에 인간의 존엄성을 해칠 뿐 아니라 생명 경시 현상을 유발할 수도 있다. 하마스 1인 사상에 15명의 부수적 희생자를 적용했던 라벤더는 이제 목표물에 따라 민간인 희생 교전 비율을 변경한다. 상황에 따라 얼마든지 부수적인 희생이 늘어날 수도 있는 셈이다. 실지로 이스라엘의 폭격으로 수많은 팔레스타인 민간인이 사망했고 그 중 상당수가 전쟁과 무관한 여성과 어린이였다.

로봇에 의한 오판 및 민간인 피해 발생 시 책임 소재가 명료하지 않은 점, 인력과 자원 소모가 적어지는 만큼 전쟁의 문턱을 낮춰 국가들이 전쟁 개시 결정을 쉽게 만드는 점도 국제 평화와 안보에 심각한 위협이 될 수 있다. 시스템의 오작동이나 해킹으로 인한 예기치 않은 공격, 로봇 탈취 및 역이용 위험성 등도 완전히 배제하기 어렵다. 

"군사 분야 인공지능(AI)은 반드시 적용 가능한 국제법과 국내법에 합치하는 방식으로 개발·배치·이용돼야 하며 핵 사용 등 주요 결정에선 인간의 통제가 유지돼야 한다"

지난 10일 서울에서 열린 'AI의 군사적 이용' 국제회의에서 90국 국방·안보 책임자들이 한 목소리를 냈다. 군사 AI가 실전에 배치돼 활용되고 있음에도 이를 규제할 국제 협약이 전무한 상태에서 군사 AI의 이용 책임을 둘러싼 국제 사회의 첫 합의문이다. 예리한 양날의 검이 가진 위험성을 인정하고 다치지 않고 다루는 법에 관해 전 세계가 머리를 맞댄 셈이다.

[서울=뉴스핌] 양윤모 기자 = '2024 인공지능의 책임 있는 군사적 이용에 관한 고위급 회의(2024 REAIM 고위급 회의)' 개막식이 국방부와 외교부 공동 주관으로 9일 오전 롯데호텔 서울 크리스탈볼룸에서 김용현 국방부 장관, 조태열 외교부 장관 등이 참석한 가운데 개최되었다. 행사 참석자들이 국방연구소 자율탐사 로봇에 관심을 보이고 있다. REAIM 고위급 회의는 AI의 군사적 이용이 국제 평화와 안보에 미치는 영향에 대한 이해를 제고하고 관련 국제 규범 형성 과정에 기여하고자 출범했으며, 정부, 산업계, 학계, 국제기구 등 다중 이해관계자가 함께 참여하는 1.5트랙 국제 다자 회의체이다.2024.09.09 yym58@newspim.com

물론 미국, 중국 등 기술 선진국을 중심으로 새로운 형태의 군비 경쟁이 이미 시작된 상황에서 국제적 합의나 협력이 얼마나 힘을 발휘할 수 있을지는 미지수다.

하지만 전 세계가 군사로봇, 자율살상무기를 개발에 열을 올리는데 우리만 손 놓고 있을 이유는 없다. 저 출생으로 인한 병력 부족에 중국, 일본이라는 주변국, 무력 시위를 일삼는 주적 북한과 살을 맞대고 사는 한국에게 군사 AI, 자율 무기 개발은 결코 선택 사항이 아니다.

민관 파트너십을 강화해 우수인력을 확보하고 자율 무기 시스템, 사이버 방어, 데이터 분석 AI 기술 등을 국방전략에 적극 도입하고 발전시켜야 한다.

방패를 뚫는 창이 등장한 현실에서 최선책은 창이 튕겨져 나갈 만큼 막강한 방패를 만드는 것 뿐이기 때문이다.

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등