미국이 개발 중인 6세대 전투기 F-47은 단순히 F-22보다 빠르고 멀리 나는 차세대 전투기가 아니다. 구체적인 작전반경이나 편대 구성은 아직 공개되지 않았지만, 유인 전투기와 무인 협업 전투기, 인공지능(AI), 각종 센서와 지휘통제망을 하나로 연결하는 '전투체계의 중심'이라는 점은 분명하다. 미래전의 경쟁력이 개별 무기의 성능에서 사람과 AI가 함께 움직이는 팀의 능력으로 옮겨가고 있는 것이다.

실제 전장은 미리 세운 계획이나 시뮬레이션처럼 움직이지 않는다. 적은 예상하지 못한 곳에서 나타날 수 있고, 통신이나 센서가 갑자기 마비될 수도 있다. 몇 분 전까지 옳았던 판단이 상황 변화로 잘못된 판단이 되기도 한다. 따라서 달라진 상황을 빠르게 파악하고, 유인기와 무인기 사이에서 임무를 다시 나눌 수 있는 유연한 지휘체계가 필요하다.

KF-21 보라매의 미래 경쟁력도 속도나 레이더 성능만으로 평가해서는 안 된다. KF-21이 무인기와 정찰위성, 지상·해상 센서, 방공체계와 실시간으로 정보를 공유할 수 있는지가 중요하다. 통신이 끊겼을 때 무인체계가 스스로 어느 범위까지 임무를 수행할 수 있는지도 따져봐야 한다. 우리 군의 진짜 약점은 개별 무기의 성능보다 무기와 정보를 연결하고, 지휘하며, 그 과정이 제대로 작동하는지 검증하는 체계의 부족에서 나타날 수 있다.

우리나라는 2023년 '국방혁신 4.0'을 수립했고, 2024년 4월에는 국방AI센터를 창설했다. 작전사령부급 이하 부대도 유·무인 복합전투체계를 중심으로 바꾸고 있다. 국방 분야의 AI 전환이 이미 시작된 셈이다.

하지만 방위사업청의 2026년 국방예산 설명을 보면 합동참모본부와 육·해·공군의 지휘통제체계가 아직 완전히 통합되지는 않았다. 군별·부대별로 들어가 보면 데이터가 여러 곳에 흩어져 있어 AI가 이를 종합적으로 활용하기 어렵다. 높은 보안 수준을 유지해야 하기 때문에 민간의 우수한 생성형 AI를 곧바로 도입하기도 쉽지 않다.

기존 무기체계의 획득 절차가 AI 기술의 빠른 발전 속도를 따라가지 못할 가능성도 있다. AI가 잘못된 판단을 내리거나 해킹과 데이터 조작의 영향을 받았을 때 누가 책임질 것인지, 어떤 절차로 안전성을 검증할 것인지도 아직 충분히 정리되지 않았다. 반복적인 행정업무를 AI 에이전트가 처음부터 끝까지 처리하는 방식 역시 군 전반에 자리 잡지 못했다.

병역자원이 줄어드는 상황에서 AI 에이전트는 새로운 가능성을 보여준다. AI 에이전트는 주어진 목표와 상황을 이해하고, 필요한 도구를 활용해 업무를 처리하며, 그 결과를 바탕으로 성능을 개선하는 시스템이다.

국방부는 전투 지휘와 무력 사용, 민간인 피해 가능성 판단처럼 사람의 경험과 책임이 반드시 필요한 업무에 숙련된 인력을 집중해야 한다. 규정 검색과 보고서 작성, 장비 점검 결과 분석, 정비·보급 수요 예측과 같은 반복 업무는 AI를 활용해 적극적으로 자동화할 필요가 있다.

다만 반복 업무라고 해서 단순히 담당 인력을 줄이는 방식으로 접근해서는 안 된다. 정비와 보급에서 문제가 생기면 전투부대의 작전까지 멈출 수 있기 때문이다. AI와 민간위탁을 활용하더라도 위기 상황에 투입할 수 있는 대체인력까지 함께 준비해야 한다.

1986년 월드컵에서 나온 마라도나의 '신의 손' 사건은 국방 AI에도 중요한 교훈을 준다. 당시 비디오 판독 기술이 있었다면 오심을 바로잡을 수 있었을 것이다. 하지만 기술이 있다고 해서 판정 문제가 저절로 해결되는 것은 아니다. 언제 영상을 다시 볼 것인지, 누가 최종 결정을 내릴 것인지, 어떤 증거가 있어야 판정을 뒤집을 수 있는지에 대한 규칙도 필요하다.

국방 AI도 마찬가지다. AI가 표적을 발견하고 공격을 추천할 수는 있지만, 사람의 생명과 직결되는 무력 사용의 최종 결정까지 맡겨서는 안 된다. AI는 지휘관이 더 넓고 정확하게 상황을 보도록 도울 수 있지만, 지휘관이 져야 할 책임까지 대신할 수는 없다.

생성형 AI는 틀린 정보를 사실처럼 그럴듯하게 제시할 수 있다. 적이 일부러 조작한 데이터나 명령에 영향을 받을 가능성도 있다. 따라서 국방 AI는 평상시의 평균 정확도만으로 평가해서는 안 된다. 센서 고장과 통신 단절, 사이버공격, 적의 기만이 벌어지는 상황에서도 제대로 작동하는지 시험해야 한다.

데이터를 수집하는 순간부터 AI가 판단하고, 사람이 이를 승인한 뒤 명령이 실행될 때까지 전 과정을 검증하는 장치도 필요하다. 문제가 생겼을 때 당시 어떤 정보가 입력됐고, AI가 왜 그런 판단을 했으며, 누가 최종 승인했는지를 다시 확인할 수 있어야 한다. 이것이 국방 AI에 필요한 '처음부터 끝까지의 안전·책임 체계'다.

우리 국방부는 국방혁신 4.0과 국방AI센터, 유·무인 복합전투체계를 통해 AI 전환을 시작했다. 그러나 현재의 변화는 여전히 개별 무기체계와 시범사업을 중심으로 이뤄지고 있다. AI가 활용되는 전투는 생각보다 가까이 와 있다. 이제는 기존 조직에 AI를 하나 더 얹는 수준을 넘어 지휘통제와 인력 배치, 군수·정비, 행정업무, 책임체계를 AI 시대에 맞게 다시 설계해야 한다.

우리에게 필요한 것은 눈에 띄는 미국식 'F-47' 한 대가 아니다. KF-21과 무인기, AI 에이전트와 지휘관이 하나의 팀처럼 움직이는 한국형 협업체계다. 국방부는 '무기 중심'에서 '체계 중심'으로, 사람을 줄이기 위한 AI에서 임무 수행 방식을 바꾸는 AI로 전환해야 한다.

미래전의 승패는 가장 똑똑한 AI를 가진 나라가 아니라, 사람과 AI가 서로 믿고 협력하면서도 최종 책임의 주체를 분명히 한 나라가 결정할 것이다.

*박정인 교수(법학박사)는 대통령 국가지식재산위원회 본위원회 위원, 문체부 저작권보호심의위원회 심의위원, 문체부 여론집중도조사위원회 상임위원, 인터넷주소분과위원회, 웹콘텐츠 활성화위원회 자문위원, 강동구 공직자윤리위원회 심의위원, 경찰청 사이버범죄 강사 등 여러 국가 위원을 역임했다. 공공기관 대상 법령입안강의를 하며, 대학에서 특허법, 저작권법, 산업보안법, 과학기술법, 정보보안법, 디지털증거법, ICT트러스트공학, 일반 산업안전, 중대재해법 등을 강의한다. 한국인터넷진흥원, 한국콘텐츠진흥원, 인텔리콘 메타연구소, 해인예술법연구소, 숙명여대 초빙교수, 단국대 연구교수 등을 역임했다.