[서울=뉴스핌] 이나영 기자= 인공지능(AI) 보안·인증 플랫폼 기업 라온시큐어가 피지컬AI 환경에서 로봇과 인공지능(AI)의 신원 및 권한을 검증하는 보안기술 개발에 나선다.

15일 라온시큐어는 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 지원하는 '협업지능 시스템을 위한 피지컬AI 기반 다중계층 보안기술 개발 과제'의 주관기관으로 선정됐다고 밝혔다.

이번 과제는 산업 현장에서 여러 AI와 로봇이 협업하는 과정에서 발생할 수 있는 보안 위협에 대응하기 위한 기술 개발을 목표로 한다. AI 모델과 데이터, 통신, 기기, 운영 환경 등 각 영역의 보안 취약점을 점검하고 대응할 수 있는 통합 보안체계를 구축하는 것이 핵심이다.

피지컬AI는 제조 생산라인의 산업용 로봇이나 물류 장비 등 실제 기기를 인식하고 판단해 제어하는 기술이다. 사이버 공격이나 AI의 잘못된 판단이 설비 오작동과 생산 중단, 작업자 안전사고 등 물리적 피해로 이어질 수 있어 기존 정보보안과는 다른 대응 기술이 요구된다.

라온시큐어는 전체 연구개발을 총괄하면서 로봇과 AI 에이전트의 신원·권한 관리 기술을 개발한다. 국가 모바일 신분증에 적용한 분산신원인증(DID) 기술을 활용해 개별 로봇과 AI 에이전트에 고유한 디지털 신분증을 부여하고, 권한과 위임 관계, 활동 이력을 통합 관리하는 체계를 마련할 계획이다.

이를 통해 로봇이 기기를 조작할 때 신원과 권한을 실시간으로 확인하고, 허용 범위를 벗어난 명령은 실행 단계에서 통제할 수 있도록 한다. 기존 사람 중심의 신원인증 기술을 로봇과 AI의 동작을 관리하는 영역으로 확대하는 방식이다.

이번 연구개발에는 센스톤, 틸론, 디사일로, 아이티스테이션을 비롯해 서강대학교와 전북대학교가 참여한다. 각 기관은 인증과 암호화, AI 모델 검증, 산업 현장 실증 등 분야별 기술 개발을 담당한다.

센스톤은 일회용 인증코드 생성 기술인 OTAC(One-Time Authentication Code)를 활용해 산업 현장의 접근 권한을 인증하고 비정상적인 명령을 탐지·차단하는 기술을 개발한다. 틸론은 외부와 분리된 작업 환경을 구축하고 폐쇄망 내부의 이상 징후를 탐지하는 기술을 맡는다.

디사일로는 동형암호(HE) 기술을 활용해 공정 데이터와 AI 모델 등 민감정보를 암호화한 상태에서도 분석과 학습이 가능하도록 지원한다. 아이티스테이션은 실제 제조·로봇 현장의 데이터를 연계해 개발된 보안기술의 현장 적용 가능성을 검증한다.

서강대학교는 민감한 데이터나 AI 모델 정보를 공개하지 않고도 AI의 판단 결과가 조작되지 않았음을 입증하는 검증 기술을 개발한다. 전북대학교는 환경 변화와 사이버 공격 상황에서 AI 모델의 안정성을 점검하고 이상 징후의 원인을 분석하는 기술을 담당한다.

연구진은 이들 기술을 바탕으로 AI 모델의 안전성을 사전에 점검하는 '지능형 테스트 모듈'과 현장 기기를 실시간으로 보호하는 '신뢰 무결성 모듈'을 결합한 피지컬AI 보안 플랫폼을 개발할 계획이다.

라온시큐어는 개발된 기술을 스마트팩토리와 자율제조 현장에 적용하고 향후 물류·의료·국방 등으로 활용 범위를 확대한다는 방침이다.

앞서 라온시큐어는 지난 5월 한국전자기술연구원(KETI)과 피지컬AI 보안기술 고도화를 위한 업무협약을 체결했다. 양측은 로봇과 드론 등 물리적 시스템을 제어하는 에이전틱AI 기술의 산업 현장 적용을 위한 보안 기준과 적용 방안을 공동 검증하고 있다.

이정아 라온시큐어 대표는 "피지컬AI 시대의 성패는 얼마나 뛰어난가가 아니라 얼마나 신뢰할 수 있는가에 달려 있다"며 "국가 모바일 신분증으로 검증한 인증 기술을 로봇의 영역까지 확장해 산업 현장에서 AI와 기계를 안심하고 맡길 수 있는 보안 기준을 만들겠다"고 말했다.

nylee54@newspim.com