[서울=뉴스핌] 최원진 기자= 엔비디아, 시스코, 크라우드스트라이크 등 120여 개 기업 및 기관으로 구성된 연합체가 인공지능(AI) 에이전트의 보안 사고와 오작동을 공유하고 기록을 보존하도록 하는 새로운 사고 보고 표준안 체계를 제안했다고 미 IT 전문매체 악시오스가 11일(현지시간) 보도했다.

이는 컴퓨터 시스템 전반에서 스스로 판단하고 행동하는 AI 에이전트의 자율성이 높아지는 반면, 기술 보안 실패 사례를 보고하고 학습할 수 있는 표준화된 체계가 없다는 지적에 따른 행보다.

비영리 단체 '오픈 보안 AI 얼라이언스(Open Secure AI Alliance)'는 AI 에이전트 관련 사이버 사고 보고 가이드라인인 'SAFE(Shared AI Findings Exchange·AI 발견사항 공유 및 교환)' 초안을 공개했다. 이 프로젝트는 비영리 오픈소스 기술 컨소시엄인 리눅스 재단(Linux Foundation)이 피드백 수렴 과정을 관장하고 있다.

이번 초안은 모델 배포자, AI 개발자, 클라우드 및 도구 제공업체, 독립 연구진, 핵심 인프라 운영자 등의 참여를 독려하고 있으며, 정부 기관 역시 '의결권 없는 참관 기관(non-controlling observers)' 자격으로 참여를 유도한다는 방침이다.

SAFE 참여 기업들은 AI 시스템이 권한 없이 제3자 시스템에 접근·악용하거나, 기밀 정보를 유출하고, 무단 활동이 의심되는 상황에서도 실제 운영 시스템을 계속 탐색하는 등의 사고가 발생할 경우 이를 의무적으로 보고해야 한다. 실질적 피해가 발생하지 않은 '아슬아슬한 위기(near misses)' 사례도 보고 대상에 포함되며, 프롬프트, 에이전트 추적 기록, 툴 호출, 계정 및 권한 정보 등의 증거 자료를 보존해야 한다.

보고 시한에 대한 타임라인도 명시됐다. 피해 발생 시 영향을 받은 조직에 즉시 알리고, 영업일 기준 4일 이내에 SAFE 측에 비공개 1차 보고서를 제출해야 한다. 이후 30일 이내에 예비 사실 보고서를 공개하고, 90일 이내에 조치 및 개선 상황을 공유하는 방식이다. 

이번 제안은 통제된 보안 테스트 환경을 벗어나 실제 제3자 시스템에 접근한 최근의 AI 에이전트 탈출 사고들을 계기로 추진됐다. 엔비디아의 저스틴 보이타노 수석부사장은 블랙햇(Black Hat) 컨퍼런스에서 이번 프로젝트가 미 항공우주국(NASA)의 항공 안전 보고 시스템에서 아이디어를 얻었다고 설명했다. AI 에이전트의 모든 행동을 감시하는 프레임워크를 '비행기 블랙박스'처럼 활용해 사고 발생 시 사이버 보안 전문가들이 올바른 통제 방안을 마련하도록 돕겠다는 구상이다.

다만, 자발적으로 자사에 불리할 수 있는 정보를 공개한 기업을 법적으로 보호해 주는 '세이프 하버(Safe Harbor·면책)' 조항이 아직 없다는 점은 한계로 꼽힌다. 그럼에도 연합 측은 위협 정보를 공유해 온 사이버 보안 업계의 기존 문화 덕분에 기업들의 적극적인 참여가 이루어질 것으로 기대하고 있다.

wonjc6@newspim.com