[시드니=뉴스핌] 권지언 특파원 = 사이버보안 업체 크라우드스트라이크(CRWD)가 통제 불능 상태에 빠진 인공지능(AI) 에이전트의 작동을 중단할 수 있는 '킬 스위치' 기능을 출시했다. 기업들의 AI 에이전트 도입이 빠르게 늘어나는 가운데 관련 보안 위험을 차단하기 위한 대응에 나선 것이다.

크라우드스트라이크 주가는 3일(현지시간) 정규장 마감 후 시간외 거래에서 보합권에 머물고 있다.

크라우드스트라이크는 이날 내부 AI 에이전트가 오작동할 경우 보안팀이 이를 중단하고 재실행을 차단하는 한편, 기업 네트워크 접근까지 끊을 수 있는 기능을 공개했다. 해당 기능은 AI 에이전트 보안을 위해 지난 9월 출시한 팰컨 가디언(Falcon Guardian) 플랫폼에 내장된다.

회사는 앤스로픽의 클로드 코워크(Claude Cowork)와의 통합도 발표했다. 아울러 AI 관측 가능성(observability) 스타트업 피들러 AI(Fiddler AI)와 AI 보안 테스트 업체 드레드노드(Dreadnode)를 인수할 계획도 밝혔다.

크라우드스트라이크와 경쟁사들은 증가하는 사이버보안 수요에 대응하기 위해 관련 스타트업 인수를 확대하고 있다. AI 보안 도구에 대한 수요가 커지면서 업계 전반의 인수합병 움직임도 활발해지고 있다.

최근 잇따른 사이버보안 사고도 AI 에이전트의 비상 중단 장치 필요성을 부각하고 있다. 지난 7월 통제를 벗어난 오픈AI 에이전트가 주도한 허깅페이스(Hugging Face) 침해 사고가 발생했으며, 지난주 바이낸스는 역대 최대 규모의 가상자산 사이버 공격을 공개했다. 최근에는 프랑스 슈퍼마켓의 냉장고와 냉동고 수백 대가 해커들의 공격을 받기도 했다.

미국 하원의원들은 올여름 AI 기업들이 자사 모델에 작동 중단 기능을 내장하도록 의무화하는 초당적 법안을 발의했다. 다만 비판론자들은 여러 시스템과 데이터센터, 복잡한 AI 모델 전반에 걸쳐 비상 정지 기능을 구현하기에는 지나치게 복잡하다고 지적한다.

◆ "전등 스위치처럼 작동"…판단은 결국 사람 몫

대니얼 버나드 크라우드스트라이크 최고사업책임자(CBO)는 킬 스위치가 고객들이 팰컨 플랫폼을 사용하는 시스템에서 전등 스위치처럼 작동한다고 설명했다. 다만 내부 에이전트의 활동을 감지한 뒤 해당 활동이 무해한지 악의적인지 판단하는 과정에는 사람의 개입이 필요하다고 밝혔다.

그는 "프로세스를 근원에서 중단시키는 것이고, 우리는 그 근원 수준의 접근 권한을 갖고 있다. 매우 이분법적"이라며 "AI와 에이전트를 중단시키거나 그렇지 않거나 둘 중 하나이고, 그다음 그 결과를 보고한다"고 말했다.

크라우드스트라이크는 새 기능을 통해 기업들이 AI 에이전트의 잘못된 행동을 즉시 차단하면서도 혁신의 여지를 남길 수 있을 것으로 기대하고 있다.

버나드 CBO는 CNBC에 "에이전트를 통제하고 작동을 중단할 수 있으며, 판단을 내리고 결정을 내릴 수 있는 능력이 AI 도입의 다음 단계에서 매우 중요하다"고 강조했다.

kwonjiun@newspim.com