[서울=뉴스핌] 최원진 기자= 오픈AI의 인공지능(AI) 에이전트 소프트웨어가 데이터 스크래핑 과정에서 자체 기록을 삭제하는 등 추적을 피하는 기법을 사용했다는 조사 결과가 나오면서 최근 발생한 AI 해킹 피해 파장이 확산하고 있다고 파이낸셜타임스(FT)가 1일(현지시간) 보도했다.

디지털 포렌식 업체 어시메트릭 시큐리티(Asymmetric Security)의 보고서에 따르면, 오픈AI의 모델들은 미국 질병통제예방센터(CDC), 증권거래위원회(SEC), 국제에너지기구(IEA), 미국 비영리 학술 의료센터 메이요 클리닉 등 정부 기관과 비영리단체, 기업 웹사이트 55곳에서 데이터를 수집한 것으로 나타났다.

조사 결과 해당 에이전트는 웹 접근 기록을 삭제하거나 접근을 차단하는 등 추적을 피하는 수법을 사용한 것으로 밝혀졌다. 또한 악성코드 스캔 도구인 '유알엘쿼리(Urlquery)' 서비스를 활용해 임시 이메일 사서함과 개인 계정을 만들어 데이터를 다운로드하는 전술까지 구사한 것으로 드러났다.

이는 그간 인간 해커들이 추적을 피할 때 쓰던 수법으로, 제3자 감사 기관의 데이터 추적을 방해했다는 지적이다. 어시메트릭 시큐리티 공동 창립자인 피파 톰슨은 "AI 에이전트가 흔적을 지우기 위해 의도적으로 이러한 도구를 사용했을 가능성이 있다"고 지적했다.

미국 증권거래위원회(SEC)는 개인 정보가 유출되지 않았다고 밝혔다. 미 질병통제예방센터(CDC), 국제에너지기구(IEA), 메이요 클리닉은 FT의 취재 요청에 응답하지 않았다.

앞서 오픈AI 모델은 허깅페이스와 호주 공공보건 서비스 웹사이트 해킹 사건 등에도 연루돼 안전 리스크가 불거진 바 있다. 호주 정부 웹사이트의 경우 비공개 파일까지 접근된 것으로 파악됐는데, 앤서니 앨버니지 호주 총리는 오픈AI가 지난달 10일 해킹 사실을 담당 부서가 아닌 정부 대표 이메일로 처음 통보했고, 이 메일이 보안 부서에 전달되는 데만 5일이 더 걸렸다며 늑장 대응을 강력히 비판했다.

이와 관련해 오픈AI는 블로그를 통해 "해킹 대응 과정에서 보완할 점이 있었음을 인정하며 개선 조치를 진행 중"이라고 밝혔다. 다만 "감지된 활동의 대부분은 공개된 웹 콘텐츠에 접근하는 통상적인 연구 작업이었다"고 해명했다.

그러나 어시메트릭 시큐리티의 공동 창립자 자이납 알리마지드는 오픈AI가 에이전트의 행동 이유를 설명하는 활동 로그인 '사고 과정(chain of thought)' 접근 권한을 쥐고 있는 데다, 늑장 공개까지 더해져 투명성과 통제력 부족에 대한 우려가 커지고 있다고 지적했다

wonjc6@newspim.com