[서울=뉴스핌] 양태훈 기자 = 김병훈 이스트시큐리티 기술 이사는 16일 서울 코엑스에서 열린 보안 콘퍼런스 'ISEC 2024'에서 인공지능(AI) 기술, 특히 대규모 언어 모델(LLM)의 급속한 발전과 그에 따른 보안 위협에 대해 경고했다.

김 이사는 "AI 기술의 도입 속도가 매우 빠르다"며 "미국에서 인터넷 기술이 80% 보급되기까지 약 24년이 걸렸다면, AI는 불과 5년 만에 이를 달성할 것으로 예상된다"고 말했다. 이어 "현재는 사람과 AI가 협업하는 '코파일럿'의 시대이지만, 머지않아 AI가 업무를 주도하는 '오토파일럿'의 시대가 올 것"이라고 전망했다.

그는 AI 기술의 급속한 발전을 보여주는 예로, 최근 MMLU(Massive Multitask Language Understanding) 테스트 결과를 언급했다.

16일 서울 코엑스에서 열린 보안 콘퍼런스 'ISEC 2024' 현장. 김병훈 이스트시큐리티 기술이사가 'LLM과 사이버 보안-위협과 대응 전략'을 주제로 발표하고 있다. [사진=양태훈 기자]

김 이사는 "지난해 12월, AI가 MMLU 테스트에서 90점을 기록해 인간의 평균 점수인 89.8점을 처음으로 앞질렀다. 이는 AI의 언어 이해 능력이 이미 인간의 수준을 넘어섰음을 의미한다"며 "최근에는 텍스트와 이미지를 생성하는 LLM에서 나아가, 영상을 포함한 다양한 콘텐츠를 생성하는 LWM(대규모 영상 모델)이라는 개념이 학술적으로 등장했다"고 전했다.

실제로 글로벌 기업들은 업무 생산성 향상을 위해 LLM의 도입을 늘리고 있다.

김 이사는 "Zillow, 아마존, 구글 등 글로벌 기업들이 LLM을 도입해 업무 효율을 크게 향상시키고 있는데, 예컨대 미국 최대 부동산 정보 사이트인 Zillow는 LLM을 활용해 부동산 데이터를 분석하고 지역별 선호도와 투자 패턴을 파악하고 있다"며 "아마존은 LLM을 이용해 고객의 검색 의도를 더 정확히 파악하여 관련성 높은 제품을 추천하고 있고, 구글의 경우, LLM을 활용해 인시던트 요약 작업 속도를 51% 향상시키는 효과를 봤다"고 전했다.

16일 서울 코엑스에서 열린 보안 콘퍼런스 'ISEC 2024' 현장. 김병훈 이스트시큐리티 기술이사가 'LLM과 사이버 보안-위협과 대응 전략'을 주제로 발표하고 있다. [사진=양태훈 기자]

다만, "동시에 AI를 이용한 악성 코드 생성, 피싱 공격, 개인정보 유출 등 보안 위협도 증가하고 있다"며 "일례로 일리노이 대학의 연구팀은 CVE(Common Vulnerabilities and Exposures) 데이터베이스를 크롤링하여 LLM을 이용한 자동화된 공격을 시연했는데, 이 방식으로 87%의 공격 성공률을 보였다. 이는 AI를 이용한 저비용 고효율 공격이 현실화되고 있음을 보여주는 사례"라고 AI 기술의 악용 사례도 언급했다.

현재 이스트시큐리티는 이러한 위협에 대비하기 위해 보안 솔루션 '알약 xLLM'을 개발 중이다.

김 이사는 알약 xLLM에 대해 "알약 xLLM 솔루션은 LLM 사용 시 입출력값을 분석해 개인정보 침해나 악성 스크립트 존재 여부를 탐지하는 기능을 제공, 입력 단계에서의 개인정보 탐지, 출력 단계에서의 악성 코드 감지, 전체 프로세스에 대한 모니터링과 로깅을 통합적으로 수행할 수 있다"며 "특히 멀티모달 환경에서도 효과적으로 작동해 텍스트뿐만 아니라 이미지, 음성 등 다양한 형태의 입출력에 대한 보안을 제공할 수 있고, 이는 앞으로 LWM과 같은 더욱 복잡한 AI 모델이 등장할 것에 대비한 것"이라고 자신감을 내비쳤다.

[사진=이스트시큐리티 유튜브 채널]

아울러 김 이사는 현재 시장의 LLM 보안 대응이 미흡한 상황이라고 지적했다.

그는 "JP모건체이스, 애플과 같은 글로벌 기업들도 LLM 사용을 제한하거나 승인되지 않은 경우에만 조치를 취하는 정도에 그치고 있는데, 올해부터 생성형 AI와 LLM을 활용한 해킹이 급증하고 있으며, LLM이 양성 또는 악성을 구분하기 어려운 다양한 시도도 늘어나고 있다"며 "AI 기술의 도입과 함께 보안 대책도 함께 마련해야 한다. 특히 LLM을 활용하는 기업들은 데이터 보안, 모델 보안, 그리고 출력 결과의 신뢰성 확보 등 다각도의 보안 전략을 수립해야 한다"고 전했다.

나아가 "이스트시큐리티는 과거 엔드포인트 보안 경험을 바탕으로, B2C에서 수집된 빅데이터를 활용해 LLM 보안 분야에서 경쟁력을 가지고 있다"며 "AI 기술의 발전이 가져올 혜택을 누리면서도, 동시에 그에 따른 위험을 최소화할 수 있는 균형 잡힌 접근이 필요한데, 이스트시큐리티는 이러한 균형을 위해 지속적으로 연구하고 솔루션을 개발해 나갈 것"이라고 덧붙였다.

dconnect@newspim.com