전체기사 최신뉴스 GAM 라씨로
KYD 디데이

'마약 제조 방법 알려주는 위험한 AI'…SK쉴더스, 보안 대응전략 제시

기사입력 : 2024년07월02일 12:00

최종수정 : 2024년07월02일 12:00

2일 미디어 세미나 개최…AI LLM 보안 대응전략 제시
AI 모의해킹부터 연계 보안까지…맞춤형 서비스 제공

[서울=뉴스핌] 김정인 기자 = 생성형 인공지능(AI)가 급속도로 발전하면서 AI가 가져올 수 있는 보안위협이 주목받고 있다. 마약·폭탄 제조 방법을 알려주거나 랜섬웨어 공격, 저작권 침해 등 AI의 취약점이 발생하고 있기 때문이다. SK쉴더스는 AI 모의해킹부터 연계 보안 서비스까지 맞춤형 서비스를 제공, 보안위협에 전략적으로 대비하고 있다는 자신감을 드러냈다.

SK쉴더스는 2일 서울시 중구 페럼타워에서 상반기 주요 보안 트렌드를 분석하고 AI 거대언어모델(LLM) 보안 대응전략을 제시하는 미디어 세미나를 개최했다.

이재우 EQST 전무가 2일 미디어 세미나에서 보안 공격 사례에 대해 발표하고 있다. [사진=김정인 기자]

이날 발표는 국내 최대 규모의 화이트해커 전문가 그룹인 SK쉴더스의 EQST(이큐스트, Experts, Qualified Security Team)가 상반기에 직접 경험한 해킹 사고 사례와 연구 결과를 토대로 분석한 내용을 바탕으로 진행됐다. 특히 최근 주목받고 있는 AI LLM의 취약점을 이용한 공격 3가지를 시연하고 보안 대책에 대해 발표했다.

◆ 국내 금융업 분야 대상 공격, 20.6%로 가장 많아

EQST는 가상자산 탈취, 딥페이크 해킹 공격 등이 2024년 상반기에 화제가 됐다고 밝혔다. EQST가 분석한 업종별 침해사고 발생 통계를 살펴보면 국내에서는 금융업을 대상으로 한 침해사고가 20.6%로 가장 높은 비중을 차지했다. 비트코인 ETF 승인 등의 이슈로 가상자산의 가치가 상승해 이를 노린 해킹 공격이 지속됐다. 국외에서는 러시아, 이스라엘 등 국제 분쟁으로 인해 정부와 공공기관을 대상으로 한 공격이 26.7%로 가장 높은 순위를 차지했다.

업종별 침해 사고 통계. [사진=SK쉴더스]

유형별 사고 발생 통계로는 취약점 공격이 45%로 가장 많이 발생했는데, VPN, 라우터 등 네트워크 장비를 통한 '지능형 지속 위협(APT)' 공격 때문인 것으로 조사됐다. 사람의 심리를 이용해 기밀을 탈취하는 수법인 '소셜 엔지니어링' 공격이 26%로 뒤를 이었다.

이번 상반기에는 네트워크 장비의 신규 취약점을 활용한 공격이 성행했는데, 지난해 동기에 비해 2배 이상 증가하는 수치를 보였다. 이 외에도 보안 패치가 발표됐지만 패치를 적용하지 않은 상태를 노린 1-Day 취약점을 악용하거나 합법적인 도구를 사용한 랜섬웨어 공격들이 발생했다.

◆ 프롬프트 인젝션, 불안전한 출력처리, 민감정보 노출 등 위험도↑

EQST는 생성형 AI가 급속도로 발전하며 AI가 가져올 수 있는 보안위협에 관한 연구결과를 발표했다. 특히 비영리단체인 OWASP(Open Web Application Security Project)에서 발표한 AI LLM 서비스에서 발생 가능한 10가지의 취약점을 EQST가 직접 분석하고 이 중 위험도가 높은 3가지를 시연했다.

먼저 '프롬프트 인젝션(Prompt Injection)'은 악의적인 질문을 통해 AI 서비스 내 적용된 지침 혹은 정책을 우회해 본 목적 이외의 답변을 이끌어내는 취약점으로 악성코드 생성이나 마약 제조, 피싱 공격 등에 악용될 수 있다. 

또 '불안전한 출력 처리'도 취약점이다. 이 취약점은 LLM이 생성한 출력물을 시스템이 적절하게 처리하지 못할 때 발생하는 것으로, 다른 2차 공격으로 이어질 수 있어 위험도가 높다. 뿐만 아니라 EQST는 개인정보가 포함되거나 애플리케이션의 권한 관리 미흡으로 생길 수 있는 '민감 정보 노출' 취약점을 분석하며 DB 정보를 탈취하는 공격을 시연했다. LLM 모델을 학습시킬 때 민감 정보 필터링이 미흡한 경우, LLM이 생성하는 답변에 학습된 민감 정보가 출력될 수 있어 학습 데이터에 가명 처리를 하거나 데이터를 검증하는 등의 추가적인 보완책이 필요하다.

이호석 EQST 팀장이 2일 미디어 세미나에서 보안 트렌드에 대해 발표하고 있다. [사진=김정인 기자]

이 외에도 LLM 애플리케이션에서 자주 발생하는 취약점을 LLM 서비스 운영단계, 개발단계, 모델 개발 및 의존 단계로 나누어 분석해 각각의 보안 대책을 설명했다. 보안 대책으로는 LLM 사용시 '프롬프트 보안 솔루션'을 도입하거나, '데이터 정제 솔루션'을 고려해볼 수 있다. 또 EQST가 제시하는 AI 서비스 보안 체크리스트를 통해 AI 서비스 개발과 사용 시 보안 위협을 점검해 볼 수 있다.

◆ AI 연계 보안 서비스, 모의해킹 등 맞춤형 서비스 제공

SK쉴더스는 빠르게 성장하고 있는 AI 서비스의 변화에 발맞춰 AI 모의해킹부터 연계 보안 서비스까지 맞춤형 서비스를 제공하고 있다. LLM 인프라의 경우 서버, 모델 저장소, 플러그인 등 일반적인 웹 서버의 구성보다 훨씬 복잡하기 때문에 고객 환경에 맞춘 보안 시스템 구축이 필수적이다.

SK쉴더스는 다양한 산업분야에서의 취약점 점검, 모의해킹을 수행하며 보안 수준을 높여온 경험을 바탕으로 AI 인프라 운영에 특화된 제로 트러스트 환경 구축 및 운영 체계 수립 서비스를 제공할 예정이다. 또 기업에서 '소프트웨어 자재 명세서(SBOM)' 등을 활용해 보안 이력을 관리할 수 있는 대책을 제시하는 등의 전략을 선보인다.

이 전무는 이 자리에서 "기업들이 대부분 LLM 도입을 검토하고 있지만 속도는 느린 상황"이라며 "시장 도입 속도에 맞춰 LLM 솔루션과 특화 서비스를 출시할 계획"이라고 말했다.

김병무 SK쉴더스 정보보안사업부장(부사장)은 "전 산업 분야에 AI 기술 접목이 확산되면서 이를 노린 보안 위협이 현실화되고 있어 이에 대한 체계적인 대비가 필요하다"며 "SK쉴더스는 선제적으로 보안 트렌드 변화에 발맞춘 연구 결과물을 지속적으로 공개하며 생성형 AI 시대의 보안 전략을 제시해 나가겠다"고 말했다.

kji01@newspim.com

CES 2025 참관단 모집

[뉴스핌 베스트 기사]

사진
'남학생 입학 논란' 성신여대, 근조화환시위 [서울=뉴스핌] 최지환 기자 = 성신여대가 '2025학년도 외국인 특별 전형 모집요강'에서 신설 국제학부에 외국인 남학생의 지원을 받기로 결정하며 논란이 된 12일 오후 서울 성북구 성신여대 교내에서 학생들이 락카 스프레이로 항의문구를 적고 있다. 2024.11.12 choipix16@newspim.com   2024-11-12 16:58
사진
'왕좌의 게임' 재현...넷마블 '지스타' 첫선 [서울=뉴스핌] 양태훈 기자 = 넷마블이 HBO의 메가 IP '왕좌의 게임'을 활용한 '왕좌의 게임: 킹스로드'와 국내 모바일 게임의 대중화를 이끈 '몬스터 길들이기'의 정통 후속작 '몬길: STAR DIVE'를 선보이며 글로벌 게임 시장 공략에 나선다. 8일 넷마블은 서울 구로구 지타워에서 '지스타 2024 출품작 미디어 시연회'를 열고 국제 게임 전시회 '지스타 2024'에서 선보일 신작 '왕좌의 게임: 킹스로드'와 '몬길: STAR DIVE'를 최초로 공개했다. '왕좌의 게임: 킹스로드'는 전 세계적으로 흥행한 HBO 드라마 IP를 활용한 오픈 월드 액션 RPG다. 8일 넷마블은 서울 구로구 지타워에서 '지스타 2024 출품작 미디어 시연회 현장. [사진=양태훈 기자] 장현일 넷마블네오 PD는 "워너 브라더스, HBO와 긴 시간 신중하게 협업하며 원작 팬들을 만족시킬 수 있는 게임을 만들었다"고 자신감을 보였다. 이 게임은 원작 드라마의 시즌 4 후반부를 배경으로 한다. 플레이어는 '피의 결혼식'에서 정당한 후계자를 모두 잃은 몰락한 가문의 서자 역할을 맡는다. 장 PD는 "눈과 배고픔밖에 없는 척박한 북구에서 밤의 경비대를 도우며 가문의 생존을 위해 고군분투하는 이야기"라며 "드라마에서 자세히 다루지 못한 이야기와 인물들을 보여줄 것"이라고 설명했다. '왕좌의 게임: 킹스로드'의 가장 큰 특징은 원작의 주 무대인 웨스테로스 대륙을 심리스 오픈 월드로 구현한 것이다. 드라마에 등장한 지역은 물론 나오지 않은 지역까지 철저한 고증을 거쳐 제작했다. 장 PD는 "원거리 공격으로 높은 곳의 물건을 떨어뜨리거나 재배치해 새로운 길과 숨겨진 공간을 찾는 등 다양한 퍼즐 요소도 즐길 수 있다"고 덧붙였다. 전투 시스템도 원작의 사실적인 톤을 살리는 데 중점을 두었다. 장 PD는 "마법이 난무하는 흔한 판타지가 아닌 칼과 도끼 등 현실적 무기를 기반으로 한 전투를 구현했다"고 설명했다. 플레이어는 용병, 기사, 암살자 중 하나의 클래스를 선택할 수 있으며, 각 클래스는 원작 캐릭터들에게서 영감을 받아 개발됐다. 싱글 플레이뿐 아니라 협력 중심의 멀티 플레이도 제공된다. 윈터펠 같은 대형 성에서 다른 유저들과 만나 대화하고 파티를 꾸려 던전에 도전할 수 있다. 일부 필드에서는 다른 유저들과 함께 필드 보스 전투도 가능하다. '몬길: STAR DIVE'는 모바일 게임의 대중화를 이끈 '몬스터 길들이기'의 정통 후속작이다. 8일 넷마블은 서울 구로구 지타워에서 '지스타 2024 출품작 미디어 시연회 현장. [사진=양태훈 기자] 김광기 넷마블몬스터 개발 총괄은 "원작의 세계관과 스토리, 추억의 캐릭터들을 현대적으로 재해석했다"며 "어딘가 부족해 보이는 클라우드, 혈기왕성한 베르나 등 대표 캐릭터들과 새로운 마스코트 야옹이가 펼치는 모험"이라고 소개했다. '몬길: STAR DIVE'는 전작에 비해 전투 시스템을 대폭 강화했다. 김 총괄은 "캐릭터마다 개성 있는 전투 스타일과 역할이 있어 이해도가 높아질수록 더 다양하고 효율적인 전투가 가능하다"며 "원작의 태그 플레이를 계승해 단순한 캐릭터 교체가 아닌 연계 공격과 협력 시스템으로 발전시켰다"고 설명했다. 저스트 회피, 버스트 모드 등 액션성도 강화했다. 보스 몬스터와의 전투에서는 특정 부위 파괴나 속성 활용 등 전략적 플레이가 가능하며, 야옹이와 함께하는 몬스터 포획·길들이기 시스템도 구현했다. 한편 넷마블은 오는 14일부터 17일까지 부산 벡스코에서 열리는 지스타 2024에서 100부스 규모로 두 게임을 선보인다. 170개 시연대를 통해 '킹스로드'의 프롤로그와 '몬길'의 초반 스토리를 체험할 수 있다. 중앙 무대에서는 인플루언서 대전, 버튜버 시연, 코스프레 쇼 등 다양한 이벤트도 진행할 예정이다.   dconnect@newspim.com 2024-11-08 17:01
안다쇼핑
Top으로 이동