전체기사 최신뉴스 GAM
KYD 디데이
산업 전기·전자

속보

더보기

'마약 제조 방법 알려주는 위험한 AI'…SK쉴더스, 보안 대응전략 제시

기사입력 : 2024년07월02일 12:00

최종수정 : 2024년07월02일 12:00

2일 미디어 세미나 개최…AI LLM 보안 대응전략 제시
AI 모의해킹부터 연계 보안까지…맞춤형 서비스 제공

[서울=뉴스핌] 김정인 기자 = 생성형 인공지능(AI)가 급속도로 발전하면서 AI가 가져올 수 있는 보안위협이 주목받고 있다. 마약·폭탄 제조 방법을 알려주거나 랜섬웨어 공격, 저작권 침해 등 AI의 취약점이 발생하고 있기 때문이다. SK쉴더스는 AI 모의해킹부터 연계 보안 서비스까지 맞춤형 서비스를 제공, 보안위협에 전략적으로 대비하고 있다는 자신감을 드러냈다.

SK쉴더스는 2일 서울시 중구 페럼타워에서 상반기 주요 보안 트렌드를 분석하고 AI 거대언어모델(LLM) 보안 대응전략을 제시하는 미디어 세미나를 개최했다.

이재우 EQST 전무가 2일 미디어 세미나에서 보안 공격 사례에 대해 발표하고 있다. [사진=김정인 기자]

이날 발표는 국내 최대 규모의 화이트해커 전문가 그룹인 SK쉴더스의 EQST(이큐스트, Experts, Qualified Security Team)가 상반기에 직접 경험한 해킹 사고 사례와 연구 결과를 토대로 분석한 내용을 바탕으로 진행됐다. 특히 최근 주목받고 있는 AI LLM의 취약점을 이용한 공격 3가지를 시연하고 보안 대책에 대해 발표했다.

◆ 국내 금융업 분야 대상 공격, 20.6%로 가장 많아

EQST는 가상자산 탈취, 딥페이크 해킹 공격 등이 2024년 상반기에 화제가 됐다고 밝혔다. EQST가 분석한 업종별 침해사고 발생 통계를 살펴보면 국내에서는 금융업을 대상으로 한 침해사고가 20.6%로 가장 높은 비중을 차지했다. 비트코인 ETF 승인 등의 이슈로 가상자산의 가치가 상승해 이를 노린 해킹 공격이 지속됐다. 국외에서는 러시아, 이스라엘 등 국제 분쟁으로 인해 정부와 공공기관을 대상으로 한 공격이 26.7%로 가장 높은 순위를 차지했다.

업종별 침해 사고 통계. [사진=SK쉴더스]

유형별 사고 발생 통계로는 취약점 공격이 45%로 가장 많이 발생했는데, VPN, 라우터 등 네트워크 장비를 통한 '지능형 지속 위협(APT)' 공격 때문인 것으로 조사됐다. 사람의 심리를 이용해 기밀을 탈취하는 수법인 '소셜 엔지니어링' 공격이 26%로 뒤를 이었다.

이번 상반기에는 네트워크 장비의 신규 취약점을 활용한 공격이 성행했는데, 지난해 동기에 비해 2배 이상 증가하는 수치를 보였다. 이 외에도 보안 패치가 발표됐지만 패치를 적용하지 않은 상태를 노린 1-Day 취약점을 악용하거나 합법적인 도구를 사용한 랜섬웨어 공격들이 발생했다.

◆ 프롬프트 인젝션, 불안전한 출력처리, 민감정보 노출 등 위험도↑

EQST는 생성형 AI가 급속도로 발전하며 AI가 가져올 수 있는 보안위협에 관한 연구결과를 발표했다. 특히 비영리단체인 OWASP(Open Web Application Security Project)에서 발표한 AI LLM 서비스에서 발생 가능한 10가지의 취약점을 EQST가 직접 분석하고 이 중 위험도가 높은 3가지를 시연했다.

먼저 '프롬프트 인젝션(Prompt Injection)'은 악의적인 질문을 통해 AI 서비스 내 적용된 지침 혹은 정책을 우회해 본 목적 이외의 답변을 이끌어내는 취약점으로 악성코드 생성이나 마약 제조, 피싱 공격 등에 악용될 수 있다. 

또 '불안전한 출력 처리'도 취약점이다. 이 취약점은 LLM이 생성한 출력물을 시스템이 적절하게 처리하지 못할 때 발생하는 것으로, 다른 2차 공격으로 이어질 수 있어 위험도가 높다. 뿐만 아니라 EQST는 개인정보가 포함되거나 애플리케이션의 권한 관리 미흡으로 생길 수 있는 '민감 정보 노출' 취약점을 분석하며 DB 정보를 탈취하는 공격을 시연했다. LLM 모델을 학습시킬 때 민감 정보 필터링이 미흡한 경우, LLM이 생성하는 답변에 학습된 민감 정보가 출력될 수 있어 학습 데이터에 가명 처리를 하거나 데이터를 검증하는 등의 추가적인 보완책이 필요하다.

이호석 EQST 팀장이 2일 미디어 세미나에서 보안 트렌드에 대해 발표하고 있다. [사진=김정인 기자]

이 외에도 LLM 애플리케이션에서 자주 발생하는 취약점을 LLM 서비스 운영단계, 개발단계, 모델 개발 및 의존 단계로 나누어 분석해 각각의 보안 대책을 설명했다. 보안 대책으로는 LLM 사용시 '프롬프트 보안 솔루션'을 도입하거나, '데이터 정제 솔루션'을 고려해볼 수 있다. 또 EQST가 제시하는 AI 서비스 보안 체크리스트를 통해 AI 서비스 개발과 사용 시 보안 위협을 점검해 볼 수 있다.

◆ AI 연계 보안 서비스, 모의해킹 등 맞춤형 서비스 제공

SK쉴더스는 빠르게 성장하고 있는 AI 서비스의 변화에 발맞춰 AI 모의해킹부터 연계 보안 서비스까지 맞춤형 서비스를 제공하고 있다. LLM 인프라의 경우 서버, 모델 저장소, 플러그인 등 일반적인 웹 서버의 구성보다 훨씬 복잡하기 때문에 고객 환경에 맞춘 보안 시스템 구축이 필수적이다.

SK쉴더스는 다양한 산업분야에서의 취약점 점검, 모의해킹을 수행하며 보안 수준을 높여온 경험을 바탕으로 AI 인프라 운영에 특화된 제로 트러스트 환경 구축 및 운영 체계 수립 서비스를 제공할 예정이다. 또 기업에서 '소프트웨어 자재 명세서(SBOM)' 등을 활용해 보안 이력을 관리할 수 있는 대책을 제시하는 등의 전략을 선보인다.

이 전무는 이 자리에서 "기업들이 대부분 LLM 도입을 검토하고 있지만 속도는 느린 상황"이라며 "시장 도입 속도에 맞춰 LLM 솔루션과 특화 서비스를 출시할 계획"이라고 말했다.

김병무 SK쉴더스 정보보안사업부장(부사장)은 "전 산업 분야에 AI 기술 접목이 확산되면서 이를 노린 보안 위협이 현실화되고 있어 이에 대한 체계적인 대비가 필요하다"며 "SK쉴더스는 선제적으로 보안 트렌드 변화에 발맞춘 연구 결과물을 지속적으로 공개하며 생성형 AI 시대의 보안 전략을 제시해 나가겠다"고 말했다.

kji01@newspim.com

[뉴스핌 베스트 기사]

사진
이화영, 대법서 징역 7년8개월 확정 [서울=뉴스핌] 홍석희 기자 = 쌍방울 그룹에서 수억원대 뇌물을 받고, 800만 달러를 북한에 송금한 혐의로 기소된 이화영 전 경기도 평화부지사가 징역 7년 8개월을 확정 받았다. 대법원 2부(주심 박영재 대법관)는 5일 오전 특정범죄가중처벌등에관한법률위반(뇌물) 등 혐의로 재판에 넘겨진 이 전 부지사에게 징역 7년 8개월을 선고한 원심을 확정했다. 쌍방울 그룹에서 수억원대 뇌물을 받고, 800만 달러를 북한에 송금한 혐의로 기소된 이화영 전 경기도 평화부지사가 징역 7년 8개월을 확정 받았다. 사진은 이 전 지사가 지난해 10월 2일 오전 서울 여의도 국회 법제사법위원회에서 열린 박상용 수원지검 부부장검사에 대한 탄핵소추 사건 조사 관련 청문회에서 정청래 법사위원장 질의에 답변하는 모습. [사진=뉴스핌 DB] 이 전 부지사는 이재명 대통령이 경기지사이던 2019년, 쌍방울로 하여금 도지사 방북 비용 300만 달러와 북한 스마트팜 사업 비용 500만 달러 등 총 800만 달러를 북한 측에 보내도록 한 혐의로 기소됐다. 경기도 평화부지사, 경기도 산하기관인 킨텍스 대표로 재직 중 쌍방울로부터 법인카드와 차량 등 3억3400여만 원의 정치자금을 제공받은 혐의도 받았다. 검찰은 이중 2억5900여만 원에 대해 뇌물 혐의를 적용했다. 1심은 이 전 부지사의 혐의 대부분을 유죄로 판단해 정치자금법 위반 징역 1년 6개월, 특가법상뇌물 및 외국환거래법 위반 등 징역 8년을 합해 총 징역 9년 6개월을 선고했다. 1심 재판부는 쌍방울이 경기도 스마트팜 사업비(500만 달러)와 당시 경기지사였던 이 대통령의 방북비용(300만 달러)을 대납하려 했다는 검찰 측 판단을 모두 받아들였다. 다만 검찰이 공소사실에 적시한 총 800만 달러 중 394만 달러만 해외로 밀반출된 불법 자금으로 인정했다. 2심은 1심 판결을 파기하고, 징역 7년 8개월 및 벌금 2억5000만원, 추징 3억2595만 원으로 감형했다. 구체적으로 정치자금법 위반 혐의에 대해서는 징역 8개월을, 특가법상뇌물 및 외국환거래법 위반 등 혐의에 대해서는 징역 7년을 각각 주문했다. 1심 형량과 비교해 1년 10개월이 감형됐다. 2신 재판부는 1심과 마찬가지로 검찰이 기소한 대북송금 800만 달러 가운데 394만 달러만 북한 측에 밀반출됐다며 유죄로 판단했다. 특히 이 중 200만 달러는 김 전 회장이 이재명 당시 경기지사의 방북비용으로 대납한 것이라고 봤다. 다만 "뇌물죄, 정치자금법 위반죄 범행 후 공무원 또는 정치인으로서 부정한 행위까지 나아가지는 않은 점, 스마트팜은 인도적 지원 사업이었고 남북간 평화조성을 위한 남북교류협력사업의 추진이라는 정책적 목적도 있는 점, 김성태가 쌍방울그룹의 대북사업 추진 등 이익을 도모한 사정도 있고 피고인이 김성태에게 비용 대납을 강요한 사정은 없는 점 등을 유리한 양형으로 고려했다"고 감형 이유를 설명했다. 검찰과 이 전 부지사 측 모두 판결에 불복해 상고했으나 대법원은 양 측의 주장을 모두 받아들이지 않았다. 대법원은 "원심의 유죄 부분 판단에 필요한 심리를 다하지 않은 채 논리와 경험의 법칙을 위반해 자유심증주의 한계를 벗어나거나 검사의 사전면담 등이 이루어진 증인의 법정진술의 신빙성 판단, 유죄의 인정에 필요한 증명의 정도, 뇌물수수죄에서 직무관련성, 대가성, 뇌물귀속 주체와 고의, 정치자금 부정수수죄에서 정치자금과 고의 등에 관한 법리를 오해하는 등으로 판결에 영향을 미친 잘못이 없다"고 판시했다. hong90@newspim.com 2025-06-05 10:45
사진
외교부 장관 김현종·조현 거론 [서울=뉴스핌] 지혜진 기자= 인수위원회 없이 출범하는 새 정부는 민생 회복과 함께 대미 관세 협상 등 외교·안보 문제도 시급하다. 미국 법원에서 도널드 트럼프 대통령이 주요국을 대상으로 부과한 상호관세 효력을 정지시켰지만 여전히 통상 환경의 불확실성이 가신 것은 아니다. 지난 4일 당선된 이재명 대통령은 "국익 중심의 실용 외교" 강조해왔다. 민주당 공약집을 보면 통상환경의 변화와 경제안보 중요성에 대응하기 위해 주요 20개국(G20)·주요 7개국(G7) 등의 적극 참여를 통해 글로벌 현안 적극 대응하고 2025 경주 APEC 성공적 개최를 위한 외교역량을 강화할 것을 약속했다. 신남방·신북방 정책을 계승 발전해 글로벌 사우스와 권역별 협력을 심화하고 핵심소재·연료광물의 공급망(GVC) 안정화를 위한 통상협력 강화도 약속했다. (왼쪽부터) 김현종 더불어민주당 선대위 외교안보특보, 위성락 민주당 의원, 조현 선대위 국익중심실용외교위 공동위원장, 안규백 의원. [사진=뉴스핌DB] 북핵 대응으로는 한국형 탄도미사일 성능과 한국형미사일방어체계(KAMD)를 고도화를 내세웠다. 핵무장이나 핵잠재력 확보에 대해서는 언급하지 않았다. '북핵 대응의 기본 원칙은 한·미 확장억제 강화'라는 기존의 기조를 이어갈 것으로 예상된다. 국방 분야에서는 국방 문민화를 비롯해 군 정보기관 개혁, 육·해·공군 참모총장 인사청문회 도입 등을 내세웠다. 이 대통령은 취임 첫날 국가안보실장에 위성락 민주당 의원을 임명했다. 주러시아 대사를 지낸 외교관 출신인 위 의원은 '이재명 후보 외교안보보좌관'으로 임명돼 활동했다. 이번 대선에서는 민주당 선대위 산하 '동북아평화협력위원회' 좌장을 맡았다. 외교부 장관 후보군으로는 조현 전 외교부 1차관과 김현종 전 청와대 국가안보실 2차장이 언급된다. 조 전 차관은 선대위에서 국익중심실용외교위원회 상임공동위원장을 맡았다. 위 의원과 외무고시 13기 동기로 유엔대사, 외교부 다자외교조정관, 외교부 국제기구국장 등을 역임했다. 김 전 차장은 대선 기간에도 '이재명 후보 외교안보보좌관' 자격으로 백악관 고위 당국자들과 만나 한미동맹과 한미일 3국 협력을 강화해야 한다는 이 후보의 입장을 전달하기도 했다. 국방부 장관 자리에는 군 출신이 아닌 5선의 안규백 민주당 의원이 유력하다. 이 대통령은 후보 때부터 군에 대한 '문민 통제'를 강조해 왔다. heyjin@newspim.com 2025-06-05 06:00
안다쇼핑
Top으로 이동