인터넷진흥원·금감원 등 보이스피싱 데이터 AI가 학습해 활용
AI 에이전트에 안티 딥보이스 기능 탑재 등 고도화
기업들의 신기술 개발은 지속 가능한 경영의 핵심입니다. 이 순간에도 수많은 기업들은 신기술 개발에 여념이 없습니다. 기술의 진화는 결국 인간 삶을 바꿀 혁신적인 제품의 탄생을 의미합니다. 기술을 알면 우리 일상의 미래를 예측해 볼 수 있습니다. 각종 미디어에 등장하지만 독자들에게 아직은 낯선 기술 용어들. 그래서 뉴스핌에서는 'Tech 스토리'라는 고정 꼭지를 만들었습니다. 산업부 기자들이 매주 일요일마다 기업들의 '힙(hip)한' 기술 이야기를 술술 풀어 독자들에게 전달합니다.
[서울=뉴스핌] 정승원 기자 = 이동통신사들이 보이스피싱과의 전쟁을 벌이고 있습니다. 이통사들은 스팸 메시지와 함께 보이스피싱 근절에 총력을 다하고 있습니다. 특히 인공지능(AI) 시대가 도래하면서 AI 기술을 보이스피싱 탐지에 적극 활용하고 있습니다. 기술의 발전으로 범죄를 예방하고 있는 것입니다.
경찰청에 따르면 보이스피싱 발생 건수는 지난 2023년 기준 1만8902건, 피해규모는 4472억원에 달합니다. 보이스피싱 범죄는 사후 피해자 구제도 중요하지만 사전에 범죄를 막아 피해를 예방하기 위한 통신사업자의 역할이 중요합니다. 이동통신사들이 보이스피싱 방지에 힘쓰는 이유입니다.
SK텔레콤은 한국인터넷진흥원(KISA)과 협업해 AI를 적극 활용하고 있습니다. 각종 필터링 기준과 다중 필터링을 통해 스팸, 스미싱 문자를 차단하고 있으며 SKT의 AI가 KISA에 신고된 메시지를 분석하고 학습하고 있습니다. 이를 통해 사전에 지정된 보이스피싱, 스팸·스미싱 우려 단어나 번호만을 차단하는 것이 아니라 미끼 문자 특징을 탐지해 분류할 수 있는 AI 모델을 고도화 중입니다.
SKT는 올해 세계최대 전자제품박람회인 CES 2025 중 'CES 혁신어워즈'에서 '최고 혁신상'을 수상했습니다. AI 기반 모바일 금융사기 탐지·방지 기술인 '스캠뱅가드(ScamVanguard)'로 사이버보안 부문에서 최고 혁신상을 수상한 것입니다.
스캠뱅가드는 모바일에서 발생 가능한 다양한 위협을 탐지하고 대응하기 위해 AI 기반의 사이버 위협 정보(TI; Threat Intelligence)를 제공하는 기술입니다. ▲딥러닝 구조 기반 미끼문자 탐지 및 알림 ▲AI봇 기반 SNS 사기 방지 ▲머신러닝 기반 사기전화 패턴 탐지 식별 등이 주요 기능입니다. 스캠뱅가드는 지난해 10월 상용화된 에이닷 전화의 스팸·보이스피싱 의심 전화 안내 등에 활용되는 것은 물론 본인인증 서비스 앱인 'PASS(패스)'와 '채팅+ PC버전'의 스팸필터링 서비스에 활용되고 있습니다.
KT도 AI 기술을 활용해 보이스피싱 의심전화를 실시간으로 찾아내 경고하는 AI 보이스피싱 탐지·알림서비스를 상용화했습니다. 애플리케이션 '후후 통화녹음'이 그 주인공입니다. 최신 음성인식 및 자연어 처리 기술을 적용해 AI가 보이스피싱 범죄에 자주 쓰이는 특정 키워드나 패턴을 학습하고 더욱 정밀하게 탐지할 수 있도록 했습니다.
KT는 지난 2018년 인공지능컨텍트센터(AICC)를 운영하면서 음성을 텍스트로 변환해 인식하는 STT(Speak To Text) 기술을 고도화했습니다. 금융감독원에 있는 보이스피싱 범죄 실제 목소리 데이터 2만1000건을 학습했고 개인정보는 별도로 삭제해 온디바이스 AI로 구현했습니다.
이를 바탕으로 통화 상대방이 말하는 초반 150음절을 텍스트로 변환해 분석한 뒤 보이스피싱이 의심되면 즉시 통화 화면에 '주의' 표시를 띄웁니다. KT는 올해 2분기에 기존에 특정된 보이스피싱 범죄자의 목소리를 탐지하고 딥보이스(AI로 실제 인물의 목소리를 학습해 복제하는 기술)까지도 판별할 수 있는 국내 최고 수준의 보이스피싱 탐지·알림서비스를 선보이겠다는 계획입니다.
LG유플러스는 지난해 출시한 AI 통화녹음 에이전트 '익시오'에 보이스피싱 탐지 기능을 적용했습니다. 개인정보보호위원회, 과학기술정보통신부, 국립과학수사연구원, 한국인터넷진흥원의 지원을 받아 확보한 보이스피싱 음성 신고 데이터와 서울경찰청의 지원을 받아 확보한 실제 보이스피싱 피해 데이터를 AI 학습에 활용했습니다.
보이스피싱 탐지 기능도 고도화 중입니다. 특히 AI로 실제 목소리를 학습한 가짜 목소리 '딥보이스'를 탐지하는 기능도 탑재됩니다. LG유플러스가 개발한 '안티딥보이스'는 AI가 기계로 위조된 음성을 판별할 수 있는 기술입니다. 최근 TTS(Text to Speech·텍스트를 음성으로 변환하는 기술)의 발전으로 특정 인물의 목소리를 빠르게 복제하고 위조하는 것이 쉬워진 것에 대응하기 위함입니다.
LG유플러스는 자체 개발한 TTS 모델을 중심으로 진짜 사람의 목소리와 AI가 위조한 목소리를 학습시켰습니다. 그 결과 AI가 기계가 만든 목소리 내 발음의 미세한 부자연스러움과 음성 주파수 영역에서 비정상적인 패턴 등을 탐지할 수 있도록 구현했습니다. LG유플러스는 안티딥보이스기술을 익시오에 탑재해 보이스피싱 탐지 서비스를 고도화할 예정입니다.
origin@newspim.com
