전체기사 최신뉴스 GAM 라씨로
KYD 디데이
사회 사건·사고

속보

더보기

"5~10분 내 판단" 경찰 '딥페이크 탐지 소프트웨어' 개발

기사입력 : 2024년03월05일 06:00

최종수정 : 2024년03월05일 06:00

수사 방향 설정에 활용...진위여부 탐지율 80%

[서울=뉴스핌] 박우진 기자 = 경찰청 국가수사본부는 딥페이크(deepfake) 탐지 소프트웨어를 개발해 딥페이크 이용 범죄 단속에 활용한다.

딥페이크는 딥러닝(Deep learning)과 가짜를 의미하는 '페이크(Fake)'의 합성어로 기존 영상을 다른 영상에 겹쳐 만들어내는 인공지능(AI) 기술 기반의 이미지 합성기술을 뜻한다. AI 기술이 발달하면서 딥페이크를 이용한 범죄 위협이 커지고 있다.

특히 다음달 10일 치뤄지는 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포, 여론조작 우려가 커지고 있다.

실제 국내에서는 '윤석열 대통령 양심 고백' 딥페이크 영상이 확인돼 경찰이 영상 유포자의 아이디와 이메일을 확보해 수사에 들어간 상황이다. 해당 영상은 지난 2022년 2월 윤 대통령이 대선후보 시절 진행한 TV연설 장면을 바탕으로 만든 것으로 알려졌다.

지난 1월 29일 공직선거법이 개정됨에 따라 선거일 전 90일부터 선거일까지 딥페이크 영상을 이용한 선거운동을 금지하고 있으며 경찰은 해당 범죄에 대한 엄정 대응 기조를 밝힌 바 있다.

[서울=뉴스핌] 김학선 기자 = 22일 서울 서대문구 경찰청 내 국가수사본부의 모습. 2022.06.22 yooksa@newspim.com

5일 경찰에 따르면 해당 소프트웨어는 페이스 스왑(Face Swap) 등 딥페이크 영상으로 의심되는 영상을 시스템에 올리면 5~10분 내에 분석 작업을 거쳐 진위 여부를 가려낸다. 판별과 함께 결과보고서를 만들어내 수사에 활용할 수 있다.

이번 모델은 한국인 데이터 100만점과 아시아 계열 인종 데이터 13만점을 포함해 인물 5400명의 데이터 520만점에 대한 학습이 이뤄졌다. 이는 기존 소프트웨어가 해외에서 제작돼 서양인 위주의 데이터로 구성돼 있어 한국인을 대상으로 합성된 영상에 대한 탐지율이 떨어진다는 한계를 극복했다는 점에서 의미가 있다.

또 기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상에도 대응할 수 있도록 최신 AI 모델을 적용했다.

이번에 제작된 소프트웨어는 진위여부 탐지율이 약 80%인 점을 감안해 증거자료보다는 수사 방향을 설정하는데 사용될 것으로 보인다.

딥페이크 관련 기술이 끊임없이 개발되고 있는만큼 딥페이크 관련 선거범죄에 대해서는 학계와 기업 등 AI 전문가로 구성된 민간 자문위원의 교차 검증을 거쳐 해당 소프트웨어의 오탐지 가능성을 최소화할 예정이다.

경찰 관계자는 "딥페이크 여부가 의심될 경우 소프트웨어를 통한 분석을 거쳐 빠르게 결과를 확인해 적극적인 수사를 진행해나갈 수 있을 것으로 기대한다"며 "정확한 탐지가 이뤄지도록 해당 소프트웨어를 고도화할 것이며, 선거범죄·합성성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다"고 전했다.

krawjp@newspim.com

[뉴스핌 베스트 기사]

사진
SKT '유심 교체' 북새통...내 차례 올까 [인천=뉴스핌] 김학선 기자 = 가입자 유심(USIM) 정보를 해킹 당한 SK텔레콤이 유심 무료교체 서비스를 시작한 28일 인천의 한 대리점에서 고객들이 유심 교체를 위해 줄을 서 차례를 기다리고 있다. SKT는 사이버침해 피해를 막기 위해 이날 오전 10시부터 전국 2600여곳의 T월드 매장에서 희망 고객 대상 유심 무료교체 서비스를 진행한다. 2025.04.28 yooksa@newspim.com   2025-04-28 12:12
사진
"화웨이, 엔비디아 H100 능가 칩 개발" [서울=뉴스핌]박공식 기자 = 중국 화웨이가 미국이 수출 금지한 엔비디아 칩을 대체할 최신 인공지능(AI) 칩을 개발해 제품 시험을 앞두고 있다고 월스트리트저널(WSJ)이 현지 시간 27일 보도했다. 신문은 화웨이가 일부 중국 기술기업에 새로 개발한 '어센드(Ascend) 910D'의 시험을 의뢰했다고 전했다. 어센드 910D는 엔비디아의 H100보다 성능이 더 우수한 것으로 평가되고 있으며 이르면 5월 말 시제품이 나올 것으로 예상된다. 앞서 로이터통신은 21일 화웨이가 자체 개발한 AI칩 910C를 내달 초 중국 기업에 대량 출하할 계획이라고 보도한 바 있다. 화웨이를 비롯한 중국 기업들은 데이터를 알고리즘에 제공해 더 정확한 결정을 내리게 하는 훈련 모델용으로 엔비디아 칩에 필적하는 첨단 칩을 개발하는 데 주력해왔다. 미국은 중국의 기술 개발을 억제하기 위해 B200 등 최첨단 엔베디아 칩의 중국 수출을 금지하고 있다. H100의 경우 2022년 제품 출하 전에 중국 수출을 금지했다.  중국 베이징에 있는 화웨이 매장 [서울=뉴스핌]박공식 기자 = 2025.04.28 kongsikpark@newspim.com kongsikpark@newspim.com 2025-04-28 12:26
안다쇼핑
Top으로 이동