전체기사 최신뉴스 GAM
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 딥페이크 범죄를 막는 근본 대책

기사입력 : 2024년09월02일 08:31

최종수정 : 2024년09월02일 08:31

하민회 (이미지21대표, 미래기술문화연구원장)

딥페이크(Deepfake) 진앙이 한국이라고?

미국 보안업체 시큐리티 히어로가 공개한 '2023 딥페이크 현황' 보고서애 따르면 지난해 9만건이 넘는 딥페이크 영상 중 53% 이상의 피해자가 한국인이다. 이를 두고 외신들은 한국은 딥페이크에 취약한 국가, 심지어 범죄의 진앙으로 볼 수 있다고 보도했다. (딥페이크는 딥러닝(Deep learning)과 가짜(Fake)의 합성어로, AI 기반의 인간 이미지 합성 기술을 뜻한다.)

실지로 한국은 디지털 성범죄 비상사태에 직면했다.

2013년부터 2018년 사이 국내에선 3만건 이상의 불법 촬영 신고(몰카)가 경찰에 접수됐다. 대부분 공중 화장실과 탈의실, 숙박업소, 등의 불법 촬영이었다. 2019년에는 텔레그램 성착취 방(N번방) 사건이, 올해엔 서울대·인하대에서 여성 동문들의 딥페이크 합성물을 제작·유포한 디지털 성범죄 사건이 터졌다. 최근엔 교사, 지인, 동료, 학생들을 대상으로 하는 딥페이크 음란물 사건이 전국적으로 발생하고 있다.

하민회 이미지21 대표.

전문가들은 디지털 성범죄가 반복되는 가장 큰 이유로 '느슨한 처벌'을 꼽는다.

현행법상 2019년 딥페이크 성범죄를 처벌할 수 있는 조항은 '성폭력 범죄 처벌에 관한 특례법'에 허위 영상물 등의 반포(14조의 2)뿐이다. 이 조항은 2019년 'N번방' 사건 이후 만들어졌다.

나날이 지능화되는 딥페이크 범죄를 막기엔 당연히 역부족이다. 불법 촬영물과 다르게 불법 합성물은 단순 시청·제작·소지하는 행위에 대해선 처벌하지 못한다. 딥페이크 성착취물을 재미로 제작하고 유포하지 않고 그냥 가지고 있었을 뿐이라고 우기면 처벌받지 않는다는 말이다.

해외에선 제작만으로도 처벌이 가능하도록 엄격해지는 추세다. 최근 영국 법무부는 공유·유포 여부와 상관없이 딥페이크로 음란물을 만들기만 해도 처벌할 계획이라고 밝혔다. 미국 상원 의회에선 지난달 딥페이크 성착취물 피해자들의 피해를 보상하는 법안이 통과되기도 했다.

딥페이크 범죄의 심각성은 "만들기는 쉽지만 없애기는 정말 어렵다'는 것에 있다.

[사진=게티이미지뱅크]

AI에 사진만 넣으면 몇 분 만에 만들어진 성착취물이 텔레그램 등을 통해 빠른 속도로 다수에게 퍼진다. 합성 대상의 인스타그램 등 SNS 링크만 입력해도 성착취물을 만들어내는 웹사이트부터 템플릿을 골라 사진 1장만 넣으면 30초만에 합성물이 완성되는 중국 앱도 있다. 심지어 실시간 딥페이크 영상제작도 가능하다. 과거 딥페이크 영상은 표정이나 동작이 부자연스러운 부분이 많았다면 최근에는 전문가도 자세히 봐야만 구분이 될 만큼 정교해지는 추세다.

더 큰 문제는 AI 기술이 텍스트, 영상·음성 데이터까지 함께 처리하는 멀티모달 방식으로 진화하면서 과거 합성의 수준에서 이제는 특정 시나리오에 기반한 딥페이크 영상 창작이 가능 해졌다는 점이다. 이는 음란물 유포를 넘어 피싱이나 협박 등 범죄의 고도화를 부른다.

딥페이크 성착취물의 유통 수단인 텔레그램도 해결되어야 할 과제다. 암호화된 비밀채팅 기능으로 강력한 보안성을 갖춘 텔레그램은 각종 디지털범죄의 온상이다. 제작한 딥페이크 음란물을 '봇(Bot)'을 통해 배포하는 텔레그램은 최근 딥페이크 합성물을 제작을 수익화 하는 구조를 만들기도 했다.

[서울=뉴스핌] 김학선 기자 = 평화나비네트워크 소속 대학생들이 29일 서울 종로구 세종문화회관 앞에서 딥페이크 성범죄 대응 긴급 대학생 기자회견을 하며 피켓을 들고 있다. 2024.08.29 yooksa@newspim.com

프랑스 정부는 8월 28일 입국하는 텔레그램의 최고경영자(CEO) 파벨 두로프를 '범죄 방조'로 체포했다. 전 세계 9억 명의 사용자를 보유한 텔레그램은 마약 밀매, 조직범죄, 테러 조장, 사이버 폭력 등 각종 범죄 도구로 활용되고 있음에도 두로프는 프라이버시 보호를 이유로 수사당국에 협조를 하거나 적절한 조치를 취하는 것을 거부해왔다. 이번 프랑스 정부의 조치는 향후 SNS플랫폼에서 벌어지는 범죄행위에 대해 CEO가 형사적 책임을 요구받을 수 있음을 시사한다.

딥페이크 성착취물의 완전한 삭제는 여전히 어렵다. 24시간 365일 딥페이크 성착취물을 찾아내 삭제하는 AI엔진이 개발되어 국내에서도 활용 중이지만 복사본이 있는 한 특정 시간 경과 후 언제 고 다시 업로드 될 수 가능성이 있기 때문이다. 결국 어떻게 든 '딥페이크 성착취물이 만들어지지 않도록'하는 것이 최선인 셈이다.

[서울=뉴스핌] 김학선 기자 = 평화나비네트워크 소속 대학생들이 29일 서울 종로구 세종문화회관 앞에서 딥페이크 성범죄대응 긴급 대학생 기자회견을 하며 퍼포먼스를 하고 있다. 2024.08.29 yooksa@newspim.com

사실 딥페이크 범죄는 한국만의 문제는 아니다. 그렇지만 피해자와 가해자 다수가 10대라는 점은 자못 심각하다. 경찰청 통계에 의하면 지난 3년 동안 딥페이크 범죄 가해자 중 70% 정도가 미성년자이고 피해자 역시 60% 이상이 미성년자이다.

우리나라는 프랑스나 미국의 일부 주처럼 특정 연령까지 SNS 계정을 만들지 못한다거나 학교에서 스마트폰 사용을 금지하는 법령이 없는 탓에 일찍부터 SNS 환경에 쉽게 노출되는 데다 새로운 기술에도 매우 친화적인 편이다. 친구나 가까운 지인 등을 AI로 놀려먹자는 단순한 의도를 가진 미성년자가 가해자일 경우 피해자 역시 미성년자가 많을 수 밖에 없다.

딥페이크 범죄의 피해자와 가해자 다수가 미성년자라는 사실은 우리사회에 꼭 필요한 디지털 시민 교육과 미디어 리터러시 교육이 제대로 이뤄지지 않고 있음을 단적으로 보여준다.

'기술을 다룰 줄 하는 능력' 보다는 '기술로 무엇을 하고 하지 말아야 하는가' 에 대한 올바른 인식을 갖추는 일이 훨씬 중요시되어야 한다.

우선 디지털 범죄가 얼마나 심각한 중범죄인지 교육해야 한다. 디지털 범죄는 남의 인권과 인격을 침해하는 것이고 법에 저촉된다는 사실을 청소년기부터 자주 많이 알려줘야 한다. 현실 범죄와 디지털 범죄의 경중이 다르지 않는다는 점도 강조할 필요가 있다. 미성년자는 장난삼아 했던 행동의 중대성을 잘 모를 수 있다. 예컨대 학교 폭력의 연장선상으로 온라인에서 따돌림 하고 이상한 사진에다 얼굴 갖다 붙이면서 놀리는 '능욕문화' 같은 것이다. '능욕'이 AI를 만나 딥페이크가 되면 피해자에게 치명적인 해를 입힐 뿐 아니라 가해자도 성범죄자가 된다는 사실을 명확히 인지시켜야 한다.

텔레그램 채팅방에서 중국발 딥페이크 기술로 만든 한 K-POP 아이돌 그룹의 나체 영상이 유포돼 논란이 되고 있다. 현재 국내에 해당 기술이 일부 판매된 것으로 알려지고 있다. [사진=뉴스핌DB]

온라인에서의 다양한 비윤리적인 행위들을 가볍게 여기지 않는 '미디어 리터러시' 교육도 필요하다. 편향으로 인한 갈등과 미움이 온라인에서의 기본값이 아니라는 점을 인식시키고 비난을 놀이처럼 여기지 않아야 건전한 문화가 형성된다. 현실의 반이 온라인인 세상에서 미디어 리터러시 교육은 필수과목이 되어야 한다.

미국 대학에서는 신입생에게 '미디어 리터러시' 교육을 듣게 하는 곳이 늘고 있다. 우리나라에서는 특별히 배우지 않는 미디어를 현명하게 소비하는 방법, 적절한 댓글을 쓰는 법, 기분 나쁘지 않게 비판하는 법 등 현실적인 내용을 다룬다.

결국 딥페이크 범죄를 막는 근본적인 대책은 '가해자가 되지 않는' 교육 아닐까?

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
폭염에 '온열질환자' 속출…환자 425명 [세종=뉴스핌] 신도경 기자 = 지난 30일 서울 전역에 첫 폭염주의보가 시작되면서 올해 온열질환자가 400명을 넘었다. 1일 질병관리청의 온열질환 응급실 감시체계에 따르면 지난 5월 15일부터 6월 29일까지 집계된 온열질환자는 425명으로 사망자는 3명에 달했다. 온열질환은 더운 날씨로 인해 열탈진, 열사병, 열 부종 등이 발생하는 질환이다. 40도 이상의 고열이나 현기증, 두통, 오한 등이 나타난다. [서울=뉴스핌] 김학선 기자 = 서울 전역에 올해 첫 폭염주의보가 발효된 30일 오후 서울 성동구 마장역 인근에서 시민들이 양산을 쓰고 뜨거운 햇볕을 피해 걷고 있다. 2025.06.30 yooksa@newspim.com 기상청은 지난 30일 서울 전역과 경기도 과천, 성남, 구리, 화성에 올해 첫 폭염주의보를 발령했다. 경기도 가평, 광주는 폭염주의보가 폭염경보로 격상됐다. 1일에도 서울의 낮 최고기온은 30도, 강릉 35도, 대전 32도, 광주 35도, 제주 31도로 더운 날씨가 계속될 전망이다.  날씨가 더워지면서 온열질환자 수도 점차 늘고 있다. 지난 5월 15일부터 5월 31일까지 온열환자 수는 62명으로 사망자는 없었다. 이 기간 중 하루 최대로 발생한 온열질환자 수는 21명이다. 반면 지난 28일에는 하루 최대로 발생한 온열질환자 수가 52명으로 늘었다. 지난 1일부터 29일까지 집계된 온열질환자 수는 361명으로 사망자는 3명에 달하며 급증하는 모양새를 보이고 있다.  연령별 현황에 따르면 온열질환자는 대부분 고령층에서 발생했다. 60대가 78명(18.4%)으로 가장 많았고, 50대 70명(16.5%), 30대와 40대는 각각 61명(14.4%)으로 집계됐다. 온열질환자가 속출하는 직업은 미상을 제외하고 단순 노무 종사자로 68명(16%)에 달했다. 농림어업숙련종사자 40명(9.4%), 무직 39명(9.2%) 순으로 나타났다. 열탄진으로 인한 온열질환자는 222명(52.2%)로 대부분을 차지했다. 열사병 85명(20%), 열경련 61명(14.4%), 열실신 53명(12.5%)이다. 하루 중 온열질환이 가장 많이 발생한 시간대는 오후 4∼5시(13.6%)다. 오전 10∼11시(11.8%), 오후 3∼4시(11.5%) 등의 순이었다. 온열질환을 예방하기 위해서는 물을 자주 마시고 시원한 곳에서 지내야 한다. 더운 시간대의 활동을 자제하는 것도 중요하다. 특히 체온 조절이 원활하지 않은 만성질환자, 어린이, 어르신은 더위에 오래 노출되지 않도록 더욱 주의해야 한다. 육현 원주세브란스기독병원 응급의학과 교수는 "온열질환은 충분한 수분을 섭취하고 더운 낮 시간대 활동을 피하는 것만으로 예방이 가능한 질환"이라며 "방치할 때 생명을 위협할 수 있어 각별한 주의가 필요하다"고 했다. 이어 육 교수는 "열사병, 열탈진, 열경련 등 온열질환이 발생할 경우 체열을 신속히 낮추는 것이 가장 중요하다"며 "옷을 느슨하게 풀고, 찬물에 적신 수건을 몸통에 덮거나 겨드랑이와 사타구니 부위에 찬 물병이나 선풍기 바람을 활용해 체온을 낮추는 응급조치가 도움 될 수 있다"고 강조했다. sdk1991@newspim.com 2025-07-01 11:24
사진
내란 특검 "5일 오전 9시까지 출석 통지" [서울=뉴스핌] 김현구 기자 = '내란 특검(특별검사)'이 1일 윤석열 전 대통령 측에 2차 소환조사 일자를 다시 통지했다. 특검팀이 다시 통지한 일자는 오는 5일 오전 9시다. 박지영 특별검사보(특검보)는 이날 오전 브리핑에서 "윤 전 대통령이 금일 특검 출석에 응하지 않고 불응했다"며 "윤 전 대통령에게 오는 5일 오전 9시까지 출석하라고 통지했다"고 밝혔다. 윤석열 전 대통령. [사진=뉴스핌DB] 박 특검보는 "(윤 전 대통령이) 5일 오전 9시 출석하지 않는 경우 어떻게 조치할 것인가"라는 질문에 "전날 윤 전 대통령 측이 제출한 의견서에서 5일 이후 출석에는 응하겠단 의사를 밝히고 있다"고 답했다. 이어 "만약 그때도 출석에 응하지 않으면 요건이 다 갖춰진 이상 법원에서도 (체포영장을) 내주지 않을까 생각한다"고 덧붙였다. 앞서 박 특검보는 특검이 재통보한 일정에 윤 전 대통령이 응하지 않는 경우 형사소송법상 마지막 단계의 조치를 취할 것이라고 말한 바 있다.   hyun9@newspim.com 2025-07-01 11:29
안다쇼핑
Top으로 이동