[서울=뉴스핌] 이지은 기자 = 인공지능(AI) 기술이 빠르게 발전하면서 이로 인한 피해가 연예계에 급증하고 있다. AI 기술을 활용해 사진이나 영상을 합성하는 딥페이크부터 AI 기술로 만든 대화, 사진들로 인한 범죄로 연예계에 빨간불이 켜졌다.
◆ 블랙핑크·아이들·박규영 등…딥페이크 피해봤다
지난해 하반기 연예계를 휩쓴 것이 바로 AI 기반 이미지 합성 기술인 딥페이크였다. 가상 이미지가 실제처럼 둔갑돼 유포되면서 이로 인한 피해는 스타들에게 고스란히 돌아갔다. 특히 연예계에서도 여성 연예인들을 성적 대상화해 이들의 얼굴을 합성한 음란물 범죄가 줄을 이었다.
블랙핑크부터 아이들, 뉴진스, 아이유, 권은비, 트와이스, 배우 박규영 등도 딥페이크 범죄를 피해가진 못했다. 이에 각 소속사 측은 "아티스트의 초상을 합성해 허구의 음란성 사진을 유포 및 판매하는 등 도저히 용인될 수 없는 행위를 한 자들의 범죄 행위에 대해 경찰에서 수사가 진행되고 있고, 그중 일부는 1심 판결에서 형사처벌이 결정됐음을 확인했다"라며 강경한 입장으로 법적 대응을 예고했다.
딥페이크 범죄가 기승을 부리던 가운데, 미국 월스트리트저널(WSJ)은 지난해 8월(현지시간) 사이버보안 업체인 '시큐리티 히어로'가 최근 발표한 '2023 딥페이크 현황' 보고서를 인용, 한국이 딥페이크 성범죄에 가장 취약한 국가라고 보도했다.
해당 보고서에 따르면 지난해 7∼8월 딥페이크 음란물 사이트 10곳과 유튜브·비메오·데일리모션 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 올라온 영상물 9만 5820건을 분석했고, 그 결과 딥페이크 음란물에 등장하는 개인 중 53%가 한국인 가수와 배우로 나타났다.
이 보고서에서는 딥페이크 음란물의 최다 표적이 된 개인 10명을 꼽았는데 이 중 8명이 한국인 가수였다. 가장 큰 피해를 본 한국인 가수는 딥페이크 성착취물 1595건에 등장했고 총 조회수는 561만회에 이르렀다. 또 다른 한국 가수는 성착취물 1238건의 표적이 됐고, 조회수는 386만 5000회에 달했다.
연예인들의 사진들은 손쉽게 구할 수 있다는 점을 악용해 딥페이크 범죄 취약 대상으로 자리잡았다. 해당 범죄가 기승을 부리자, 엔터업계는 고소·고발 조치를 취하며 법적대응을 하고 있지만 영상이 올라온 사이트 대부분이 해외에 서버를 두고 있어 게시물 삭제까지는 오랜 시간이 걸리기도 했다.
◆ AI로 조작한 대화·신분증까지…"AI, 연예계에 위협적인 기술"
딥페이크 범죄가 지나가고 나서, 최근 연예계에는 AI 기술로 조작된 대화, 사진들이 기승을 부리고 있다. 지난 20일 온라인 커뮤니티와 사회관계망서비스(SNS) 등을 중심으로 배우 이이경에 대한 게시물이 확산됐다.
해당 게시글에는 이이경이 누군가와 모바일 메신저로 음담패설을 나눈 내용이 담겨 있었다. 이에 따르면 이이경으로 추정되는 인물은 A씨에게 신체 사진을 요구했으며, 욕설 및 성희롱 발언을 해 충격을 더했다. 이에 이이경 소속사 측은 "해당 작성자 A씨는 약 5개월 전, 해당 내용으로 협박성 메일을 보내며 금전을 요구했다. 당시 법적 대응을 예고하자 사과했다"고 밝혔다.
하지만 A씨는 자신의 SNS를 통해 "갑자기 제가 돈 달라고 했던 이야기가 나왔다. 저는 다른 여자들은 당하지 않도록 글을 올린 것"이라고 주장하면서 이이경과 주고 받은 다이렉트 메시지(DM) 영상을 게재했다.
A씨는 "다들 보여달라고 해서 올린 영상"이라며 "이이경의 진짜 계정이 맞다"고 강조했다. 하지만 일부 네티즌들이 조작 의혹을 제기하면서 여론이 들끓기 시작하자, 해당 작성자는 "처음에는 장난으로 시작한 글이 그렇게 관심을 받을 줄 몰랐다. 점점 글과 AI 사진을 쓰다 보니 실제로 내가 그렇게 생각하게 된 것 같다"며 모든 것이 조작임을 인정했다.
해당 충격이 가시기도 전에, 이번에는 배우 이정재도 AI 범죄의 타겟이 됐다. 최근 이정재를 사칭해 범죄를 저지른 로맨스 스캠 일당이 SNS를 통해 50대 여성 B씨에게 접근, 약 5억원을 가로챘다. 연인인 것처럼 연애 감정을 자극하는 로맨스 스캠을 사기에 이용한 일당은 지난 4월 B씨에게 "팬들과 소통하기 위해 연락했다"며 접근을 시도했다.
사칭범은 AI로 생성한 가짜 셀피와 신분증을 보내며 B씨를 속였고, 자신을 소속사 경영진이라 소개한 공범은 "이정재를 만나게 해주겠다"며 600만원을 요구했다. 이에 이정재 소속사 아티스트컴퍼니는 "현재 유관 기관과 협조해 관련 사실을 확인 중이며 팬들의 안전을 위해 강력하게 대응할 예정이다. 앞으로도 안전하고 건강한 팬 문화를 위해 최선을 다하겠다"고 전했다.
이처럼 연예계가 유독 AI 범죄에 취약한 상태이다. 이름과 얼굴이 잘 알려졌다는 점을 악용해 대중에게 쉽게 다가가 범죄를 저지를 수 있기 때문이다. 그렇기에 소속사들도 AI 관련 범죄에 더욱 골머리를 썩고 있다.
한 연예 기획사 관계자는 "AI 기술로 인해 다양한 콘텐츠가 제작되고 있고, 이는 대중문화계뿐 아니라 K컬처 시대에 너무나도 좋은 양상이지만, 엔터 업계에서는 그만큼 양가적이기도 하고 위협이 되는 기술이기에 마냥 좋게만 볼 수가 없는 것이 사실"이라고 토로했다.
이어 "이전 딥페이크부터 AI 기술로 조작된 대화, 사진들에 대한 피해는 고스란히 배우에게로 돌아온다. 사실이 아님이 밝혀져도 이미 훼손된 이미지는 쉽게 복구하기가 힘들다"라며 "이러한 일이 발생할 때마다 소속사 입장에서는 법적대응 및 대중에게 당사는 물론 아티스트 개인은 어떠한 경우를 불문하고 금품이나 계좌이체, 후원 등 경제적 요구를 하지 않는다는 말밖에 할 수가 없어서 답답할 따름"이라고 덧붙였다.
alice09@newspim.com
