전체기사 최신뉴스 GAM 라씨로
KYD 디데이
사회 교육

속보

더보기

[기고] AI 프로필 알고 보면 위험한 놀이문화

기사입력 : 2023년09월04일 08:27

최종수정 : 2023년09월04일 08:30

하민회 이미지21대표(코가로보틱스 마케팅자문)

"어디서 본 듯한데, 누구 시죠?" 메이크업부터 헤어스타일까지 한참 공들인 스튜디오 사진이구나 싶은데 뭔가 좀 이상하다. 또렷한 윤곽, 훨씬 어려 보이기도 하고 포즈나 시선도 수준급이다. 요즘 SNS에 유행하는 AI 프로필이다. 

사용법도 어렵지 않다. 평소 찍어 두었던 셀카 10~20장을 앱에 업로드하고 커피 두 잔 값 정도만 지불하면 1시간 내에 스튜디오급 사진을 받아볼 수 있다. 작심하고 날 잡아 차려 입고 임하는 스튜디오 촬영 비용이 30~40만원 정도임을 감안하면 시간, 비용 절감은 물론 심리적 부담도 거의 없으니 AI프로필은 만족도가 높을 수밖에 없다.

인스타그램 에서 #ai프로필 해시태그는 2만 8천개를 넘었다. 대표 앱으로 꼽히는 스노우는 두 달 만에 150억 가까운 매출을 올렸다. 한국에서 뿐 아니라 일본, 미국, 태국 등에서도 인기를 끄는 걸 보니 사람 마음 다 비슷한 모양이다. '어쨌든 가장 멋지고 보기 좋은 나를 사진으로 남기고 싶다.' - 비록 내 것인 듯 내 것 아닌 내 사진이라도 말이다.

하민회 이미지21 대표.

하지만 AI 프로필은 엄밀히 프로필 사진이라 보기는 어렵다. 단순 사진 보정과 편집을 넘어 AI가 만들어낸 가상인물이기 때문이다. 우선 사용자의 셀카사진을 데이터로 변환해 측정한다. 이때 인물의 특징을 읽어내고 부수적인 복잡도는 줄인다. 그리고 비슷한 특징을 가진 사람들의 데이터와 묶은 후 기존에 확보된 '멋진' 사진에 사용자 데이터를 입히는 형태다. 최대한 자연스럽고 조화로운 대입이 관건인 일종의 딥 페이크(Deepfake)다.

아무리 마음에 들어도 AI 프로필을 입사지원서 사진으로 제출하거나 주민등록증, 운전면허증, 여권 등의 신분증에 사용해서는 안 된다. 행정안전부 지침에 의하면 신분증 사진은 '6개월 이내 모자 등을 쓰지 않은 상반신 사진'으로 지나친 보정이나 변형으로 인해 당사자 확인이 어려우면 사용이 불가하다. 자신의 것이긴 해도 온전히 자기 사진이 아닌 AI 프로필은 신분증 사진으로 자격에 못 미친다.

AI 프로필이 염려스러운 점은 또 있다. 최근 SNS에서는 AI 프로필을 정체성으로 삼아 보여주는 것이 놀이문화로 자리 잡았다. 불특정 다수에 쉽게 노출되는 만큼 디지털 범죄에 취약할 수밖에 없다. 실제 사진은 아니지만 정체성에 관련되는 만큼 얼굴이나 신체를 성적인 목적 또는 수치심을 유발하는 형태로 편집해 엉뚱한 용도에 활용하거나 교묘하게 합성한 딥 페이크 2차 제작물로 악용될 위험도 있다. 아무 생각없이 올린 내 AI 프로필이 사기계정의 프로필로 버젓이 쓰이고 있다면 얼마나 억울하겠는가?

[사진=카카오브레인]

딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어인 딥 페이크(Deepfake)는 사람들의 얼굴, 목소리, 동작 등을 합성하여 진짜와 구분하기 어려운 가짜 영상, 음성 등을 만들어내는 AI 기술이다. 영화를 비롯한 엔터테인먼트 산업은 물론 교육과 광고, 의료 분야까지 쓸모가 다양하지만 안타깝게도 정치, 사회, 경제 등 다양한 분야에서 사회적 혼란을 가져오고 실제 피해자를 만드는 등 악용의 잠재력 또한 커서 경계해야 할 기술로 꼽힌다.

지난 해 SNS에 게시되어 사람들을 당황시켰던 젤렌스키 우크라이나 대통령이 러시아에 항복을 발표하는 영상, 바이든 미국대통령이 성 소수자를 향해 막말하는 영상, 세계적인 영화배우 엠마 왓슨, 스칼렛 요한슨 등이 출연한 음란 광고 등은 모두 딥 페이크였다.

'저 사람이 대체 왜 저런 말을 하고 저런 행동을 할까?' SNS에 맥락에 맞지 않는 뜬금없는 영상이 돈다면 십중팔구 딥 페이크 영상이다. 세계경제포럼 2021년 보고서에 의하면 딥 페이크 동영상 수는 매년 약 900%씩 증가했다.

딥 페이크가 반드시 부정적 기능만 있는 것은 아니다. 8·15 광복절 기념식에 안중근 의사, 유관순 열사가 생생한 목소리로 나라에 대해 당부하거나 젊은 나이에 세상을 떠난 마이클 잭슨이나 김광석을 영상으로 부활시킨 공연은 팬들에게 큰 선물이 되기도 한다.

아일랜드 코크대 연구진에 의하면 딥 페이크를 이용해 실제 있었던 사건에 가짜 정보를 더하면 사람들은 이를 실제 사건으로 기억하는 경향이 나타난다. 딥 페이크 영상이 사람들의 기억보다 더 쉽게 받아들여지며 영상에 노출된 사람들의 기억에도 영향을 미치기 때문이다.

글로벌 보안 업체 아크로니스는 챗GPT를 비롯해 생성형 AI 기술이 사이버 공격과 악성 콘텐츠를 생성하는 데 사용되는 현상은 'AI가 사기꾼의 능력을 가속화' 하는 것과 같다며 초기부터 전 사회적으로 주의를 기울여야 한다고 경고했다.

AI 프로필로 돌아가 보자. 누군가 나의 AI 프로필을 이용해 딥 페이크 영상을 만들고 음란물 광고에 썼다면 그는 어떤 처벌을 받을까? 결론부터 말하자면 그는 아무런 처벌을 받지 않는다. 현행법상 근거가 없기 때문이다. AI로 만든 산출물은 가상의 인물에 해당되므로 실제 인물을 피해자로 특정하지는 못한다.

훅 들어온 AI 시대, 기술의 발전 속도에 비해 우리의 대비는 여전히 미약하다. 법적 기준과 규제가 준비될 때까지 자기 초상권 보호에 보다 예민해질 필요가 있다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
트럼프 주니어, 내주 방한…정용진 초청 [서울=뉴스핌] 남라다 조민교 기자 = 도널드 트럼프 미국 대통령의 장남 트럼프 주니어가 다음주 한국을 방문한다. 이는 사이가 각별하다고 알려진 정용진 신세계그룹 회장의 초청으로 이뤄졌다. 23일 재계 등에 따르면 트럼프 주니어는 다음주 중 한국을 찾을 예정이다. 그는 방한 후 정용진 회장 등 재계 인사들을 만나 트럼프 정부와 가교 역할을 할 전망이다. 도널드 트럼프 대통령 취임식 참석을 위해 지난 18일(현지시간) 워싱턴을 찾은 신세계그룹 정용진 회장(가운데)이 트럼프 주니어(왼쪽)와 만나 부인 한지희씨(오른쪽)를 소개 후 반갑게 사진을 찍었다. [사진=신세계그룹] 트럼프 주니어의 초청은 '절친'으로 알려진 정용진 회장이 주도한 것으로 확인됐다. 트럼프 행정부는 현재 한국에 대한 관세 부과를 유예했지만, 불확실성이 지속되면서 수출기업과 유관 단체들의 불안감이 커지는 상황이다. 이에 정 회장이 지난주 미국을 찾아 트럼프 주니어와 만나 한국 기업들의 우려를 전달하며 방한을 설득한 것으로 알려졌다. 신세계그룹 관계자는 "다음 주, 트럼프 주니어가 정용진 회장 초청으로 방한해 국내 주요 기업 인사를 만날 예정"이라며 "일정하고 장소는 아직 정해지지 않았다"고 전했다. mkyo@newspim.com 2025-04-23 16:49
사진
대법, 이재명 선거법 사건 전합 회부 [서울=뉴스핌] 김현구 기자 = 이재명 전 더불어민주당 대표의 공직선거법 위반 사건을 전원합의체에 회부한 대법원이 22일 곧바로 심리에 들어갔다. 대법원 전원합의체(전합)는 이날 오후 2시부터 이 전 대표의 공직선거법 위반 사건 상고심 첫 합의기일을 진행하고 있다. [서울=뉴스핌] 이호형 기자 = 이재명 더불어민주당 전 대표가 22일 오전 서울 서초구 서울중앙지방법원에서 열리는 '대장동 배임 및 성남FC 뇌물 혐의' 1심 속행 공판에 출석 하고 있다. 2025.04.22 leemario@newspim.com 앞서 대법원은 이날 오전 이 전 대표 사건 2부에 배당하고 주심으로 박영재 대법관을 지정했다. 하지만 이후 조희대 대법원장이 이 전 대표 사건을 전원합의체에 회부했고, 첫 합의기일도 열리게 됐다. 전합은 종전의 판례를 바꾸는 등 사회적 파장이 큰 중요 사건을 다룬다. 대법원장이 직접 재판장을 맡고, 법원행정처장을 겸임하는 대법관을 제외한 나머지 대법관 12명 등 총 13명으로 구성된다. 단 이번 사건에선 중앙선거관리위원장을 맡고 있는 노태악 대법관이 회피신청을 했다. 이에 이 사건은 조 대법원장과 나머지 대법관 11명 등 총 12명이 심리할 전망이다. 이 전 대표의 공직선거법 위반 사건이 전합에 회부되면서, 이 전 대표는 2020년에 이어 두 번째 전합 판단을 받게 됐다. 이 전 대표는 2016년 6월 성남시장으로 있으면서 보건소장, 정신과 전문의 등에게 친형을 정신병원에 강제 입원시키도록 지시하고, 2018년 지방선거를 앞두고 열린 TV토론회 등에서 친형을 강제 입원시키도록 지시한 적이 없다는 허위 발언을 한 혐의로 재판에 넘겨졌다. 그는 1심에서 무죄를 선고받았으나 2심에선 벌금 300만원을 선고받았다. 하지만 2020년 7월 전합은 이 전 대표 사건을 7(파기환송)대 5(상고기각)로 무죄 취지 파기환송했고, 이후 파기환송심에서 무죄가 나온 뒤 그대로 확정됐다. 대법원이 본격적인 심리 절차에 들어가면서 이 전 대표 사건 선고 시점에 대한 관심이 커지고 있다. 공직선거법 사건은 '6·3·3원칙(1심 6개월, 2·3심 3개월)'을 준용하게 돼 있기 때문에 원칙대로라면 오는 6월 26일까지 선고가 나와야 한다. 하지만 같은 달 3일 대통령 선거가 예정돼 있고 이 전 대표가 유력 후보로 꼽히는 만큼, 이전에 결론이 나기는 쉽지 않을 것이란 관측이 나온다. 한편 이 전 대표는 지난 대선 과정에서 대장동 개발사업의 핵심 실무자였던 고(故) 김문기 전 성남도시개발공사 개발1처장 및 백현동 개발사업과 관련해 허위 발언을 한 혐의로 기소됐다. 이 전 대표는 1심은 이 전 대표가 방송 인터뷰에서 "해외 출장 중 김문기와 골프를 치지 않았다"고 한 부분과 국회 국정감사에서 "국토부 요구에 따라 어쩔 수 없이 (백현동 한국식품연구원 부지) 용도변경을 해준 것"이라는 취지로 말한 부분이 허위사실에 해당한다며 징역 1년에 집행유예 2년을 선고했다. 하지만 2심은 해당 발언들이 모두 허위사실에 해당하지 않는다며 1심 판단을 뒤집고 무죄를 선고했다. 이에 검찰은 "법원의 판단은 피고인의 발언에 대한 일반 선거인들의 생각과 너무나도 괴리된 경험칙과 상식에 부합하지 않는 판단으로 공직선거법의 허위사실공표죄에 관한 법리를 오해한 위법이 있다"며 상고를 제기했다. hyun9@newspim.com 2025-04-22 15:23
안다쇼핑
Top으로 이동