전체기사 최신뉴스 GAM
KYD 디데이
사회 교육

속보

더보기

[기고] AI 프로필 알고 보면 위험한 놀이문화

기사입력 : 2023년09월04일 08:27

최종수정 : 2023년09월04일 08:30

하민회 이미지21대표(코가로보틱스 마케팅자문)

"어디서 본 듯한데, 누구 시죠?" 메이크업부터 헤어스타일까지 한참 공들인 스튜디오 사진이구나 싶은데 뭔가 좀 이상하다. 또렷한 윤곽, 훨씬 어려 보이기도 하고 포즈나 시선도 수준급이다. 요즘 SNS에 유행하는 AI 프로필이다. 

사용법도 어렵지 않다. 평소 찍어 두었던 셀카 10~20장을 앱에 업로드하고 커피 두 잔 값 정도만 지불하면 1시간 내에 스튜디오급 사진을 받아볼 수 있다. 작심하고 날 잡아 차려 입고 임하는 스튜디오 촬영 비용이 30~40만원 정도임을 감안하면 시간, 비용 절감은 물론 심리적 부담도 거의 없으니 AI프로필은 만족도가 높을 수밖에 없다.

인스타그램 에서 #ai프로필 해시태그는 2만 8천개를 넘었다. 대표 앱으로 꼽히는 스노우는 두 달 만에 150억 가까운 매출을 올렸다. 한국에서 뿐 아니라 일본, 미국, 태국 등에서도 인기를 끄는 걸 보니 사람 마음 다 비슷한 모양이다. '어쨌든 가장 멋지고 보기 좋은 나를 사진으로 남기고 싶다.' - 비록 내 것인 듯 내 것 아닌 내 사진이라도 말이다.

하민회 이미지21 대표.

하지만 AI 프로필은 엄밀히 프로필 사진이라 보기는 어렵다. 단순 사진 보정과 편집을 넘어 AI가 만들어낸 가상인물이기 때문이다. 우선 사용자의 셀카사진을 데이터로 변환해 측정한다. 이때 인물의 특징을 읽어내고 부수적인 복잡도는 줄인다. 그리고 비슷한 특징을 가진 사람들의 데이터와 묶은 후 기존에 확보된 '멋진' 사진에 사용자 데이터를 입히는 형태다. 최대한 자연스럽고 조화로운 대입이 관건인 일종의 딥 페이크(Deepfake)다.

아무리 마음에 들어도 AI 프로필을 입사지원서 사진으로 제출하거나 주민등록증, 운전면허증, 여권 등의 신분증에 사용해서는 안 된다. 행정안전부 지침에 의하면 신분증 사진은 '6개월 이내 모자 등을 쓰지 않은 상반신 사진'으로 지나친 보정이나 변형으로 인해 당사자 확인이 어려우면 사용이 불가하다. 자신의 것이긴 해도 온전히 자기 사진이 아닌 AI 프로필은 신분증 사진으로 자격에 못 미친다.

AI 프로필이 염려스러운 점은 또 있다. 최근 SNS에서는 AI 프로필을 정체성으로 삼아 보여주는 것이 놀이문화로 자리 잡았다. 불특정 다수에 쉽게 노출되는 만큼 디지털 범죄에 취약할 수밖에 없다. 실제 사진은 아니지만 정체성에 관련되는 만큼 얼굴이나 신체를 성적인 목적 또는 수치심을 유발하는 형태로 편집해 엉뚱한 용도에 활용하거나 교묘하게 합성한 딥 페이크 2차 제작물로 악용될 위험도 있다. 아무 생각없이 올린 내 AI 프로필이 사기계정의 프로필로 버젓이 쓰이고 있다면 얼마나 억울하겠는가?

[사진=카카오브레인]

딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어인 딥 페이크(Deepfake)는 사람들의 얼굴, 목소리, 동작 등을 합성하여 진짜와 구분하기 어려운 가짜 영상, 음성 등을 만들어내는 AI 기술이다. 영화를 비롯한 엔터테인먼트 산업은 물론 교육과 광고, 의료 분야까지 쓸모가 다양하지만 안타깝게도 정치, 사회, 경제 등 다양한 분야에서 사회적 혼란을 가져오고 실제 피해자를 만드는 등 악용의 잠재력 또한 커서 경계해야 할 기술로 꼽힌다.

지난 해 SNS에 게시되어 사람들을 당황시켰던 젤렌스키 우크라이나 대통령이 러시아에 항복을 발표하는 영상, 바이든 미국대통령이 성 소수자를 향해 막말하는 영상, 세계적인 영화배우 엠마 왓슨, 스칼렛 요한슨 등이 출연한 음란 광고 등은 모두 딥 페이크였다.

'저 사람이 대체 왜 저런 말을 하고 저런 행동을 할까?' SNS에 맥락에 맞지 않는 뜬금없는 영상이 돈다면 십중팔구 딥 페이크 영상이다. 세계경제포럼 2021년 보고서에 의하면 딥 페이크 동영상 수는 매년 약 900%씩 증가했다.

딥 페이크가 반드시 부정적 기능만 있는 것은 아니다. 8·15 광복절 기념식에 안중근 의사, 유관순 열사가 생생한 목소리로 나라에 대해 당부하거나 젊은 나이에 세상을 떠난 마이클 잭슨이나 김광석을 영상으로 부활시킨 공연은 팬들에게 큰 선물이 되기도 한다.

아일랜드 코크대 연구진에 의하면 딥 페이크를 이용해 실제 있었던 사건에 가짜 정보를 더하면 사람들은 이를 실제 사건으로 기억하는 경향이 나타난다. 딥 페이크 영상이 사람들의 기억보다 더 쉽게 받아들여지며 영상에 노출된 사람들의 기억에도 영향을 미치기 때문이다.

글로벌 보안 업체 아크로니스는 챗GPT를 비롯해 생성형 AI 기술이 사이버 공격과 악성 콘텐츠를 생성하는 데 사용되는 현상은 'AI가 사기꾼의 능력을 가속화' 하는 것과 같다며 초기부터 전 사회적으로 주의를 기울여야 한다고 경고했다.

AI 프로필로 돌아가 보자. 누군가 나의 AI 프로필을 이용해 딥 페이크 영상을 만들고 음란물 광고에 썼다면 그는 어떤 처벌을 받을까? 결론부터 말하자면 그는 아무런 처벌을 받지 않는다. 현행법상 근거가 없기 때문이다. AI로 만든 산출물은 가상의 인물에 해당되므로 실제 인물을 피해자로 특정하지는 못한다.

훅 들어온 AI 시대, 기술의 발전 속도에 비해 우리의 대비는 여전히 미약하다. 법적 기준과 규제가 준비될 때까지 자기 초상권 보호에 보다 예민해질 필요가 있다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
사직 전공의 2924명 복귀 의사 [세종=뉴스핌] 신도경 기자 = 20일부터 전공의를 대상으로 한 추가 모집이 시작된 가운데, 최소 사직 전공의 2924명이 복귀 의향을 밝힌 것으로 알려졌다.  이날 대한수련병원협의회(협의회)에 따르면 사직 전공의에 복귀 의향을 묻는 설문조사에 참여한 인원 4794명 중 복귀 의사를 밝힌 사직 전공의는 2924명(61.5%)으로 집계됐다. 복귀 의사를 밝힌 사직 전공의 2924명 중 즉시 복귀를 희망한 사직 전공의는 719명(15.1%)이다. 필수의료패키지 재논의, 5월 복귀 시 수련 인정, 입대한 사직자의 제대 후 복귀 TO(정원) 보장을 조건으로 복귀를 희망한 사직 전공의는 2205명(46.4%)으로 집계됐다. 복지부는 이달 말까지 전공의 추가 모집을 허용한다고 밝혔다. 전공의는 3월과 9월 상·하반기로 나눠 수련 모집을 하는데 의료계 요청에 따라 추가 복귀 길을 열어준 셈이다. 복지부는 사직전공의가 요구한 필수의료패키지 재논의, 5월 복귀 시 수련 인정, 입대한 사직자의 제대 후 TO 보장을 반영한다는 입장을 밝혔다. 필수의료패키지 재논의에 대해서는 기존 발표한 의료개혁 과제 중 구체화가 필요한 과제에 대해 현장의 목소리를 충분히 보완하겠다고 밝혔다. 5월 복귀 시 수련 인정의 경우는 오는 6월 1일부터 수련이 개시되면 인정된다. 군입대 전공의를 포함한 복귀 전공의 TO 보장도 수용됐다. 원 소속 병원·과목·연차의 TO가 기존 승급자 등으로 이미 채워진 경우도 사직자가 복귀하면 정원을 추가 인정한다. 다만, 이미 군입대한 전공의가 제대한 후 수련병원으로 복귀하는 문제는 향후 의료 인력, 병력 자원 수급 상황, 기존 복귀자와 형평성 등을 고려해 검토하겠다고 선을 그었다. 문제는 전공의 약 3000명이 복귀해도 전공의 출근자 비율은 2023년 전공의 임용대상자와 대비하면 절반에 못 미친다. 2023년 전공의 임용대상자는 1만3531명이다. 올해 3월 사직전공의 전체 인원은 1만1713명으로 재작년 대비 86.6%에 해당하는 전공의가 복귀하지 않고 있다. 만일 3000명이 복귀할 경우 2023년 대비 전공의 비율은 35.6%다. 복지부는 "대한수련병원협의회, 대한병원협회 등 6개 단체가 전문의 수급 차질을 막고 의료공백 상황을 해결할 수 있도록 사직전공의의 수련 복귀를 위한 추가 모집을 열어줄 것을 건의했다"며 "고심 끝에 수련 현장 건의를 받아들여 5월 중 수련 재개를 원하는 전공의는 개인의 선택에 따라 수련에 복귀할 수 있도록 기회를 부여하고자 하는 것"이라고 설명했다. sdk1991@newspim.com 2025-05-20 14:25
사진
SKT 재점화 '위약금 면제' 논의 [서울=뉴스핌] 김영은 인턴기자 = SK텔레콤(SKT) 해킹 사고로 유출된 정보가 당초 예상보다 더 많았던 것으로 밝혀지자, 유심 해킹 피해 고객 위약금 면제 논의에 다시 관심이 쏠리고 있다.  19일 'SKT 유심 해킹 사고 민·관 합동 조사단(민관합동조사단)'의 2차 조사 결과 브리핑에 따르면, 조사단은 SKT 서버에서 총 25종의 악성코드와 23대의 감염 서버를 추가로 확인했다. 조사단은 이번 사고로 약 2695만건 이상의 유심 정보(전화번호, 국제 이동 가입자 식별번호인 IMSI 등 약 9.82GB 규모) 유출을 확인했다.  조사단은 리눅스 서버 3만여대를 포함한 전체 서버로 점검 범위를 확대하고 있다. 조사단은 일부 서버에서 개인정보(이름, 생년월일, 전화번호, 이메일 등)와 단말기 고유식별번호(IMEI) 약 29만건이 포함된 파일을 발견해, 해당 정보의 유출 여부에 대해 추가 조사를 진행한다. 류정환 SKT 네트워크인프라센터장이 19일 데일리 브리핑에서 발언하고 있다. [사진= 정승원 기자] SKT를 이용하며 '2년 약정' 계약을 맺은 고객 김모(35)씨는 이날 통신사 변경 상담을 신청했다. 김씨는 "유심 정보 해킹 피해를 당한 피해자의 입장이지만, 약정 기간이 약 1년 3개월 남았다는 이유로 10만원을 내야 한다고 통보받았다"며 "SKT가 고객 신뢰를 회복하려면, 고객의 위약금 지불 부담부터 덜어야 하는 것 아니냐"고 지적했다.  비슷한 처지의 박모(27)씨도 약정(2년 약정) 만료를 약 1년 앞두고, 위약금 8만원을 안내받은 상황이다. 박씨는 "일 때문에 바빠서 전화 상담을 받았는데, 자세한 위약금 도출 과정은 물어보지 못했다"며 "해킹 피해로 금융 범죄 피해는 당하지 않을까 노심초사하고 있는데, 위약금 부담에 통신사 변경도 마음대로 하지 못해 억울하다"고 말했다.  SKT는 전날 이 같은 고객 의견을 이사회에 전달하기 위해 SKT 고객신뢰위원회를 만들었다고 밝혔다. 고객신뢰위원회는 최근 해킹 사고로 손상된 고객 신뢰를 회복하고, 장기적으로 고객 만족도를 높이기 위해 출범한 외부 전문가 중심의 독립 기구다.  홍승태 SKT고객가치혁신실장은 "위약금 면제와 관련해 고객의 생각을 정리해 회사에 전달하는 등 고객 시각을 반영하는 역할을 위원회가 맡을 것"이라고 설명했다. 다만 SKT 측은 위원회가 직접 위약금 면제를 결정하지는 않는다는 입장을 유지하고 있다.   ◆ 위약금 면제의 쟁점은 'SKT 귀책사유'…정부·법조계도 주목 [서울=뉴스핌] 김영은 인턴기자 = LTE·5G 이동전화 서비스 등 이용 고객을 대상으로 한 SKT 이용약관 제 43조(위약금 면제)에 따르면 '회사의 귀책 사유로 (고객이) 계약을 해지할 경우'가 위약금 면제 조건으로 명시돼 있다. [사진=SKT 약관 캡처] 2025.05.19 yek105@newspim.com 위약금 면제 여부를 결정할 핵심 기준은 'SKT의 귀책사유 여부'가 될 전망이다. LTE·5G 이동전화 서비스 등 이용 고객을 대상으로 한 SKT 이용약관 제 43조(위약금 면제)에 따르면 '회사의 귀책사유로 (고객이) 계약을 해지할 경우'가 위약금 면제 조건으로 명시돼 있다.  일각에서는 해당 조항이 현실화하기 어렵다는 의견이 제기됐다. 한 법조계 관계자는 "약관에서 말하는 귀책 사유란 계약상 급부 의무를 이행하지 못한 경우를 의미한다"며 "SKT는 통화나 데이터 등 통신 서비스를 정상적으로 제공한 만큼, 이번 사건이 위약금 면제 조건에는 해당하지 않는다"고 말했다.  민관합동조사단은 현재 회사의 귀책사유를 가리는 조사를 이어가고 있다. 조사단은 현재 유심 해킹 사고의 원인 및 경위, 피해 규모, 사내 보안 관리 실태, 사고 대응 과정의 적정성 등을 조사 중이다.  정부는 최종 조사 결과에 따라 위약금 면제 등 책임의 경중을 판단하겠다는 입장이다. 유상임 과학기술정보통신부 장관은 지난 9일 정부서울청사에서 열린 월례 브리핑에서 "4개 법무법인에 의뢰한 검토 결과를 받아봤지만 아직은 명확하게 답하기 어렵다"며 "결국은 조사단의 결과를 보고 나서야 판단할 수 있을 것"이라고 밝혔다.  법무법인은 SKT의 ▲고의 또는 과실 여부 ▲정보보호 기술 수준 ▲보안조치의 적정성 등을 기준으로 귀책 여부를 판단할 수 있는 기준을 제시했다. 정부는 이 같은 기준과 조사단 결과를 고려해, 행정 행위 수준을 결정지을 전망이다.  ◆ "6개월 내 분쟁조정 결과 나올 것"…소비자 집단행동은 '속도' [서울=뉴스핌] 김영은 인턴기자 = SKT 유심 정보 유출 사태 한국소비자원 집단분쟁조정신청서 [사진=이철우 변호사] 2025.05.19 yek105@newspim.com 정부 조사가 길어지는 사이, 일부 고객은 집단으로 행동에 나서고 있다. SKT 이용 고객 59명은 지난 9일 한국소비자원 소비자분쟁조정위원회에 통신사 이동 시 위약금 면제 및 1인당 30만원 배상을 골자로 하는 집단 분쟁 조정을 신청했다.  대표 신청자인 이철우 문화법률사무소 변호사는 이날 "현재 집단분쟁조정 신청이 접수돼 사건 번호가 부여됐으며, 전체 절차는 6개월 이내 결론이 날 것으로 보인다"며 "전체 소비자에게 위약금 면제를 비롯한 어떤 보상안이 마련된다는 전제하에 신청 금액의 일부가 지급될 가능성이 있다"고 내다봤다.  이 변호사는 약관의 규제에 관한 법률(약관법) 제5조 제2항("약관의 조항이 명확하지 아니한 경우에는 그 조항은 작성자에게 불리하게 해석한다")에 따라 소비자분쟁조정위가 SKT에 불리하게 약관을 해석해 위약금을 면제받을 수 있다는 입장이다. 현재 SKT의 약관에는 '회사의 귀책사유로 (고객이) 계약을 해지할 경우'만 명시돼 있을 뿐, 귀책사유가 구체적으로 규정돼있지 않다.  이 변호사는 "핵심은 '회사 귀책사유'에 대한 해석이다"라며 "SKT 측은 '서비스 이용이 불가능할 정도의 장애'가 있어야 회사의 귀책사유가 성립한다고 주장하겠지만, '약관법 제5조 제2항 '작성자 불이익의 원칙'에 따라, 귀책사유에 대한 부연 설명이 없을 때는 소비자에게 유리하게 해석해야 한다"고 설명했다.  ◆ 국회입법조사처 "SKT 정보 유출 계기로 '위약금 면제' 제도화해야" [서울=뉴스핌] 김영은 인턴기자 = 통신사 해킹 사고 사후대응의 문제점과 입법과제 [사진=국회입법조사처 캡처] 2025.05.19 yek105@newspim.com 국회입법조사처는 'SKT의 귀책사유'가 인정되기만 한다면 약관을 근거로 위약금을 면제할 수 있다는 입장이다. 국회입법조사처는 최근 '이동통신사 스스로 위약금을 면제하는 것이 법적으로 가능한지'를 묻는 최민희 국회 과학기술정보방송통신위원장(더불어민주당)의 질문에 "SKT가 가입 약관에서 '회사의 귀책사유로 인해 고객의 계약을 해지할 경우' 위약금 납부 의무를 면제하도록 규정하고 있으므로 이번 해킹사태가 SKT 귀책사유로 인한 서비스 문제라면 이 조항을 근거로 위약금을 면제할 수 있다"고 답했다. 이와 함께 국회입법조사처는 최근 '통신사 해킹 사고 사후대응의 문제점과 입법과제' 보고서를 통해 통신사 해킹 사고와 관련해 피해 소비자를 위한 위약금 면제를 법제화해야 한다고 제안했다. 입법조사처는 "(유심 해킹 사태 이후) SKT가 뒤늦게 유심 무상 교환 조치를 발표하고 유심 보호 서비스 가입자에게 피해가 발생할 경우 보상하겠다는 모호한 입장을 취한 것도 전기통신사업법, 개인정보 보호법, 정보통신망법에 피해자에 대한 실질적 구제 조치가 미흡한 현실을 보여준다"며 "피해자가 통신사 이동을 원할 경우, 위약금을 면제하는 조치를 취해야 한다"고 제언했다. 보고서를 작성한 박소영 변호사는 이날 "구체적으로는 정보통신망법의 '침해 사고 대응' 부분, 혹은 전기통신사업법상 '이용자 보호'나 '사업자 의무' 조항에 위약금 면제 내용을 추가할 수 있다"며 "또, 보고서에는 없지만 공정거래위원회가 관리하는 소비자 보호 지침도 다시 검토해볼 수 있다"고 덧붙였다. 한편, 2차 조사 결과 브리핑을 마친 류제명 과학기술정보통신부 네트워크정책실장은 "SKT 유심 해킹 사태 대응에 있어 철저한 조사, 투명한 절차, 그리고 국민 우선의 정보 공개라는 세 가지 원칙으로 임하고 있다"며 "절대 은폐하거나 축소하는 일은 없을 것"이라고 밝혔다. 조사단은 오는 6월 말까지 IMEI 등 민감정보 유출 여부, 전체 서버 추가 점검, 해킹 경위와 사내 보안 실태, 회사 귀책사유 등 핵심 쟁점에 대해 조사를 이어갈 계획이다. yek105@newspim.com 2025-05-19 20:58
안다쇼핑
Top으로 이동