전체기사 최신뉴스 GAM
KYD 라이브
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 생성형AI시대 가짜뉴스 대응법

기사입력 : 2023년05월30일 08:37

최종수정 : 2023년05월30일 08:54

하민회 이미지21대표(코가로보틱스 마케팅자문)

펜타곤이 폭발했다고?  생성형 AI가 만든 가짜사진 한 장에 미국 증시가 출렁였다. 지난 주 미국 워싱턴DC 국방부 청사 근처건물이 폭발로 인한 검은 화염에 싸인 사진이 SNS를 타고 확산되면서 한때 주가가 급락하고 금값이 상승하는 해프닝이 벌어졌다.

미 국방부가 펜타곤과 백악관 인근에서의 폭발이나 화재는 없었다고 공식 확인하면서 사태는 진정됐지만 AI가 만든 이미지 한 장이 얼마나 빠르게 세상을 혼란에 빠뜨릴 수 있는지 극명하게 보여 준 사례였다. 이쯤되면 트럼프 전 대통령이 경찰에 체포되는 사진이나 패셔블한 백색 패딩을 입은 교황의 사진은 귀여운 수준이다.

챗GPT와 같은 생성형AI는 보이는 대로 믿지 말아야 하는 시대를 열었다.

AI가 만든 사진은 때로 사람이 찍은 사진보다 훨씬 드라마틱하다. 2023 소니 월드 포토그래피 어워드(SWPA)의 크리에이티브 부문 1위에 선정된 '전기공'은 생성형AI가 만든 사진이었다. 물론 사진가가 AI사진에 대해 공론화시킬 의도였다며 수상을 거부했지만 심사위원 뿐 아니라 일반인의 눈으로도 흠 잡을데 없는 사진이었다.

영상도 마찬가지다. 조 바이든 미 대통령의 우크라이나를 돕기 위해 탱크를 지원하자는 내용의 영상은 특정집단이 트랜스젠더에 대한 공격을 담은 발언으로 변형해 인터넷에 유포했다. 이 영상 조작에 쓰인 AI기술은 딥보이스(Deep Voice).

실제 사람의 음성을 학습시켜 만들어낸 가짜 목소리인 딥보이스는 미묘한 톤, 특유의 발음, 억양까지 똑같이 구현한다. 실제 목소리와 구분이 거의 불가능한 탓에 영상통화나 보이스피싱 등의 범죄에 쓰이고 있어 벌써부터 폐해가 심각하다.

일반인도 클릭 몇 번만으로 타인의 얼굴부터 목소리까지 손쉽게 복제하고 편집할 수 있게 된 시대. 현실과 가상의 경계가 빠른 속도로 허물어지고 있다.

더 큰 문제는 AI가 만드는 허위정보가 증가하고 있다는 사실이다. 가짜뉴스 감시그룹인 뉴스가드에 의하면 챗GPT와 같은 생성형 AI로 가짜 뉴스를 양산하는 '콘텐츠 팜'은 49개나 된다.

선정적인 기사로 클릭을 유도해 광고를 따내는 데 목적을 두고 있는 콘텐츠 팜은 전 세계에 퍼져 영어뿐 아니라 중국어, 포르투갈어, 태국어 등 다국어로 운영 중이다. 국가수반의 사망, 우크라이나전 사상자수 부풀리기, 대형사고 등 허위사실이 주를 이룬다.

오픈AI의 CEO 샘 알트만은 최근 미국 상원 청문회에서는 "점점 더 강력해지는 AI가 민주주의에 위협이 될 수 있다"고 우려하며 AI 모델의 위험을 완화하는데 정부 개입의 중요성을 피력했다.

"대규모 언어모델을 기반으로 한 생성 AI가 정보를 조작하고 가짜뉴스를 퍼뜨릴 수 있는데 내년 대선을 앞두고 이 모델은 점차 진화할 가능성이 있다"고 지적했다.

하지만 AI규제가 쉽지만은 않아 보인다. 본질적으로 AI기술은 선한 목적에서 출발했기 때문에 AI 이용 자체를 막거나 발전 속도를 의도적으로 늦추는 것은 현실적으로 어렵다.

하민회 이미지21 대표.

처벌 강화 같은 사후 대책을 마련하는 방향으로 갈 가능성이 크다. 더구나 가짜뉴스에 대한 정의는 여전히 모호하다. 언론학자들은 이익을 목적으로 거짓의 사실을 진실처럼 언론보도 형식으로 만든 정보를 대체로 가짜뉴스라고 정의한다.

하지만 언론보도의 형식이 다양화하고 있다는 점, 무조건적인 진실 강요가 헌법적 가치인 표현의 자유를 위축시킬 수도 있다는 점 등 논란의 여지가 있다.

뉴스에 대한 심리적 편견도 존재한다. 미국 보스턴대 연구진은 사실과 왜곡된 기사에 언론사 출처를 임의로 달아 동시에 제시하고 피험자들이 어떻게 판단하는지 조사했다.

사람들은 동일한 뉴스를 두고도 본인과 정치적 관점이 다른 매체라고 표기했을 때 거짓으로 판단할 가능성이 더 큰 것으로 나타났다. 진짜 가짜 판단 자체에 개인의 편견이나 정치적 성향이 개입한다는 의미다.

현실과 가상, 과학적 사실과 왜곡된 사실이 공존하는 생성형AI 시대에 우리는 어떤 기준으로 뉴스를 판단해야 할까? 그저 보이는 대로 믿지 않는, 의심 가득한 시선을 유지하는 것만이 능사일까?

전문가들은 생성형AI로 만든 사진이나 영상, 뉴스는 매우 정교하고 사실적이지만 의도가 담긴 만큼 톺아보면 보이는 몇 가지 특징이 있다고 말한다.

▲ 지나치게 드라마틱한 뉴스 사진 혹은 영상 - 생성형AI가 만든 사진은 일반적인 보도 사진보다 훨씬 드라마틱하거나 자극적이다. 영화의 한 장면이나 영화 포스터처럼 강한 인상을 남기는 사진과 영상은 먼저 진위여부를 확인하는 것이 좋다. 현실에서 트럼프 대통령이 경찰에 연행되면서 몸싸움을 한다거나 또 이런 모습이 사진으로 보도 될 확률은 거의 없다.

▲ 소셜미디어를 통해 순식간에 확산되는 뉴스도 의심스럽다. AI가 만든 대개의 가짜뉴스는 트위터 등의 소셜미디어 뉴스피드를 통해 시작해서 확산된다. 소셜미디어 게시물 출처의 공신력을 확인하고 레거시 미디어에서도 동시에 다루고 있는지 확인하는 것이 바람직하다.

▲ AI가 만든 사진이나 영상은 아직은 어딘가 어색함이 느껴진다. 맥락없은 장면이라거나 시선이나 입의 움직임이 부자연스러울수 있다. 손가락이나 손목 등이 뭉개져 잘 연결되지 않거나 간혹 손가락이 5개인 경우도 있다. 인물의 안경테가 일부 지워져있기도 하고 건물의 창틀이나 펜스 등 선이 이어지는 부분이 겹쳐져있거나 어긋나있기도 하다. 펜타곤 사진의 경우에도 건물의 창틀과 펜스가 선명하지 않고 다른 부분에 비해 유독 흐릿하다.

AI 전문가들에 의하면 2026년이면 온라인 콘텐츠의 90% 이상이 AI가 생성한 정보가 될 것이라 한다. 혹자는 AI가 생성한 뉴스를 찾아내는 또 다른 AI가 필요하다는 주장을 한다.

하지만 정작 진실을 위기로 내모는 건 생성형AI가 아니라 사실보다 재미를 선호하고 좋은 뉴스보다는 나쁜 뉴스에 민감하게 작용하는 인간의 심리 아닐까?

어쩌면 생성형AI시대 가짜뉴스에 대응하는 최선은 보고 싶은 대로 보고 믿고 싶은 것만 믿지 않는,한 걸음 떨어져 맥락을 보고 객관적인 이해관계를 읽어내는 이성적인 관점을 키우는 일일지 모르겠다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
다이빙 주한 중국대사 뉴스핌 기고 국제 정세가 혼란스럽고 국지적 충돌과 불안정한 상황이 이어지는 가운데 경제 글로벌화가 역풍을 맞고 있고 일방주의와 보호주의가 고개를 들고 있다. 불확실성의 시대에 직면한 많은 국가들은 '겨울이 오고 있다'(Winter is Coming)며 불안감을 감추지 못한다. 이러한 시기에 중국은 실질적인 행동으로 세계에 안정성과 긍정적 에너지를 불어넣고 있다. 중국은 세계 경제를 안정적 발전으로 이끄는 강력하고 확실한 힘이다. 중국은 세계 2위 경제국, 1위 제조업 대국이자 2위 소비시장이다. 이런 조건하에서 중국 경제는 체제와 수요, 공급, 인재 등 네가지 부문에서 두드러진 우위를 보이며 장기적이고 안정적인 성장 기반을 공고히 하고 있다. 2024년 중국 경제는 5% 성장률을 달성했고 GDP 증가량은 1조 500억 달러에 달했는데, 이는 중간 경제국가의 연간 경제 총량에 해당하는 규모다. 2025년 복잡한 환경과 숱한 도전에 직면한 상황에서도 중국 경제는 안정 성장 추세를 유지하여, 1분기 5.4% 성장을 달성했고 1~4월 상품무역 수출은 전년 동기 대비 7.5% 증가했다. 더욱 중요한 성과는 외부의 압박과 억제가 오히려 중국의 기술 돌파를 촉진하는 수많은 사례들이 나타나고 있으며, 중국은 인공지능(AI), 로봇 등 첨단 기술 분야에서 잇따라 '딥시크(DeepSeek) 순간'을 맞이하고 있다는 것이다. 중국은 설정된 발전 목표를 달성하며 세계 경제 성장의 가장 중요한 엔진이자 안전 장치 역할을 계속 해 나갈 충분한 자신감과 능력을 지니고 있다. [서울=뉴스핌] 최헌규 중국전문기자= 주한 중국대사관 다이빙(戴兵) 중국 대사. 사진=중국 대사관 제공.  2025.05.24 chk@newspim.com 중국은 글로벌 협력을 촉진하는 확실한 힘이다. 대외 개방은 중국의 기본 국책으로, 보호주의의 역류가 거셀수록 중국은 더욱 확고한 의지를 가지고 높은 수준의 개방을 추진해나갈 것이며 국제 사회가 모두 혜택을 누릴 수 있도록 할것이다. 중국은 150여 개 국가 및 지역의 주요 무역 파트너이며, 30개 국가 및 지역과 23개의 자유무역협정(FTA)을 체결했다. 2024년 중국의 평균 수입 관세율은 이미 7.3%로 떨어져 절대 다수 국가보다 낮으며, 43개 최빈국에 대해서는 '무관세 혜택'을 제공하고 있다. 얼마 전 성공적으로 개최된 중국 중앙주변공작회의에서는 주변국들과 협력하여 아름다운 미래를 함께 만들어갈 것임을 다짐했다. 시진핑 국가주석의 동남아 순방과 러시아 방문이 커다란 외교적 성과를 거두었고, 아시아, 아프리카, 라틴 아메리카, 유럽의 여러 국가 지도자들이 중국을 방문했다. 갈수록 더 많은 국가들이 중국과의 동행은 바로 기회와의 동행이며, 중국에 대한 신뢰는 곧 미래에 대한 신뢰임을 인식하고 있다. 중국은 국제 질서를 수호하는 확실한 힘이다. 중국은 현행 국제 질서 속에서 발전해 온 만큼 이 체계의 수혜자이자 지지자, 수호자이다. 중국은 국가 간의 평등 및 호혜 상생을 견지하고 진정한 다자주의를 지향하며, '국력의 크기'를 발언권의 기준으로 삼거나 '자국 우선'을 국제 규칙 위에 두는 것에 반대한다. 국제 사회에서 중국은 책임감 있고 신뢰할 수 있는 대국이다. 중국에 대해 '국제 질서 도전자'라고 지목하는 것은 사리에 맞지 않는다. 많은 한국인들은 이전의 규칙 제정자(rule-maker)가 파괴자로 변해 전 세계를 혼란에 빠뜨렸다고 솔직하게 말한다. 부당한 관세 전쟁에 직면한 중국은 단호한 대응으로 국가의 정당한 권익을 보호하고 나섰을 뿐만 아니라 국제적 공정성과 보편적 세계 정의를 수호하는데도 앞장섰다. 결과적으로 중국의 이런 대응은 국제 사회의 많은 나라들이 적극적 협상을 통해 경제∙무역 갈등을 해결할 수 있도록 여지를 넓혀줬다. 중국은 줄곧 각국의 운명이 긴밀하게 연결되어 있으며 중국과 한국은 중요한 이웃이자 협력 파트너로서 더욱 그러하다고 여겨왔다. 중한 수교 이후 33년 동안 양국 간 각 분야에서의 교류와 협력은 커다란 성과를 거두었으며, 양국 외교는 전략적 협력 동반자 관계로 격상됐다. 최근 몇 년간 중한 양국의 국가 상황과 지역 정세, 세계 구도에 모두 큰 변화가 있었고, 중한 관계의 복잡성도 다소 커졌다. 양국은 경험과 교훈을 총정리해 재인식, 재출발해야 한다. 이때 가장 근본적인 것은, 중한 우호 협력의 강화가 양국과 양국 국민의 근본적 이익에 가장 부합한다는 점이다. 한국 정국에 변화가 일어나고 국제 정세 변화의 충격도 마주한 가운데, 대다수의 한국 국민은 국가적 통합을 강화하고 경제와 민생을 발전시키기를 기대하고 있다. 한국의 많은 지인들은 중한 관계를 개선하고 발전시키는 것이 한국이 대내외적 도전에 대응하는 데 매우 중요하다고 이야기한다. 현재 중한 관계는 지난 날을 토대로 앞날을 개척하는 중요한 단계에 놓여 있다. 중국의 대(对)한국 정책은 확실하며, 중국은 최대한의 성의와 노력으로 중한 전략적 협력 동반자 관계를 심화할 의향이 있다. 한국이 시대 물결과 국제 흐름을 파악하고 바른 방향을 견지하며 중국과 함께 중한 관계를 건전하고 안정적이며 긍정적으로 발전시키길 희망한다. 글 = 주한 중국대사관 다이빙(戴兵) 중국대사 서울= 최헌규 중국전문기자(전 베이징 특파원) chk@newspim.com 2025-05-24 13:27
사진
트럼프 "애플 25% 관세, 삼성에도" [뉴욕=뉴스핌]김근철 특파원=도널드 트럼프 미국 대통령이 23일(현지 시간) 중국 등에서 대부분 제품을 생산하고 있는 애플에 대해 25%의 관세를 부과하겠다는 입장을 재확인하면서 이 같은 조치는 삼성전자 등에도 동일하게 적용될 것이라고 밝혔다. 트럼프 대통령은 이날 백악관 집무실에서 기자들과 만나 "애플(제품)에 25% 관세를 부과할 것"이라면서 "이것은 삼성과 다른 스마트폰 업체들에게도 해당된다"고 말했다. 이어 "미국 내 제조를 장려하려면 모든 기업에 공정하게 적용해야 한다"고 강조했다. 도널드 트럼프 미국 대통령. [사진=로이터 뉴스핌]2025.05.24 kckim100@newspim.com 트럼프 대통령은 이와 함께 유럽연합(EU)과의 무역 협상이 타결되지 않을 경우, 현재 유지 중인 50%의 관세를 그대로 두겠다는 입장도 거듭 확인했다. 그는 "EU와의 대화가 더디다"면서 "협상 타결을 기대하지 않다"며 이같이 밝혔다. 앞서 트럼프 대통령은 이날 오전 트루스 소셜 계정을 통해 "나는 애플의 팀 쿡에게 오랫동안 미국에서 판매되는 아이폰은 반드시 미국에서 생산되어야 한다고 말해왔다. 인도나 다른 나라에서 만들어서는 안 된다"며 "그렇지 않다면, 최소 25%의 관세를 애플이 미국에 지불해야 할 것"이라고 밝혔다. 그는 EU에 대해서도 "우리의 협상 과정은 아무런 진전이 없다"며 "2025년 6월 1일부터 EU산 제품에 일관 50% 관세를 부과할 것을 권고한다"고 밝혔다. 이어 "EU는 미국을 무역에서 이용하기 위해 만들어진 것과 다름없고, 협상하기 매우 어려운 상대"라면서 "그들은 강력한 무역 장벽과 부가가치세, 터무니없는 기업 벌금, 비금전적 무역 장벽, 환율 조작, 미국 기업에 대한 부당하고 정당하지 않은 소송 등으로 미국과 연간 2억 5000만 달러 이상의 무역 적자를 초래했다"고 비판했다. 트럼프 대통령의 이 같은 언급은 증시에 바로 영향을 미쳤다. 뉴욕 증시에서 애플의 주가는 마감을 앞두고 2.92%까지 하락했다. 유럽 주요국 증시도 일제히 급락했다. 독일과 프랑스, 이탈리아 등은 모두 1.5% 이상 떨어졌다. 범유럽 지수인 STOXX 600 지수는 전장보다 5.14포인트(0.93%) 내린 545.13으로 장을 마쳤다.    kckim100@newspim.com 2025-05-24 04:30
안다쇼핑
Top으로 이동