전체기사 최신뉴스 GAM 라씨로
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 생성형AI시대 가짜뉴스 대응법

기사입력 : 2023년05월30일 08:37

최종수정 : 2023년05월30일 08:54

하민회 이미지21대표(코가로보틱스 마케팅자문)

펜타곤이 폭발했다고?  생성형 AI가 만든 가짜사진 한 장에 미국 증시가 출렁였다. 지난 주 미국 워싱턴DC 국방부 청사 근처건물이 폭발로 인한 검은 화염에 싸인 사진이 SNS를 타고 확산되면서 한때 주가가 급락하고 금값이 상승하는 해프닝이 벌어졌다.

미 국방부가 펜타곤과 백악관 인근에서의 폭발이나 화재는 없었다고 공식 확인하면서 사태는 진정됐지만 AI가 만든 이미지 한 장이 얼마나 빠르게 세상을 혼란에 빠뜨릴 수 있는지 극명하게 보여 준 사례였다. 이쯤되면 트럼프 전 대통령이 경찰에 체포되는 사진이나 패셔블한 백색 패딩을 입은 교황의 사진은 귀여운 수준이다.

챗GPT와 같은 생성형AI는 보이는 대로 믿지 말아야 하는 시대를 열었다.

AI가 만든 사진은 때로 사람이 찍은 사진보다 훨씬 드라마틱하다. 2023 소니 월드 포토그래피 어워드(SWPA)의 크리에이티브 부문 1위에 선정된 '전기공'은 생성형AI가 만든 사진이었다. 물론 사진가가 AI사진에 대해 공론화시킬 의도였다며 수상을 거부했지만 심사위원 뿐 아니라 일반인의 눈으로도 흠 잡을데 없는 사진이었다.

영상도 마찬가지다. 조 바이든 미 대통령의 우크라이나를 돕기 위해 탱크를 지원하자는 내용의 영상은 특정집단이 트랜스젠더에 대한 공격을 담은 발언으로 변형해 인터넷에 유포했다. 이 영상 조작에 쓰인 AI기술은 딥보이스(Deep Voice).

실제 사람의 음성을 학습시켜 만들어낸 가짜 목소리인 딥보이스는 미묘한 톤, 특유의 발음, 억양까지 똑같이 구현한다. 실제 목소리와 구분이 거의 불가능한 탓에 영상통화나 보이스피싱 등의 범죄에 쓰이고 있어 벌써부터 폐해가 심각하다.

일반인도 클릭 몇 번만으로 타인의 얼굴부터 목소리까지 손쉽게 복제하고 편집할 수 있게 된 시대. 현실과 가상의 경계가 빠른 속도로 허물어지고 있다.

더 큰 문제는 AI가 만드는 허위정보가 증가하고 있다는 사실이다. 가짜뉴스 감시그룹인 뉴스가드에 의하면 챗GPT와 같은 생성형 AI로 가짜 뉴스를 양산하는 '콘텐츠 팜'은 49개나 된다.

선정적인 기사로 클릭을 유도해 광고를 따내는 데 목적을 두고 있는 콘텐츠 팜은 전 세계에 퍼져 영어뿐 아니라 중국어, 포르투갈어, 태국어 등 다국어로 운영 중이다. 국가수반의 사망, 우크라이나전 사상자수 부풀리기, 대형사고 등 허위사실이 주를 이룬다.

오픈AI의 CEO 샘 알트만은 최근 미국 상원 청문회에서는 "점점 더 강력해지는 AI가 민주주의에 위협이 될 수 있다"고 우려하며 AI 모델의 위험을 완화하는데 정부 개입의 중요성을 피력했다.

"대규모 언어모델을 기반으로 한 생성 AI가 정보를 조작하고 가짜뉴스를 퍼뜨릴 수 있는데 내년 대선을 앞두고 이 모델은 점차 진화할 가능성이 있다"고 지적했다.

하지만 AI규제가 쉽지만은 않아 보인다. 본질적으로 AI기술은 선한 목적에서 출발했기 때문에 AI 이용 자체를 막거나 발전 속도를 의도적으로 늦추는 것은 현실적으로 어렵다.

하민회 이미지21 대표.

처벌 강화 같은 사후 대책을 마련하는 방향으로 갈 가능성이 크다. 더구나 가짜뉴스에 대한 정의는 여전히 모호하다. 언론학자들은 이익을 목적으로 거짓의 사실을 진실처럼 언론보도 형식으로 만든 정보를 대체로 가짜뉴스라고 정의한다.

하지만 언론보도의 형식이 다양화하고 있다는 점, 무조건적인 진실 강요가 헌법적 가치인 표현의 자유를 위축시킬 수도 있다는 점 등 논란의 여지가 있다.

뉴스에 대한 심리적 편견도 존재한다. 미국 보스턴대 연구진은 사실과 왜곡된 기사에 언론사 출처를 임의로 달아 동시에 제시하고 피험자들이 어떻게 판단하는지 조사했다.

사람들은 동일한 뉴스를 두고도 본인과 정치적 관점이 다른 매체라고 표기했을 때 거짓으로 판단할 가능성이 더 큰 것으로 나타났다. 진짜 가짜 판단 자체에 개인의 편견이나 정치적 성향이 개입한다는 의미다.

현실과 가상, 과학적 사실과 왜곡된 사실이 공존하는 생성형AI 시대에 우리는 어떤 기준으로 뉴스를 판단해야 할까? 그저 보이는 대로 믿지 않는, 의심 가득한 시선을 유지하는 것만이 능사일까?

전문가들은 생성형AI로 만든 사진이나 영상, 뉴스는 매우 정교하고 사실적이지만 의도가 담긴 만큼 톺아보면 보이는 몇 가지 특징이 있다고 말한다.

▲ 지나치게 드라마틱한 뉴스 사진 혹은 영상 - 생성형AI가 만든 사진은 일반적인 보도 사진보다 훨씬 드라마틱하거나 자극적이다. 영화의 한 장면이나 영화 포스터처럼 강한 인상을 남기는 사진과 영상은 먼저 진위여부를 확인하는 것이 좋다. 현실에서 트럼프 대통령이 경찰에 연행되면서 몸싸움을 한다거나 또 이런 모습이 사진으로 보도 될 확률은 거의 없다.

▲ 소셜미디어를 통해 순식간에 확산되는 뉴스도 의심스럽다. AI가 만든 대개의 가짜뉴스는 트위터 등의 소셜미디어 뉴스피드를 통해 시작해서 확산된다. 소셜미디어 게시물 출처의 공신력을 확인하고 레거시 미디어에서도 동시에 다루고 있는지 확인하는 것이 바람직하다.

▲ AI가 만든 사진이나 영상은 아직은 어딘가 어색함이 느껴진다. 맥락없은 장면이라거나 시선이나 입의 움직임이 부자연스러울수 있다. 손가락이나 손목 등이 뭉개져 잘 연결되지 않거나 간혹 손가락이 5개인 경우도 있다. 인물의 안경테가 일부 지워져있기도 하고 건물의 창틀이나 펜스 등 선이 이어지는 부분이 겹쳐져있거나 어긋나있기도 하다. 펜타곤 사진의 경우에도 건물의 창틀과 펜스가 선명하지 않고 다른 부분에 비해 유독 흐릿하다.

AI 전문가들에 의하면 2026년이면 온라인 콘텐츠의 90% 이상이 AI가 생성한 정보가 될 것이라 한다. 혹자는 AI가 생성한 뉴스를 찾아내는 또 다른 AI가 필요하다는 주장을 한다.

하지만 정작 진실을 위기로 내모는 건 생성형AI가 아니라 사실보다 재미를 선호하고 좋은 뉴스보다는 나쁜 뉴스에 민감하게 작용하는 인간의 심리 아닐까?

어쩌면 생성형AI시대 가짜뉴스에 대응하는 최선은 보고 싶은 대로 보고 믿고 싶은 것만 믿지 않는,한 걸음 떨어져 맥락을 보고 객관적인 이해관계를 읽어내는 이성적인 관점을 키우는 일일지 모르겠다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
트럼프 주니어 취재진 피해 조용히 입국 [서울=뉴스핌] 조민교 기자 = 정용진 신세계그룹 회장 초청으로 한국을 방문한 도널드 트럼프 미국 대통령의 장남 트럼프 주니어가 취재진을 피해 조용히 입국했다. [서울=뉴스핌] 최지환 기자 = 도널드 트럼프 미국 대통령의 장남 트럼프 주니어가 29일 오후 서울 강서구 김포국제공항에 도착해 탑승기에서 내리고 있다. 2025.04.29 choipix16@newspim.com 29일 재계에 따르면 트럼프주니어는 전용기편으로 입국해 서울김포비즈니스항공센터에 오후 6시20분경 도착했다. [서울=뉴스핌] 최지환 기자 = 도널드 트럼프 미국 대통령의 장남 트럼프 주니어가 29일 오후 서울 강서구 김포국제공항에 도착해 탑승기에서 내리고 있다. 2025.04.29 choipix16@newspim.com 이후 취재진을 피해 건물 오른쪽으로 나간 뒤 준비된 벤츠 차량을 타고 떠났다. 차량은 정 회장 측에서 직접 준비한 것으로 전해졌다. 트럼프주니어 외 여성 1명이 동행했으며 화사한 옷을 입은 채 꽃을 들고 있던 것으로도 전해졌다.  현장에는 취재진과 경호원을 포함해 많은 인력이 대기 중이었다. 강서경찰서에서도 출동해 안전사고 예방에 만전을 기하는 모습이었다.  [서울=뉴스핌] 조민교 기자 = 트럼프주니어를 위해 마련된 의전 차량. 왼쪽 차량을 타고 공항을 빠져나간 것으로 전해졌다. 2025.04.29 whalsry94@newspim.com 당초 트럼프주니어는 차량을 타고 숙소로 바로 이동할 것으로 전해졌으나 경기 성남시 백현동 소재 정 회장 자택으로 이동해 저녁 식사를 함께하며 회동을 가질 계획인 것으로 나타났다. 만찬 회동 이후 트럼프 주니어는 이날 밤 10시쯤 서울 강남구에 있는 조선팰리스 호텔로 이동할 예정이다. 이 호텔에서 하룻밤 묵은 뒤 30일 국내 재계 총수들과 릴레이 면담을 이어갈 것으로 알려졌다. [서울=뉴스핌] 최지환 기자 = 도널드 트럼프 미국 대통령의 장남 트럼프 주니어가 29일 오후 서울 강서구 서울김포비즈니스항공센터를 통해 입국하고 있다. 2025.04.29 choipix16@newspim.com 이번 트럼프 주니어의 방한은 평소 친분이 있는 정용진 신세계그룹 회장이 '가교 역할'을 하면서 성사됐다. 정용진 회장은 트럼프 주니어의 방한 일정에 동행할 것으로 알려졌다. 이후 트럼프 주니어의 구체적인 방한 일정은 확인되지 않고 있다. 다만 재계에서는 삼성과 SK, 현대차, LG 등 4대그룹을 비롯해, 한화, GS, HD현대중공업 등 10대 그룹 주요 총수들이 연이어 트럼프 주니어와의 면담에 나설 것으로 예상하고 있다. 면담 예정일은 오는 30일로 전해졌다. 트럼프주니어를 기다리는 취재진으로 북적거리는 모습. [사진=공동취재단] mkyo@newspim.com 2025-04-29 19:29
사진
'김문수·한동훈' 최종 승자는 누구 [서울=뉴스핌] 박서영 김가희기자 = 국민의힘 대통령선거 결선 진출자에 김문수·한동훈 후보가 이름을 올렸다. 반탄(탄핵반대)파 김 후보와 찬탄(탄핵찬성)파 한 후보가 2파전을 겨루게 된 가운데 최종 1인 자리를 놓고 치열한 공방이 펼쳐질 것으로 보인다. 국민의힘 대선 후보 경선 선거관리위원회는 29일 오후 3차 경선에 진출할 후보자 2명을 발표했다. 안철수·홍준표 후보는 탈락했다. [서울=뉴스핌] 윤창빈 기자 = 29일 서울 여의도 국민의힘 당사에서 열린 제21대 대통령 후보자 국민의힘 3차 경선 진출자 발표 행사에서 3차 경선에 진출한 김문수(가나다순) 후보와 한동훈 후보가 기념촬영을 하고 있다. 2025.04.29 pangbin@newspim.com 황우여 국민의힘 선거관리위원장은 경선 결과를 발표하며 "과반 득표자가 없어 3차 경선으로 이어지게 됐다"며 "우리 당과 대한민국의 미래를 위해 깊이 고민하시고 이번 투표에 참여해주신 존경하는 당원 여러분께 진심으로 감사하다"고 말했다. 2강 후보에 진입한 김 후보는 "한 후보와 같이 마지막 경선을 하게 된 것을 매우 감사하게 생각한다. 미래가 창창한 대한민국을 위해 한 후보께서 많은 역할 해주시길 기대한다"고 인사를 전했다. 한 후보는 "어려운 대선 상황에서 김 후보와 제가 생각은 조금 다르지만 2인 3각의 마음으로 하나의 후보로서 이재명 더불어민주당 대선 후보와 맞서야 한다"며 "남은 경선 과정에서 김 후보를 경쟁자가 아닌 동반자로 생각하고 함께 이재명과 싸워 이기는 한 팀이 되겠다"고 목소리를 높였다. 앞서 홍 후보는 경선 결과 발표 직전 한덕수 대통령 권한대행을 입당시켜, 3차 경선에 진출하는 2명의 후보와 '원샷 국민 경선'을 진행하자고 제안했다. 이에 대해 김 후보는 "그 부분은 조금 더 논의를 해봐야 한다"고 말을 아꼈다. 그는 경선 결과 발표 직후 기자들과 만나 "한 대행도 아직 출마선언을 하지 않았다. 지금 제가 답을 드리는 것 자체가 너무 앞서가는 것이고 당에서도 생각이 있을 것이기 때문에 차차 논의될 것으로 본다"고 즉답을 피했다. 한 후보는 한 대행을 포함한 '원샷 경선'이 공정성에 어긋난다고 강조했다. 그는 "나머지 (탈락한) 6명은 치열한 과정을 통해 여기까지 왔기 때문에 갑자기 (한 대행이) 들어와서 여기서 경선한다는 것은 현실적이지 않다"며 "우리는 전통이 있고 룰이 있는 정당"이라고 반대 의사를 내비쳤다. [서울=뉴스핌] 윤창빈 기자 = 29일 서울 여의도 국민의힘 당사에서 열린 제21대 대통령 후보자 국민의힘 3차 경선 진출자 발표 행사에서 진출에 실패한 안철수 후보가 소감을 밝히고 있다. 2025.04.29 pangbin@newspim.com 한편 이날 결선 문턱을 넘지 못한 안 후보는 "누가 최종 후보가 되든 이재명을 막고 정권교체 이루는 데 제 힘을 바치겠다. 우리 당의 승리가 국민 승리고 역사의 승리"라고 소회를 전했다. 홍 후보는 이날 결선 탈락을 끝으로 정계 은퇴를 선언했다. 홍 후보는 "정치인생을 오늘로서 졸업하게 되어 감사하다. 이제 시민으로, 자연인으로 돌아가서 좀 편하게 살도록 하겠다. 이번 대선에서 제 역할은 여기까지"라고 했다. 앞서 지난 27∼28일 진행된 국민의힘 2차 경선은 당원투표 50%, 국민 여론조사 50%의 룰이 적용됐다. 당원 투표엔 76만5773명 중 39만4명(50.93%)이 참여했고 국민 여론조사는 5개 기관에서 6000명(역선택 방지 적용)을 대상으로 이뤄졌다. 후보들의 순위와 득표율은 공개되지 않았다. 따라서 결선에 진출한 김 후보와 한 후보 중 누가 앞섰는지 알 수 없다. 이날 3차 경선에 진출한 김문수·한동훈 후보 2명은 오는 30일 양자 토론회를 진행한다. 국민의힘 선관위는 다음달 1∼2일 양일 동안 선거인단 투표(50%)·국민 여론조사(50%)를 거친 후 같은달 3일 전당대회에서 최종 1명을 선출할 계획이다. seo00@newspim.com 2025-04-29 15:44
안다쇼핑
Top으로 이동