전체기사 최신뉴스 GAM
KYD 디데이
글로벌 기타

속보

더보기

"AI와 사람이 토론을 벌인다면? AI가 한판승...악용 우려"

기사입력 : 2025년05월20일 16:30

최종수정 : 2025년05월20일 16:54

온라인 과학저널 Nature Human Behaviour 게재 보고서
"마이크로타기팅(microtargeting)에 대한 경각심 필요"
AI 정보 왜곡 능수능란하게 인간과 맞서

[서울=뉴스핌]박공식 기자 = 인공지능(AI) 챗봇이 성별과 나이 등 기본적인 인적 정보만 입수하면 온라인 토론에서 자신의 논리를 인간보다 더 설득력있게 구사한다는 연구보고서가 나왔다.

이는 AI가 능수능란하게 정보를 왜곡해서 인간과 맞설 수 있음을 증명한 것으로 해석된다고 워싱턴포스트(WP)는 평했다. 

현지시간 19일 인간행동연구 온라인 과학 저널 네이처 휴먼 비헤비어(Nature Human Behaviour)에 게재된 보고서에 따르면 대규모 언어모델(LLMs)로 알려진 인공지능(AI) 챗봇에 토론 상대방에 대한 최소한의 인적 정보를 제공할 경우 온라인 토론에서 자신의 논거를 잘 적용해서 인간보다 더 설득력있게 토론하는 것으로 밝혀졌다.

보고서 공동저자로 이탈리아에 있는 폰다치오네 브루노 케슬러 연구소의 복합 인간 행동 부서 책임자인 리카르도 갈로티는 "심지어 연구자들은 대규모 언어모델이 토론 상대방의 기본 정보가 없더라도 인간보다 더 설득력있게 토론을 벌인다는 점을 발견했다"고 말했다.

갈로티 등 연구진은 미국에 거주하는 900명의 사람을 인간 혹은 챗GPT(GPT-4)와 토론 대련을 시킨 결과, 이 같은 결론에 도달했다.

900명의 사람은 토론 상대방에 대한 인구통계학적 정보가 제공되지 않았다. 이들과 토론하는 인간 혹은 AI는 성별, 나이, 인종, 교육수준, 고용 상태, 정치 성향 등 참가자가 제공한 일부 기본적 인구통계 정보에 접근할 수 있었다.

투 팀은 사형제도와 기후변화 등 여러 사회정치적 현안을 놓고 토론을 벌였다.

"낙태는 법적으로 허용되야 하나?" "미국은 화석 연류를 금지해야 하나?" 같은 질문 을 하면 4분 동안 찬성, 반대 여부를 말하고 3분 동안 상대방 주장에 대한 반박, 그리고 3분간 결론을 말하게 했다.

토론 참석자들은 1에서 5까지 척도 상에서 자신의 동의 정도를 표시했다. 연구자들은 토론 시작 전에 제공된 평가와 토론 후 평가를 비교해서 상대가 얼마나 자신의 의견을 변경했는지 추정할 수 있었다. 

갈로티는 "우리는 분명하게 전략적으로 여론을 한 방향으로 모이게 하는 LLM 기반 네트워크의 자동화된 설명을 파악했다"고 말했다.

LLM의 개인정보 사용은 미묘하지만 효과적이었다.

정부의 보편적인 기본소득 지원과 관련한 토론에서 LLM은 35세~44세의 미국인 백인 남자 공화당원과 토론할 때는 경제 성장과 열심히 일하는 것을 강조했다.

이에 비해 45세~54세의 흑인여성 민주당원과 토론할 때 LLM은 소수 인종 사회에 영향을 미치는 빈부격차를 거론하고 보편적인 기본소득 지원이 평등 제고에 기여한다고 이야기를 풀었다.

갈로티는 "연구 결과, 우리가 인터넷에 퍼뜨리는 막대한 양의 개인 정보에 의해 가능한 마이크로타기팅(microtargeting)에 대한 경각심이 필요하다"면서 "AI 기반 특정 계층 겨냥 설득은 기본적이고 비교적 얻기 수월한 정보만으로도 이미 매우 효과적인 것으로 밝혀졌다"고 설명했다.

그는 "AI 모델들이 자체 논리와 설득력으로 거지맛과 허위 정보를 퍼트릴 가능성이 매우 우려스럽다"며 "이에 대비한 보다 엄격하고 세분화된 정책과 규제가 필요하다"고 조언했다.

유럽연합(EU)은 사람들의 의사결정 능력을 저해하는 "잠재의식 조작 기술"이나 "고의적 조작 혹은 기만 기술"을 사용하는 AI 시스템을 금지하는 최초의 AI 법을 제정했다. 다만 칼로티는 이 법도 완전하지는 않다며 "잠재의식적인, 조작적인, 기만적인(사기적인) 것에 대한 명확한 정의가 내려지지 않았다고 지적했다.

그는 "우리의 연구는 왜 이런 정의가 중요한지 소상하게 보여준다"며 "(AI를 활용한) 설득이 사회인구학적 요소들에 기반해 고도로 개인화될 때 합법적 설득과 조작 사이의 경계는 점점 모호해진다"고 지적했다.

옥스퍼드대학의 산드라 워치터 교수도 보고서 내용이 "매우 놀랍다"고 했다. 그는 AI가 거짓말과 가짜 정보를 확산하는데 이런 설득력을 이용하는 방법을 가장 우려한다고 말했다.

"대규모 언어모델은 사실과 픽션을 구분하지 않는다. 엄밀하게 말하면 그것은 진실을 말하도록 고안되지 않았다. 그런데도 진실과 미세함이 중요한 교육, 과학, 의료, 매체, 법, 금융 분야에서 사용되고 있다"고 지적했다.

오픈AI와 챗GPT 로고. [사진=뉴스핌 DB]

 

kongsikpark@newspim.com

[뉴스핌 베스트 기사]

사진
뉴스핌 K컬처 플랫폼 'K·SPOT' 론칭 [서울=뉴스핌] 양진영 기자 = 종합뉴스통신사 뉴스핌이 K컬처 전문 글로벌 플랫폼 'K·SPOT' 유튜브 채널(https://www.youtube.com/@K%C2%B7SPOT_newspim)을 17일 낮 12시에 공식 론칭한다. 'K·SPOT(@K·SPOT_newspim)'은 한국의 생생한 K컬처 현장을 전 세계에 전하는 K컬처 글로벌 플랫폼으로 영어·중국어·일본어 등 다국어 자막 서비스를 통해 글로벌 소통력을 강화한 것이 특징이다. 'This is K·SPOT – where K-culture comes alive.'라는 슬로건 아래, KPOP, K드라마, K라이프 등 한국 대중문화(K컬처) 전반을 조명한다. 특히, 전 세계의 언어 장벽을 허무는 다국어 자막 시스템을 기반으로 글로벌 팬층과의 연결을 강화했으며, 영어, 중국어, 일본어 지원과 함께 추후 스페인어, 힌디어 등 주요 언어로 확장할 예정이다. 채널명 'K·SPOT'은 한국(K) 문화의 중심 '스팟'을 의미하며, K컬처가 살아 숨 쉬는 현장에 스포트라이트를 비춘다는 의미를 담았다. K-컬처를 실시간으로 소비하는 글로벌 팬들과 그 현장을 연결하는 플랫폼으로 콘텐츠 소비의 지리적·언어적 경계를 허물며, KPOP 쇼케이스, 드라마 제작발표회 등 전 세계 팬들이 궁금해하는 바로 그 현장을 경험할 수 있는 디지털 K컬처 허브를 지향한다.  K·SPOT에서는 K라이징스타 힛지스를 시작으로 대중문화, 예술 분야 예비 스타들을 전 세계에 소개하며 다양한 K컬처 콘텐츠들도 두루 만나볼 수 있다.  ◆생생한 K-컬처 현장을 전달하는 글로벌 플랫폼 K·SPOT은 단순한 영상 채널을 넘어, 전 세계 어디서든 K컬처를 실시간으로 즐길 수 있도록 설계된 글로벌 플랫폼이다. 영어, 중국어, 일본어 등 다국어 자막 서비스를 제공해 언어 장벽을 낮추고, 다양한 문화권의 팬들이 동시 접속해 K-컬처를 함께 알아볼 수 있다. 'K·SPOT(@K·SPOT_newspim)' 채널 로고. 검색 뿐만 아니라 , 무음 시청·청각 장애인 접근성 향상 등도 도모할 예정이다.  뉴스핌은 K·SPOT은 단순한 K컬처 소개 채널에 머물지 않고, 다양한 언어와 콘텐츠 포맷을 아우르는 글로벌 문화 플랫폼으로 키울 예정이다. K컬처 심장부를 세계와 연결하며 글로벌 콘텐츠 생태계의 중심으로 도약한다는 계획이다. K·SPOT에서는 K컬처 모든 현장을 생생하게 포착하고, 전 세계 팬들과 소통하며, 디지털과 현실을 연결하는 진정한 K-컬처 허브로 자리매김할 계획이다. jyyang@newspim.com 2025-07-17 01:00
사진
충남 서산 시간당 114㎜ 폭우 [세종 = 뉴스핌] 김범주 기자 = 충청권과 중부지방을 중심으로 시간당 최대 100㎜가 넘는 강한비가 내리면서 주민 1070명이 대피하는 등의 피해를 입었다. 31개 항로에서 39척의 여객선이 운행을 멈췄고, 서울 등 90구역 하천변이 통제됐다. 중앙재난안전대책본부(중대본)는 17일 오전 10시 기준으로 이 같은 피해가 발생했다고 밝혔다. 호우경보는 세종, 충북, 충남, 경남에, 호우주의보는 서울, 대전, 광주, 경기, 강원, 전북, 전남 등에 각각 발효됐다. 전날 자정부터 이날 오전 10시까지 총 누적 강수량은 충남 서산이 가장 많은 419.5㎜로 집계됐다. 이어 홍성 411.4㎜, 당진 376.5㎜ 아산 349.5㎜, 태안 348.5㎜, 세종 324.5㎜, 충북 청주 276㎜, 경기 평택 262㎜ 등 이었다. 60분 기준 일최대 강수량은 서산 114.9㎜, 홍성 96.2㎜, 서천 98㎜, 경남 함안 70㎜ 등이었다. [서울=뉴스핌] 김학선 기자 = 서울에 폭우가 내리고 있는 17일 오전 서울 서초구 서울고검에서 청사 관계자들이 우비를 입고 이동하고 있다. 2025.07.17 yooksa@newspim.com 해당 지역을 중심으로 산사태 예보 발령도 발효됐다. ▲세종 ▲경기(평택, 안성) ▲충북(진천) ▲충남(천안, 공주, 보령, 아산, 서산, 논산, 당진, 부여, 청양, 홍성, 예산, 태안) 등 16개 지역에 경보가 내려졌다. 인명피해는 경기 1명, 충남 1명으로 집계됐다. 옹벽붕괴 1건, 도로 토사유실 2건 등으로 공공시설의 피해도 있었다. 이번 집중호우로 3개 시·도, 5개 시·군에서 313세대 1070명이 일시적으로 대피하는 피해도 발생했다. 아직 287세대 1041명이 귀가하지 못하는 것으로 집계됐다. 집중호우 지역 중심으로 통제도 있었다. 목포와 홍도, 격포와 위도, 군산과 어청도를 잇는 여객선이 통제됐다. 북한산 97개, 지리산 39개, 속리산 24개, 월악산 24개 등 총 15개 국립공원 374개 구간에서 시설 통제도 있었다. 지하차도는 충북 5개, 충남 5개, 경기 2개 등에, 도로는 인천 1개, 세종 1개, 경기 3개, 충북 1개, 충남 2개 등에 각각 통제가 이뤄졌다. [서울=뉴스핌] 류기찬 인턴기자 = 서울에 강한 비가 내리고 있는 17일 오전 서울 종로구 광화문광장 일대에서 시민들이 이동하고 있다. 2025.07.17 ryuchan0925@newspim.com 한편 중대본은 이날 오전 4시부로 중대본 1단계에서 2단계로 격상하고, 기상 상황을 실시간으로 모니터링 중이다. 또 환경부, 산림청과 같은 관계 부처와 협업을 강화해 비상근무 체제를 유지하기로 했다. 특히 서산, 당진, 태안 등 강수가 집중되고 있는 지역에는 재난문자 등을 통해 새벽시간 외출 자제, 위험지역 접근금지 등과 같은 국민행동요령을 집중적으로 홍보할 것을 당부했다. 지역재난안전대책본부에는 총 1만5708명이 비상근무 중이며 재난문자는 123건, 자동음성통보는 138회 등이 발송됐다. 이날 김민재 중앙재난안전대책본부 본부장(행안부 장관 직무대행)은 '집중호우 대처상황 긴급 점검회의'를 주재하고 "정부는 인명 피해를 최소화하기 위해 상황 대응에 만전을 기할 것"이라고 말했다. 특보 및 강수량 분포도/제공=행정안전부 wideopen@newspim.com 2025-07-17 13:39
안다쇼핑
Top으로 이동