전체기사 최신뉴스 GAM
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 진화하는 챗봇을 경계해야 하는 이유

기사입력 : 2023년10월04일 09:03

최종수정 : 2023년10월05일 09:36

하민회 이미지21대표(코가로보틱스 마케팅자문)

"약은 드셨어요?" "무릎은 좀 어떠세요?"

또렷하고 친절한 음성의 챗봇이 안부를 묻는다. 첫 통화에서 어떤 일을 했는지, 일이 힘들지는 않는지 이런 저런 질문을 던졌던 챗봇은 다음 주에는 병원은 다녀왔는지, 소화불량은 좀 나았는지 살뜰하게 안부를 챙긴다. 이전 통화 내용을 기억하는 기능 덕에 맞춤형 대화가 가능하다.

독거노인 등 사회적 소외계층에 주 2~3회 안부전화를 하는 클로바 케어콜 서비스다. 사용자의 외로움을 완화하고 복지 담당자의 업무 부담을 줄여준다는 취지에서 출발했지만 사용자 90%가 위로 받았다고 답할 만큼 반응이 좋다.

AI 챗봇이 빠른 속도로 진화 중이다. 생성형AI의 포문을 연 오픈AI의 챗GPT는 이제 음성과 이미지 정보를 처리할 수 있게 됐다. 음성으로 질문하면 답변도 말로 들을 수 있다. 조만간 자기 목소리를 다른 언어로 번역해서 말하는 것도 가능해진다.

이미지를 분석하고 문제를 이해하는 기능도 추가됐다. "자전거 안장을 낮추려는데 여기서 뭘 써야 해?" 질문과 함께 자전거 매뉴얼과 공구함 사진을 찍어서 올리면 챗GPT가 "왼쪽 섹션에서 4mm 공구를 찾으세요" 가이드 한다.

눈과 귀, 입이 생긴 멀티모달 AI로의 진화다. 텍스트로만 할 수 있던 의사소통의 영역이 시청각 소통과 학습으로 확장되면서 인지나 표현이 한층 사람에 가까와졌다.

하민회 이미지21 대표.

똑똑해진 챗봇 덕에 도처에 비서가 생겼다. 심지어 곧 SNS에도 등장할 예정이다.

메타 (구 페이스북)은 자사의 SNS 제품인 인스타그램과 왓츠앱, 메신저 등에서 구동되는 AI비서 '메타 AI'를 발표했다. 예를 들어 메신저로 친구와 1박2일 산행 계획을 잡고 있다. 이때 메타AI에게 준비물 리스트를 요청하면 즉시 대화에 참여해 답변을 올려준다. 자체 개발한 대규모 언어 모델(LLM) '라마2'기반으로 MS의 검색 엔진 빙과 제휴해 실시간 정보를 제공한다. 메타AI는 미국에서 먼저 테스트버전을 진행한 후 전 세계로 확장할 계획이다.

페르소나 AI 개발도 늘고 있다. AI 챗봇에 인격을 부여해 실제 인물처럼 대화를 나누는 페르소나 AI는 셀럽, 연예인, 스포츠스타 등 인물의 성격과 말투를 모방해 마치 실제 같은 대화 상대가 되어주는 것이 특징이다. 미국에서는 소설‧영화 캐릭터와 유명한 실존인물의 성격을 입힌 페르소나 AI 제작사 '캐릭터닷에이아이'가 유니콘 반열에 오르며 시장의 주목을 받고 있다.

우리나라에서도 최근 페르소나 AI를 가상인간으로 만들어 교육, 금융, 시니어케어 등 다양한 산업 영역에 제공해 수익성을 높이는 비즈니스 모델이 증가 추세다.

업계에서는 누구나 쉽고 빠르게 다양한 가상 인간을 제작하는 환경이 조성되고 있다고 말한다. 단순히 AI 비서나 AI 친구를 넘어 개개인에게 맞춤화된 AI챗봇이 일상화되는 날이 머지않았다는 것이다. 챗GPT가 출시 된지 아직 1년도 지나지 않았으니 새삼 발전속도가 두렵다.

[서울=뉴스핌] 조용준 기자 = 가상인간 리아가 '삼각김밥데이'를 맞아 삼각김밥을 판매하는 쇼호스트로 나섰다. [사진=네오엔터디엑스] 2022.03.03 digibobos@newspim.com

이쯤 되면 우리는 진지하게 생각해 볼 필요가 있다. 부지불식간에 우리 일상에 스며든 AI챗봇과 형성중인 '모종의 관계'에 관해서 말이다.

당신에게 AI챗봇은 조력자인가 친구인가 교사인가 아니면 상담사인가?

특정 키워드를 입력하면 미리 프로그래밍 된 답을 내놓는 단순한 설계를 가진 과거의 챗봇과 달리 AI챗봇은 신뢰도나 친밀도가 높은 '인격적 관계'를 맺고 있다.

문제는 사용자와 챗봇의 인격적 관계가 깊어질수록 챗봇과 보내는 시간은 늘고 실제 사람들과 보내는 시간이 줄어든다는 점이다. 의인화 현상도 심각해진다. 특히 페르소나 AI에서 많이 보이는 현상이다. 사용자는 AI챗봇에게 감정적 소모없이 원하는 때에 하고 싶은 말을 하고 듣고 싶은 말을 듣는다. 개인맞춤화 된 챗봇일수록 대화의 심리적 만족도는 올라가기 마련이다. 외로움을 달래기 위해 시작한 챗봇이 오히려 사용자를 고립시키고 사람들과 교류를 단절시키는 부작용을 일으키는 셈이다.

AI 가상인간에 대한 우려도 적지 않다. 앨런AI연구소의 논문에 의하면 AI챗봇이 인간 같은 목소리에 성격까지 갖추면 설정된 페르소나에 따라 잘못된 고정관념을 보이거나 유해한 대화, 공격적이거나 해로운 의견을 낼 수 있는 위험성이 최대 6배까지 증가했다. 미성년 사용자에겐 AI 가상인간과의 친밀한 관계가 대인관계와 가치관 형성에 부정적인 영향을 미칠 수도 있다.

[서울=뉴스핌] 조용준 기자 2022.08.26 digibobos@newspim.com

과도한 챗봇 의존도 역시 짚어 볼 문제다. 지시어 한 두 마디로 빠른 답을 얻는 편리함에 익숙해지면 스스로 찾고 생각하고 개선하려는 노력은 하지 않게 된다. AI의 추천을 거치지 않으면 불안하게 느낄 수도 있고 AI와 다르면 스스로의 선택을 의심할 수도 있다. 어쩌면 많은 것을 해결하고 새로운 것을 창조해내는 토대가 되는 기억력과 사고력까지 상실하게 될 지도 모른다.

네트워크로 연결된 우리 삶의 조각들은 빅데이터로 활용되고 이를 학습한 AI챗봇은 점점 더 인간에게 중요한 대화상대자가 되어갈 것이다. 때로는 외로움을 덜어주고 위로를 주고 해결책을 알려주겠지만 결국 선택하고 받아들이고 결정하는 건 사람의 몫이다.

진화하는 챗봇은 마냥 반기기 보단 경계해야 할 대상이다. 편리함이 우리를 함몰시킬 수 있다. 어떤 경우에도 인간의 미래를 만들어가는 유일한 존재는 우리 자신임을 잊지 않아야 한다. 

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
뉴욕을 뒤흔든 맘다니 돌풍 [뉴욕=뉴스핌]김근철 특파원= "빨리 뉴욕에 파트타임 일자리라도 알아봐야 할 것 같아요." 지난 주말 뉴욕 인근에 사는 지인들과의 모임 도중 나온 얘기다. 이날 저녁 자리 화제의 중심은 단연 '민주당 뉴욕 시장 후보 조란 맘다니'였다.'뉴욕 파트타임' 얘기도 맘다니 덕분에 나온 농담이다. 맘다니는 자신이 시장에 당선되면 뉴욕의 최저 임금을 시간당 30달러로 올릴 것이라고 약속했다. 지금 환율로 따지면 4만 600원 정도다. 현재 뉴욕의 최저 임금 시급은 16.50달러다. 이미 미국 내 최고 수준이다. 그런 뉴욕 최저 임금을 2배로 올리겠다는 얘기다. 물론 2030년까지라는 전제는 달렸다. 그렇다 하더라도 귀가 솔깃해질 만한 공약임은 분명하다. 비단 이날 모임뿐 아니다. 요즘 '뉴요커'들 사이에서 맘다니는 최고의 뉴스메이커다. 어디서든, 누구와든 맘다니 얘기를 꺼내면 10분~20분은 쉽게 대화를 나눌 수 있다. 그만큼 맘다니의 등장 자체가 뉴욕 사람들에게도 충격이자 파격이다. 조란 맘다니 미국 민주당 뉴욕시장 후보. [사진=로이터 뉴스핌] 뉴욕 시장 자리는 한국으로 치면 거의 서울 시장급이다. 뉴욕은 미국의 최대 도시이자, 전 세계에서 사람과 돈이 가장 많이 몰려드는 중심지다.  이런 뉴욕의 유력한 차기 시장 후보가 불과 33세라니. 그것도 아프리카 우간다에서 태어나 7세 때 뉴욕으로 이민 온 인도계 무슬림이다. 더구나 그는 26살이 되던 2018년에야 뒤늦게 미국 시민권을 취득하고 투표권을 받았다. 맘다니가 하버드 같은 아이비리그의 명문대를 졸업한 것도 아니다.  그는 평범한 학창 시절을 보내고 대학 졸업 후 저소득층 주택 압류 방지 상담사로 활동했다. 그러다가 2020년 뉴욕 주의회 하원의원 선거에 민주당 후보로 나서 선출된 것이 사회 경력의 전부다. 시쳇말로 '듣보잡' 수준이다. 예전 같았으면 뉴욕 시장 후보에 명함도 못 내밀 커리어다. 그런 맘다니가 불과 몇 개월의 선거 운동으로 민주당의 뉴욕 시장 후보가 됐다는 것은 믿기지 않는 스토리다.  그것도 뉴욕 주지사 3선에, 한때 차기 대선 후보 물망에 올랐고, 당내 유력 인사와 후원 그룹의 지원을 받는 '거물' 앤드루 쿠오모를 꺾었다. 그야말로 이변이 일어난 것이다. 민주당 전략가 트립 양은 뉴욕타임스(NYT)에 "현대 뉴욕시 역사에서 가장 큰 반전이 일어났다"고 평가했을 정도다. 맘다니는 1일 발표된 민주당 3차 경선 결과 과반이 넘는 56%를 득표했다. 이로써 그는 당당히 민주당의 뉴욕 시장 후보로 공식 선출됐다. 뉴욕은 아직도 민주당의 아성으로 불린다. 민주당 후보 공천은 뉴욕 시장 당선의 보증수표처럼 여겨진다. 뉴욕타임스(NYT)를 비롯한 미국 언론들의 관심은 이제 '맘다니 돌풍'이 과연 어디까지 이어질지에 모아진다. 숱한 전문가들은 아직 맘다니의 본선 경쟁력에 의문을 거두지 못하는 분위기다. 맘다니의 민주당 경선 승리의 발판이 됐던 급진적인 공약들이 결국 부메랑이 돼서 발목을 잡을 것이란 분석이 많다.  맘다니가 내세운 핵심 공약은 실제로 급진 좌파 성향의 포퓰리즘 정책으로 불릴 만하다. 시내버스 무임승차, 0세부터 5세까지 무료 보육 및 유치원 교육 실시, 뉴욕시 관리 아파트 임대료 동결, 값싼 시립 식료품점 설립, 부자 증세 등이 그것이다. 구체적 재정 대책이 없다는 질타와 비판이 나올 만하다. 게다가 맘다니는 학창 시절부터 팔레스타인을 지지하는 운동에 가담했다. 뉴욕과 민주당의 돈줄을 쥔 유대인들의 거부감도 크다.  민주당 주류와 온건그룹에선 벌써 부담스러운 티를 낸다. 너무 과격해서 중도층 이탈을 야기할 것이란 우려의 목소리를 낸다. 그래서 민주당을 지지하는 월가의 큰손들은 이미 온건 성향의 대항마를 찾고 있는 것으로 알려졌다. 당내 경선에서 패배했던 쿠오모 전지사나 경선에서 중도 사퇴한 에릭 애덤스 뉴욕 시장이 독립 출마 형태로 시장 선거에 나서려는 것과도 이와 연결돼 있다. 도널드 트럼프 대통령도 일찌감치 맘다니를 '100% 공산주의자 미친 놈'이라고 부르며 파상 공세를 퍼붓는 중이다.  급진 좌파 프레임을 씌워 민주당 전체를 싸잡아 비판하려는 의도도 깔려있다. 트럼프와 공화당은 색깔론 공세에 더해 민주당 측 후보 난립을 잘 이용하면 뉴욕 시장까지 손에 쥘 수 있겠다는 기대도 하고 있는 눈치다.  지하철에 탑승한 조란 맘다니 미국 민주당 뉴욕 시장 후보. [사진=로이터 뉴스핌] 이런 정치판의 셈법과 보도를 따라가다 보면 '맘다니가 11월 4일 선거에서 뉴욕 시장에 당선되기는 힘들겠구나' 하는 생각도 든다. 최근에 월가 금융기관에서 오래 기간 일했던 지인을 만난 자리에서도 '만다니의 한계'에 대해 얘기를 나눴다. 하지만 그의 견해는 좀 달랐다. 자신의 사무실에 근무하는 한 직원 때문에 생각이 바뀌었다고 한다. 그 직원은 줄곧 보수 성향을 보여왔고 지난 대선에서도 트럼프를 열렬히 지지했다고 한다. 그런 사람이 이번에 민주당 경선에 참여해 맘다니에게 표를 던졌다. 이유를 물으니, "뉴욕에서 사는 게 너무 힘들다. 물가가 미쳤다. 부자들은 상관없겠지만 우리 같은 단순 사무직은 열심히 일해도 렌트비, 교통비, 식료품비 내기에도 너무 벅차다. 내게 이념은 크게 상관없고, 누구라도 이 힘든 생활에 도움을 준다면 표를 안 찍을 이유가 없다"라는 답이 돌아왔다고 한다. 이 말을 들으니 맘다니의 공식 홈페이지 첫 화면에 큼직하게 적힌 슬로건이 새삼 머릿속에 다시 선명히 떠올랐다. "조란 맘다니는 뉴욕의 근로자들의 생활비를 낮추기 위해 시장직에 도전하고 있습니다"였다. 맘다니는 얼마전 NBC 방송의 간판 시사 프로그램 '미트 더 프레스'에 출연해 자신을 공산주의자라고 공격한 트럼프의 언급에 "나는 공산주의자가 아니다."라고 반박했다. 그리고는 "나는 트럼프가 힘을 실어주겠다고 대선 운동 기간 약속했던 바로 그 노동자들을 위해 싸우고 있다. 트럼프 대통령은 이후 그들을 배신해왔다"라고 말했다. '빨갱이 프레임'을 씌우는 트럼프에게 시원하게 한 방 먹이면서 자신이 노동자들을 위한 진짜 일꾼임을 드러내는 패기와 영리함이 번뜩이는 발언이다. 그래서 맘다니가 이념 프레임의 덫에 갇히지 않고, 뉴욕 시민의 민생과 민심을 파고드는데 성공한다면 '정말 큰일을 낼 수도 있겠다'는 생각도 든다. 그건 그가 뉴욕 시장에 당선된다는 의미만이 아니다. 인류 역사상 가장 풍요롭다는 21세기에도 팍팍안 일상을 견뎌내야 하는 노동자 계층과 밀레니얼 세대들에게 과거의 이념과 정치적 문법의 약발이 먹히지 않는다는 점을 확인시켜줄 '사건'이 될 수 있다.  맘다니 열풍과 논란이 뉴욕의 일회성 정치 이벤트로 그치지 않고 앞으로도 계속 증폭되고 변모하면서 확산될 것이란 예감이 드는 이유다.   kckim100@newspim.com 2025-07-03 04:16
사진
트럼프 "머스크 추방도 검토" [서울=뉴스핌] 고인원 기자= 도널드 트럼프 미국 대통령이 기자들에게 "(일론) 머스크의 추방 문제도 고민해보겠다"고 발언하며, 두 사람 간 갈등이 또 한 번 수위를 높였다. 일론 머스크 테슬라 최고경영자(CEO)가 트럼프의 감세·재정 법안을 비판한 데 이어, 트럼프는 머스크의 정부 보조금과 계약에 대한 전수조사와 함께 추방 가능성까지 언급해 정치적·법적 논란이 확산되고 있다. 트럼프는 1일(현지시간) 백악관 앞에서 기자들과 만난 자리에서 "머스크를 추방할 수 있느냐"는 질문에 "모르겠다. 한번 살펴보겠다(I don't know, we'll have to take a look)"고 답했다. 그는 이어 "머스크는 많은 보조금을 받았으며, 전기촤 의무화 폐지에 매우 화가난 듯 하다"고 덧붙였다. 도널드 트럼프 미국 대통령과 일론 머스크 테슬라 최고경영자(CEO).[사진=로이터 뉴스핌] 2025.06.21 mj72284@newspim.com 트럼프는 전기차 강제 규정을 "바이든 시대의 유산"으로 규정하고 폐지를 추진 중이다. 그는 "나는 전기차를 원하지 않는다. 휘발유도, 하이브리드도, 언젠가는 수소차도 원할 수 있다"며 "다만 수소차는 터지면 5블록 떨어진 데서 시신을 찾는다"고 비꼬기도 했다. 트럼프의 '추방' 발언이 담긴 클립이 퍼지자, 머스크는 X(옛 트위터)에 "이걸 더 키우고 싶어 죽겠지만, 지금은 참겠다"고 의미심장한 글을 올렸다. 이 논란은 머스크가 트럼프의 '크고 아름다운 하나의 법안 법(OBBBA)'을 "완전히 미치고 파괴적 법안"이라며 비판한 데서 촉발됐다. 트럼프는 이에 대해 "머스크는 역사상 가장 많은 보조금을 받은 사람"이라며, 정부효율성부(DOGE)가 머스크의 보조금 수혜 내역을 조사할 필요가 있다고 응수했다. 이어 트럼프는 "보조금이 없으면 로켓 발사도, 전기차 생산도 못할 것"이라고 몰아세웠다. 전문가들은 연방정부의 보조금·계약 중단이나 규제 강화 가능성을 주목하고 있으며, 이는 테슬라와 스페이스X의 사업에 실질적인 타격으로 이어질 여지가 있다고 지적한다. 머스크는 세금안 반대뿐 아니라 "새로운 정당(America Party)을 만들겠다"고 맞불을 놓으며 대선 기간부터 이어온 트럼프와 머스크 간 '브로맨스'가 균열 조짐을 보이고 있다. koinwon@newspim.com 2025-07-01 22:23
안다쇼핑
Top으로 이동