[기고] 진화하는 챗봇을 경계해야 하는 이유

기사입력 : 2023년10월04일 09:03

최종수정 : 2023년10월05일 09:36

하민회 이미지21대표(코가로보틱스 마케팅자문)

"약은 드셨어요?" "무릎은 좀 어떠세요?"

또렷하고 친절한 음성의 챗봇이 안부를 묻는다. 첫 통화에서 어떤 일을 했는지, 일이 힘들지는 않는지 이런 저런 질문을 던졌던 챗봇은 다음 주에는 병원은 다녀왔는지, 소화불량은 좀 나았는지 살뜰하게 안부를 챙긴다. 이전 통화 내용을 기억하는 기능 덕에 맞춤형 대화가 가능하다.

독거노인 등 사회적 소외계층에 주 2~3회 안부전화를 하는 클로바 케어콜 서비스다. 사용자의 외로움을 완화하고 복지 담당자의 업무 부담을 줄여준다는 취지에서 출발했지만 사용자 90%가 위로 받았다고 답할 만큼 반응이 좋다.

AI 챗봇이 빠른 속도로 진화 중이다. 생성형AI의 포문을 연 오픈AI의 챗GPT는 이제 음성과 이미지 정보를 처리할 수 있게 됐다. 음성으로 질문하면 답변도 말로 들을 수 있다. 조만간 자기 목소리를 다른 언어로 번역해서 말하는 것도 가능해진다.

이미지를 분석하고 문제를 이해하는 기능도 추가됐다. "자전거 안장을 낮추려는데 여기서 뭘 써야 해?" 질문과 함께 자전거 매뉴얼과 공구함 사진을 찍어서 올리면 챗GPT가 "왼쪽 섹션에서 4mm 공구를 찾으세요" 가이드 한다.

눈과 귀, 입이 생긴 멀티모달 AI로의 진화다. 텍스트로만 할 수 있던 의사소통의 영역이 시청각 소통과 학습으로 확장되면서 인지나 표현이 한층 사람에 가까와졌다.

하민회 이미지21 대표.

똑똑해진 챗봇 덕에 도처에 비서가 생겼다. 심지어 곧 SNS에도 등장할 예정이다.

메타 (구 페이스북)은 자사의 SNS 제품인 인스타그램과 왓츠앱, 메신저 등에서 구동되는 AI비서 '메타 AI'를 발표했다. 예를 들어 메신저로 친구와 1박2일 산행 계획을 잡고 있다. 이때 메타AI에게 준비물 리스트를 요청하면 즉시 대화에 참여해 답변을 올려준다. 자체 개발한 대규모 언어 모델(LLM) '라마2'기반으로 MS의 검색 엔진 빙과 제휴해 실시간 정보를 제공한다. 메타AI는 미국에서 먼저 테스트버전을 진행한 후 전 세계로 확장할 계획이다.

페르소나 AI 개발도 늘고 있다. AI 챗봇에 인격을 부여해 실제 인물처럼 대화를 나누는 페르소나 AI는 셀럽, 연예인, 스포츠스타 등 인물의 성격과 말투를 모방해 마치 실제 같은 대화 상대가 되어주는 것이 특징이다. 미국에서는 소설‧영화 캐릭터와 유명한 실존인물의 성격을 입힌 페르소나 AI 제작사 '캐릭터닷에이아이'가 유니콘 반열에 오르며 시장의 주목을 받고 있다.

우리나라에서도 최근 페르소나 AI를 가상인간으로 만들어 교육, 금융, 시니어케어 등 다양한 산업 영역에 제공해 수익성을 높이는 비즈니스 모델이 증가 추세다.

업계에서는 누구나 쉽고 빠르게 다양한 가상 인간을 제작하는 환경이 조성되고 있다고 말한다. 단순히 AI 비서나 AI 친구를 넘어 개개인에게 맞춤화된 AI챗봇이 일상화되는 날이 머지않았다는 것이다. 챗GPT가 출시 된지 아직 1년도 지나지 않았으니 새삼 발전속도가 두렵다.

[서울=뉴스핌] 조용준 기자 = 가상인간 리아가 '삼각김밥데이'를 맞아 삼각김밥을 판매하는 쇼호스트로 나섰다. [사진=네오엔터디엑스] 2022.03.03 digibobos@newspim.com

이쯤 되면 우리는 진지하게 생각해 볼 필요가 있다. 부지불식간에 우리 일상에 스며든 AI챗봇과 형성중인 '모종의 관계'에 관해서 말이다.

당신에게 AI챗봇은 조력자인가 친구인가 교사인가 아니면 상담사인가?

특정 키워드를 입력하면 미리 프로그래밍 된 답을 내놓는 단순한 설계를 가진 과거의 챗봇과 달리 AI챗봇은 신뢰도나 친밀도가 높은 '인격적 관계'를 맺고 있다.

문제는 사용자와 챗봇의 인격적 관계가 깊어질수록 챗봇과 보내는 시간은 늘고 실제 사람들과 보내는 시간이 줄어든다는 점이다. 의인화 현상도 심각해진다. 특히 페르소나 AI에서 많이 보이는 현상이다. 사용자는 AI챗봇에게 감정적 소모없이 원하는 때에 하고 싶은 말을 하고 듣고 싶은 말을 듣는다. 개인맞춤화 된 챗봇일수록 대화의 심리적 만족도는 올라가기 마련이다. 외로움을 달래기 위해 시작한 챗봇이 오히려 사용자를 고립시키고 사람들과 교류를 단절시키는 부작용을 일으키는 셈이다.

AI 가상인간에 대한 우려도 적지 않다. 앨런AI연구소의 논문에 의하면 AI챗봇이 인간 같은 목소리에 성격까지 갖추면 설정된 페르소나에 따라 잘못된 고정관념을 보이거나 유해한 대화, 공격적이거나 해로운 의견을 낼 수 있는 위험성이 최대 6배까지 증가했다. 미성년 사용자에겐 AI 가상인간과의 친밀한 관계가 대인관계와 가치관 형성에 부정적인 영향을 미칠 수도 있다.

[서울=뉴스핌] 조용준 기자 2022.08.26 digibobos@newspim.com

과도한 챗봇 의존도 역시 짚어 볼 문제다. 지시어 한 두 마디로 빠른 답을 얻는 편리함에 익숙해지면 스스로 찾고 생각하고 개선하려는 노력은 하지 않게 된다. AI의 추천을 거치지 않으면 불안하게 느낄 수도 있고 AI와 다르면 스스로의 선택을 의심할 수도 있다. 어쩌면 많은 것을 해결하고 새로운 것을 창조해내는 토대가 되는 기억력과 사고력까지 상실하게 될 지도 모른다.

네트워크로 연결된 우리 삶의 조각들은 빅데이터로 활용되고 이를 학습한 AI챗봇은 점점 더 인간에게 중요한 대화상대자가 되어갈 것이다. 때로는 외로움을 덜어주고 위로를 주고 해결책을 알려주겠지만 결국 선택하고 받아들이고 결정하는 건 사람의 몫이다.

진화하는 챗봇은 마냥 반기기 보단 경계해야 할 대상이다. 편리함이 우리를 함몰시킬 수 있다. 어떤 경우에도 인간의 미래를 만들어가는 유일한 존재는 우리 자신임을 잊지 않아야 한다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

사진

양대 노총에 110억원 편향 지원 [서울=뉴스핌] 한태희 기자 = 내년도 정부 예산안을 심의하는 국회가 정부가 편성하지도 않은 양대 노총 지원 예산 110억원을 슬쩍 끼워 넣은 점은 정치권에서 관행처럼 이어온 '쪽지예산' 문제를 고스란히 보여준다. 국민 호주머니에서 나오는 돈이 정치권 이해관계에 따라 쓰이고 있는 것이다. 19일 국회 기후환경에너지환경노동위원회(환노위) 전체회의를 통과한 고용노동부 등 환노위 소관 예산안 예비심사보고서를 보면 고용노동부 취약노동자지원 사업 부문에 한국노동조합총연맹(한국노총)과 민주노동조합총연맹(민주노총)에 각각 55억원씩 지원하는 사업 예산이 신규 반영됐다. [서울=뉴스핌] 윤창빈 기자 = 한병도 소위원장이 17일 오전 서울 여의도 국회에서 열린 예산결산특별위원회 제1차 예산안등조정소위원회를 주재하고 있다. 2025.11.17 pangbin@newspim.com 한국노총 지원 예산을 세부적으로 보면 한국노총이 운영하는 중앙근로자복지센터 승강기·에스컬레이터 교체에 40억원, 난방 설비 교체 5억원, 지하주차장 안전 성능 10억원이 반영됐다. 민주노총 지원 예산을 보면 민주노총 임차보증금 예산 55억원이 편성됐다. 양대 노총 지원 예산은 당초 정부 예산안에는 없었으나 집권 여당인 더불어민주당(민주당) 국회의원들이 민원성 쪽지예산을 받아 관련 예산을 집어넣었다고 전해졌다. 야권에서는 민주당이 정치적 이해관계에 따라 양대 노총 쪽지예산을 끼워 넣었다고 의심하고 있다. 이재명 대통령 당선에 기여한 양대 노총에 대한 보은성 예산에 더해 내년 지방선거에서도 '함께 하자'는 정치적 메시지가 담겨 있다는 지적이다. 앞서 한국노총은 지난 6월 대통령 선거 때 당시 이재명 민주당 후보를 공개적으로 지지 선언했다. 민주노총은 대선 때 특정 후보 지지 선언을 하지 않았으나 노란봉투법(노동조합법 개정안)을 강행 처리한 민주당과 노동 정책 노선을 같이 하고 있다. 양대 노총은 노동계에서 영향력이 큰 노동조합이다. 고용노동부에 따르면 2023년 기준 한국노총과 민주노총 조합원은 각각 116만명, 108만6000명이다. 양대 노총에 소속된 조합원은 전체 노조 조합원 약 82%를 차지한다. 양대 노총을 우군으로 두면 압도적인 노동계 지지를 받을 수 있다는 의미다. 우재준 국민의힘 국회의원은 "제3노조, MZ 노조, 비정규직 노조를 지원하다고 했으면 그나마 명분이 있다"며 "민주노총이 정권 교체에 가장 크게 기여한 단체라는 건 국민 모두 알고 있고 지난 대선에서 한국노총조차도 이재명 후보를 지지했다"고 꼬집었다. 이어 "누가 봐도 정권 교체에 대한 대가성 지원 사업"이라며 "이 예산은 삭감해야 한다"고 강조했다. ◆ 눈덩이처럼 불어나는 SOC…지방선거 표심 노려 문제는 정치권 이해관계가 달린 쪽지예산이 난무할 수 있다는 점이다. 정치권은 내년 지방선거를 앞두고 지역에서 올라오는 각종 민원을 들어줘야 해서다. 정부가 건설경기 부양을 위해 철도·도로 등 SOC 분야에 대한 재정 투입을 확대한다. [사진=뉴스핌DB] 당장 지방에 도로·다리를 깔고 보수하는 예산이 급증하고 있다. 국토교통위원회(국토위)는 하루 전인 지난 18일 전체회의를 열고 국토부 예산을 당초 정부안보다 약 2조 4000억원 증액했다. 증액된 예산은 대부분 지역 사회간접자본(SOC) 인프라 확충과 지역균형발전 사업에 배정됐다. 국토위는 특히 정부가 반영하지 않은 도심공공주택복합사업 예산 100억원을 신규 배정했다. 도심공공주택 복합사업 추진이 늦어지는 곳을 대상으로 국민체육센터와 같은 생활 SOC를 건설하는 돈을 정부가 일부 지원한다는 것이다. SOC 예산은 예산결산특별위원회(예결위)를 거치며 눈덩이처럼 증가할 수 있다. 국토위는 말 그대로 예비심사일 뿐 실제로 예산을 깎고 늘리는 일은 예결위에서 하기 때문이다. 국회 안에서는 일부 예결위원은 벌써 쪽지예산을 수십장 받았다는 얘기도 흘러나온다. 쪽지예산에 혈세는 줄줄이 새고 있다. 감사원이 지난해 말 공개한 '국고보조금 편성 및 관리 실태'에 따르면 2021년부터 2024년까지 부당 지원된 국비만 20개 사업으로 2520억원에 달한다. ace@newspim.com 2025-11-19 14:25

사진

'피고인' 김건희 두달 만에 공개 [서울=뉴스핌] 홍석희 기자 = 법원이 19일 김건희 여사 재판의 중계를 서증조사 전까지 일부 허용했다. 이에 피고인석에 앉은 김 여사의 모습이 약 두 달 만에 공개될 전망이다. 서울중앙지법 형사합의27부(재판장 우인성)는 이날 오전 10시 10분부터 자본시장법 위반 등 혐의를 받는 김 여사의 속행 공판을 진행하고 있다. 법원이 19일 김건희 여사 재판의 중계를 서증조사 전까지 일부 허용했다. 이에 피고인석에 앉은 김 여사의 모습이 약 두 달 만에 공개될 전망이다. 사진은 김 여사가 지난 9월 24일 오후 서울 서초구 서울중앙지방법원에서 열린 첫 재판에 출석한 모습. [사진=뉴스핌 DB] 앞서 민중기 특별검사팀이 이날 공판 전체에 대한 재판중계허가신청서를 제출해 재판부는 개정 직후 이에 대한 입장을 밝혔다. 재판부는 "공익적 목적을 위한 국민적 알권리는 헌법적으로 요청되는 것으로 최대한 보장돼야 하지만, 재판의 확정까지 피고인이 무죄 추정을 받을 권리도 함께 보호돼야 한다"고 말했다. 이어 "재판 중계의 범위를 정해야 하는데, 이 사건에 관한 서증에 나온 제3자의 개인정보·주민번호·주소 등을 공개할 경우 회복하기 어려운 법익 침해의 가능성이 있다"며 "19일 공판 중 공판 개시 후 서증조사 전까지에 한해 중계를 허가함이 상당하다"고 판단했다. 재판부가 중계 일부 허용을 선고한 직후 오전 10시 17분께 김 여사가 법정에 들어섰다. 검정색 코트에 흰색 마스크를 착용한 김 여사는 구치소 직원들의 부축을 받으며 피고인석에 앉았다. 이후 오전 10시 19분부터 서증조사가 진행돼 김 여사가 피고인석에 앉은 모습은 약 2분 동안 짧게 공개될 전망이다. 한편 이날 오전 재판에서 '명태균 공천개입 의혹'에 관한 정치자금법 위반 혐의 서증조사를 마쳤다. 나머지 서증조사는 오후 재판에서 이어질 계획이다. 오전 재판 종료 직후 일부 방청객이 "김 여사님 힘내세요. 사랑합니다"라고 외치자 김 여사는 꾸벅 인사하고 퇴정했다. hong90@newspim.com 2025-11-19 11:10