전체기사 최신뉴스 GAM
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 진화하는 챗봇을 경계해야 하는 이유

기사입력 : 2023년10월04일 09:03

최종수정 : 2023년10월05일 09:36

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

하민회 이미지21대표(코가로보틱스 마케팅자문)

"약은 드셨어요?" "무릎은 좀 어떠세요?"

또렷하고 친절한 음성의 챗봇이 안부를 묻는다. 첫 통화에서 어떤 일을 했는지, 일이 힘들지는 않는지 이런 저런 질문을 던졌던 챗봇은 다음 주에는 병원은 다녀왔는지, 소화불량은 좀 나았는지 살뜰하게 안부를 챙긴다. 이전 통화 내용을 기억하는 기능 덕에 맞춤형 대화가 가능하다.

독거노인 등 사회적 소외계층에 주 2~3회 안부전화를 하는 클로바 케어콜 서비스다. 사용자의 외로움을 완화하고 복지 담당자의 업무 부담을 줄여준다는 취지에서 출발했지만 사용자 90%가 위로 받았다고 답할 만큼 반응이 좋다.

AI 챗봇이 빠른 속도로 진화 중이다. 생성형AI의 포문을 연 오픈AI의 챗GPT는 이제 음성과 이미지 정보를 처리할 수 있게 됐다. 음성으로 질문하면 답변도 말로 들을 수 있다. 조만간 자기 목소리를 다른 언어로 번역해서 말하는 것도 가능해진다.

이미지를 분석하고 문제를 이해하는 기능도 추가됐다. "자전거 안장을 낮추려는데 여기서 뭘 써야 해?" 질문과 함께 자전거 매뉴얼과 공구함 사진을 찍어서 올리면 챗GPT가 "왼쪽 섹션에서 4mm 공구를 찾으세요" 가이드 한다.

눈과 귀, 입이 생긴 멀티모달 AI로의 진화다. 텍스트로만 할 수 있던 의사소통의 영역이 시청각 소통과 학습으로 확장되면서 인지나 표현이 한층 사람에 가까와졌다.

하민회 이미지21 대표.

똑똑해진 챗봇 덕에 도처에 비서가 생겼다. 심지어 곧 SNS에도 등장할 예정이다.

메타 (구 페이스북)은 자사의 SNS 제품인 인스타그램과 왓츠앱, 메신저 등에서 구동되는 AI비서 '메타 AI'를 발표했다. 예를 들어 메신저로 친구와 1박2일 산행 계획을 잡고 있다. 이때 메타AI에게 준비물 리스트를 요청하면 즉시 대화에 참여해 답변을 올려준다. 자체 개발한 대규모 언어 모델(LLM) '라마2'기반으로 MS의 검색 엔진 빙과 제휴해 실시간 정보를 제공한다. 메타AI는 미국에서 먼저 테스트버전을 진행한 후 전 세계로 확장할 계획이다.

페르소나 AI 개발도 늘고 있다. AI 챗봇에 인격을 부여해 실제 인물처럼 대화를 나누는 페르소나 AI는 셀럽, 연예인, 스포츠스타 등 인물의 성격과 말투를 모방해 마치 실제 같은 대화 상대가 되어주는 것이 특징이다. 미국에서는 소설‧영화 캐릭터와 유명한 실존인물의 성격을 입힌 페르소나 AI 제작사 '캐릭터닷에이아이'가 유니콘 반열에 오르며 시장의 주목을 받고 있다.

우리나라에서도 최근 페르소나 AI를 가상인간으로 만들어 교육, 금융, 시니어케어 등 다양한 산업 영역에 제공해 수익성을 높이는 비즈니스 모델이 증가 추세다.

업계에서는 누구나 쉽고 빠르게 다양한 가상 인간을 제작하는 환경이 조성되고 있다고 말한다. 단순히 AI 비서나 AI 친구를 넘어 개개인에게 맞춤화된 AI챗봇이 일상화되는 날이 머지않았다는 것이다. 챗GPT가 출시 된지 아직 1년도 지나지 않았으니 새삼 발전속도가 두렵다.

[서울=뉴스핌] 조용준 기자 = 가상인간 리아가 '삼각김밥데이'를 맞아 삼각김밥을 판매하는 쇼호스트로 나섰다. [사진=네오엔터디엑스] 2022.03.03 digibobos@newspim.com

이쯤 되면 우리는 진지하게 생각해 볼 필요가 있다. 부지불식간에 우리 일상에 스며든 AI챗봇과 형성중인 '모종의 관계'에 관해서 말이다.

당신에게 AI챗봇은 조력자인가 친구인가 교사인가 아니면 상담사인가?

특정 키워드를 입력하면 미리 프로그래밍 된 답을 내놓는 단순한 설계를 가진 과거의 챗봇과 달리 AI챗봇은 신뢰도나 친밀도가 높은 '인격적 관계'를 맺고 있다.

문제는 사용자와 챗봇의 인격적 관계가 깊어질수록 챗봇과 보내는 시간은 늘고 실제 사람들과 보내는 시간이 줄어든다는 점이다. 의인화 현상도 심각해진다. 특히 페르소나 AI에서 많이 보이는 현상이다. 사용자는 AI챗봇에게 감정적 소모없이 원하는 때에 하고 싶은 말을 하고 듣고 싶은 말을 듣는다. 개인맞춤화 된 챗봇일수록 대화의 심리적 만족도는 올라가기 마련이다. 외로움을 달래기 위해 시작한 챗봇이 오히려 사용자를 고립시키고 사람들과 교류를 단절시키는 부작용을 일으키는 셈이다.

AI 가상인간에 대한 우려도 적지 않다. 앨런AI연구소의 논문에 의하면 AI챗봇이 인간 같은 목소리에 성격까지 갖추면 설정된 페르소나에 따라 잘못된 고정관념을 보이거나 유해한 대화, 공격적이거나 해로운 의견을 낼 수 있는 위험성이 최대 6배까지 증가했다. 미성년 사용자에겐 AI 가상인간과의 친밀한 관계가 대인관계와 가치관 형성에 부정적인 영향을 미칠 수도 있다.

[서울=뉴스핌] 조용준 기자 2022.08.26 digibobos@newspim.com

과도한 챗봇 의존도 역시 짚어 볼 문제다. 지시어 한 두 마디로 빠른 답을 얻는 편리함에 익숙해지면 스스로 찾고 생각하고 개선하려는 노력은 하지 않게 된다. AI의 추천을 거치지 않으면 불안하게 느낄 수도 있고 AI와 다르면 스스로의 선택을 의심할 수도 있다. 어쩌면 많은 것을 해결하고 새로운 것을 창조해내는 토대가 되는 기억력과 사고력까지 상실하게 될 지도 모른다.

네트워크로 연결된 우리 삶의 조각들은 빅데이터로 활용되고 이를 학습한 AI챗봇은 점점 더 인간에게 중요한 대화상대자가 되어갈 것이다. 때로는 외로움을 덜어주고 위로를 주고 해결책을 알려주겠지만 결국 선택하고 받아들이고 결정하는 건 사람의 몫이다.

진화하는 챗봇은 마냥 반기기 보단 경계해야 할 대상이다. 편리함이 우리를 함몰시킬 수 있다. 어떤 경우에도 인간의 미래를 만들어가는 유일한 존재는 우리 자신임을 잊지 않아야 한다. 

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
해커에 행정망 뚫렸다...국정원 "피해사실 확인" [서울=뉴스핌] 이영종 통일전문기자 = 해커집단으로 추정되는 세력이 온나라시스템을 비롯한 정부 행정망에 침투해 자료를 열람한 것으로 파악됐다. 국가정보원은 17일 보도자료를 통해 공공부문 및 민간업체의 해킹피해 상황을 전하면서 "지난 7월 온나라시스템 등 공공ㆍ민간분야 해킹 첩보를 사전에 입수, 행안부 등 유관기관과 합동으로 정밀 분석을 실시해 해킹 사실을 확인하고 추가피해 방지를 위한 대응에 적극 나섰다"고 밝혔다. [서울=뉴스핌] 이영종 통일전문기자 = 국정원이 17일 정부행정망 온나라시스템에 대한 해킹 피해 사실을 공개하면서 설명을 위해 제공한 해커들의 침투 개요도. [사진=국정원] 2025.10.17 yjlee@newspim.com 국정원은 "해커는 먼저 다양한 경로로 공무원들의 행정업무용 인증서(GPKI)ㆍ패스워드 등을 확보한 것으로 보이며, 인증체계를 면밀히 분석한 뒤 합법적 사용자로 위장해 행정망에 접근한 것으로 밝혀졌다"며 "이후 인증서(6개) 및 국내외 IP(6개)를 이용해 2022년 9월부터 올해 7월까지 행안부가 재택근무를 위해 사용하는 원격접속시스템(G-VPN)을 통과, 온나라시스템에 접속해 자료를 열람했다"고 밝혔다. 점검 결과, 정부 원격접속시스템에 본인확인 등 인증체계가 미흡하고 온나라시스템의 인증 로직이 노출되면서 복수기관에 접속이 가능하였고 각 부처 전용 서버에 대한 접근통제가 미비한 것이 사고원인으로 드러났다. 이에따라 국정원은 해커가 악용한 6개 IP주소를 全 국가ㆍ공공기관에 전파ㆍ차단하는 등 해커의 접근을 막는 긴급 보안조치를 단행했다. 또 △정부 원격접속시스템 접속시 ARS 등 2차 인증 적용 △온나라시스템 접속 인증 로직 변경 △해킹에 악용된 행정업무용 인증서 폐기 △피싱사이트 접속 추정 공직자 이메일 비밀번호 변경 △각 부처 서버 접근통제 강화 △소스코드 취약점 수정 등의 조치를 통해 추가 해킹 가능성을 차단했다고 국정원은 설명했다. 다른 부처에도 해킹 정황은 드러났다. 국정원은 "A 부처 행정메일 서버 소스코드 노출이 확인되었는데 해킹에 악용될 우려가 있어 개발업체와 함께 소스코드를 분석해 보안이 취약한 것으로 판단되는 부분을 수정했다"며 "또 일부 패스워드가 노출된 B 부처 행정업무용 인증서(GPKI)의 패스워드를 변경했다"고 밝혔다. 서울 내곡동 국가정보원 본부 청사와 원훈석 [뉴스핌 자료사진] 해커가 구축한 피싱사이트에 접속한 것으로 보이는 180여개의 공직자 이메일 계정에 대해서도 해킹 가능성에 대비해 전체 비밀번호를 변경했으며 현재까지 이로 인한 별다른 피해는 확인되지 않았다고 국정원은 전했다. 또 민간의 경우 서버인증서 노출, 원격관리시스템(VPN) 접속 페이지 노출 등의 피해가 있어 해당업체에 위험성을 통보, 보안조치를 요청했으며 통신업체에 대해서는 과기정통부가 피해여부를 별도로 확인 중"이라고 덧붙였다. 이번 사태의 배후와 관련 국정원은 "미국 해커 잡지인 '프랙'은 이번 해킹을 자행한 배후로 북한 '김수키' 조직을 지목했다"고 설명했다. 하지만 "금번 해킹에서 확인된 해커 악용 IP주소 6종의 과거 사고 이력, GPKI 인증서 절취 사례 및 공격방식ㆍ대상의 유사성 등을 종합적으로 분석중이지만 현재까지 해킹소행 주체를 단정할만한 기술적 증거는 부족한 상황"이라고 강조했다. 또 "해커가 한글을 중국어로 번역한 기록, 대만 해킹을 시도한 정황 등이 확인 되었지만 국정원은 모든 가능성을 열어 두고 해외 정보협력기관 및 국내외 유수 보안업체와 협력해 공격 배후를 추적하고 있다"고 밝혔다. 김창섭 국정원 3차장은 "온나라시스템 등 정부 행정망은 국민의 생활과 행정 서비스의 근간인 만큼, 진행중인 조사를 조속히 마무리하고 재발방지를 위한 범정부 후속대책을 마련해 이행할 계획"이라고 보도자료를 통해 밝혔다.  yjlee@newspim.com 2025-10-17 13:31
사진
전 프로야구 선수 조용훈, 생방송 중 추락사 [서울=뉴스핌] 양태훈 기자 = 국가대표 출신 전직 프로야구 선수 조용훈(37)씨가 경기 부천시의 한 아파트 옥상에서 추락해 숨졌다. 17일 경기 부천 원미경찰서에 따르면 이날 오후 6시 24분께 부천시 원미구 소재 아파트 옥상에서 조씨가 추락했다는 신고가 112에 접수됐다. 신고를 받고 출동한 소방당국은 현장에서 이미 숨진 조씨를 발견해 경찰에 인계했다. 119 구급차. 사진은 기사와 무관. [사진=뉴스핌 DB] 조씨는 사고 당시 유튜브 라이브 방송을 진행하던 중이었던 것으로 알려졌다. 방송 중 옥상에서 이상 행동을 보이자 이를 지켜보던 시청자들이 즉각 경찰에 신고한 것으로 전해졌다. 조씨는 2006년 투수로 현대 유니콘스에 입단해 넥센 히어로즈 등에서 활약했으며, 2014년 은퇴했다. 은퇴 후에는 유튜버로 활동해왔다. 경찰은 범죄 관련성은 없는 것으로 판단하고, 정확한 사망 경위를 조사 중이다. dconnect@newspim.com 2025-10-17 22:07
기사 번역
결과물 출력을 준비하고 있어요.
기사제목
기사가 번역된 내용입니다.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동