전체기사 최신뉴스 GAM 라씨로
KYD 디데이
전국 대전·세종·충남

속보

더보기

만능이라더니 헛소리하는 챗GPT?...AI 신뢰성 잡으면 전세계 잡는다

기사입력 : 2023년03월04일 19:16

최종수정 : 2023년03월06일 15:46

쓰레기 정보까지 학습하는 챗GPT, 신뢰성 우려
"데이터 편향 측정·데이터 표준화 선도 적기"

[서울·대전=뉴스핌] 김수진 기자 = # 대전의 한 소재 관련 연구소에서 근무하는 A연구원은 재미삼아 대화형 인공지능(AI) 챗GPT로 연구보고서를 작성했다가 깜짝 놀랐다. 챗GPT가 보고서에서 인용했다는 논문은 실제로는 존재하지 않는 '거짓' 출처였기 때문이다. A연구원은 "그럴 듯한 내용으로 보고서를 만들어냈지만 자세히 살펴보면 내용의 오류가 상당했고 심지어 잘못된 참고 논문을 알려주거나 아예 거짓 출처를 제시하기도 했다"며 "한마디로 챗GPT가 거짓말로 소설을 쓴 것으로, 신뢰성 측면에서 상당히 우려된다"고 말했다.

산업계부터 의료, 교육, 정치, 문화·예술 모든 분야에서 챗GPT(chat GPT) 열기가 뜨겁다. 일론 머스크가 작정하고 차린 스타트업 '오픈AI'가 지난해 11월 말 '챗GPT'를 선보이며 전 세계를 뒤집어놓고 있다. 챗GPT은 그간 AI와는 전혀 다른 수준의 결과물을 만들어내며 공개 5일만에 이용자 100만명을 돌파하고 지난달에는 1억명 이상이 이용하고 있다. 오픈AI는 이달 중으로 이용자 2억명을 거뜬히 넘길 것으로 보고 있다. 챗GPT를 놓고 '아이폰 이후 최대 혁신' '모든 분야의 게임체인저' 등의 극찬이 연일 쏟아지고 있다.

오픈AI와 챗GPT 로고 [사진=로이터 뉴스핌]

챗GPT는 대규모 언어모델(LLM)을 기반한 AI시스템에 많은 정보를 투입해 인간의 언어·문법 등을 이해시키는 학습과정을 거친다. 여기에 투입되는 정보는 인류가 그간 쌓아온 지식 자산을 기반으로 한다. 상황을 전체적으로 이해하고 대응하는 '인공일반지능(AGI)'에 가깝다. 심지어 출시 시점부터 이미 학습시스템을 완료한 모델로 곧바로 비즈니스 모델화가 가능하다는 장점도 갖췄다. 분야·기능별 AI모델을 새롭게 만들어야 하는 기존 모델과는 다르다. 국내 한 교육 플랫폼 대표는 "챗GPT가 시장에서 각광받는 이유도 즉각 활용할 수 있는 완성형 AI모델이기 때문"이라고 평가하며 "우리도 제품에 챗GPT를 도입을 위한 준비 중"이라고 밝혔다.

실제로 이미 국내에서도 챗GPT를 도입한 기업들이 적지 않다. 의학·건강부터 교육, 업무용 툴, 여행플래너 등 다양한 분야에서 해당 AI를 활용하고 있다.

일론 머스크 테슬라 CEO.[사진=로이터 뉴스핌]

◇ 거짓말하는 챗GPT?..."TTA 데이터 편향기준 적극 활용해야"

그런데 출시 불과 3달만에 챗GPT를 어디까지 믿을 수 있느냐는 우려가 나오고 있다. 챗GPT가 신뢰성이 떨어지는 결과물을 내놓기 시작했기 때문이다.

실제 국내 한 언론사에서 챗GPT의 성능을 확인하기 위해 '현재 대한민국 대통령이 누구냐'고 묻자 문재인 전 대통령이라는 오답을 냈다. 또 미국 의사시험과 로스쿨 시험을 통과한 챗GPT가 정작 한국 대학수학능력시험 수리영역에서는 두 자리수 곱셈도 틀리는 등 연산능력에 한계를 보였다. 스스로 만들어낸 근거없는 출처를 바탕으로 한 논문을 작성하기도 했다. 이러한 상황에 더해 심지어 일부 커뮤니티에서는 잘못된 결과물을 내놓게 하기 위해 일부러 챗GPT에게 '가스라이팅'하는 놀이문화까지 번지고 있는 상황이다.

미국 워싱턴주 리치먼드의 마이크로소프트(MS) 본사에서 인공지능(AI) 챗봇이 탑재된 검색엔진 빙(Bing)을 체험해보는 시민. 2023.02.07 [사진=블룸버그]

전문가들은 챗GPT가 학습한 데이터에는 팩트에 기반한 좋은 정보뿐만 아니라 인터넷에 돌아다니는 쓰레기 정보까지 모두 흡수하기 때문이라고 본다. AI가 데이터 오류까지 모조리 학습하다보니 틀린 답변을 내놓는 것. 이 때문에 출처 없이 '속이는 행위'가 빈번히 일어나고 사실과 거짓을 혼용한 결과물이 나온다. 챗GPT의 이러한 시스템을 악용할 수도 있다고 전문가들은 지적한다. 이해주 국가ESG연구원 공동대표는 한 언론을 통해 "여론조작에 이용되도록 유혹적 댓글을 수만개씩 양산할 수 있다"고 경고하기도 했다.

이처럼 AI 산업에서 정확성과 신뢰성이 화두로 떠오르면서 산업계·정부 모두 대책 마련에 나서고 있다. 시장 블루오션인 '신뢰성'을 확보하면 전세계 AI 시장을 선점할 수 있을 것으로 본 것이다.

실제로 한국은 전세계 최초로 '인공지능법'을 발의한 상태다. 국회 정필모(더불어민주당, 비례)의원은 '인공지능산업 육성 및 신뢰기반 조성 등에 관한 법률안'을 지난해 7월 발의, 현재 해당 법은 국회 과학기술정보방송통신위원회 정보통신방송 법안심사소위원회를 통과한 상태다.

특히 법안에는 '신뢰성 전문위원회'를 민간전문가로 구성해 AI 신뢰기반조성을 위한 의견 수렴 및 논의·연구를 진행하는 내용이 담겨 눈길을 끈다. 정 의원은 "국내 AI 기술 발전 기반과 국가역량 집중 투자 등을 위한 제도 마련을 위해 세계 최초 관련 법 제정이 시급하다"고 강조했다.

네이버는 챗GPT와 차별성을 두기 위해 AI윤리를 앞세우고 있다. 지난 2021년 2월 서울대와 협업해 AI윤리준칙을 발표, 자체 서비스에 적용하며 신뢰성 확보에 신경쓰고 있다. 네이버 측은 "AI의 편향성을 없애고 사용자 신뢰를 확보할 수 있는 AI를 연구개발하고 있다"며 "사회적 편향을 완화하는데 중점을 두고 있다"고 설명했다.

[사진=셔터스톡]

일각에서는 신뢰성 확보를 위해 지금이야말로 정부 차원에서의 'AI 데이터 검증 표준화' 선도가 시급하다는 목소리가 커지고 있다.

소프트웨어 공학 전문기업 씽크포비엘 박지환 대표는 "학습데이터를 통제하지 않은 채 AI에 공정한 판단을 요구하는 것은 길거리에 자유롭게 방치된 아이가 무탈히 인격자로 자라나길 기대하는 것과 같다"고 꼬집었다.

이어 박 대표는 한국정보통신기술협회(TTA)가 이미 마련하고 있는 데이터 편향 측정 기준을 정부 차원에서 적극 활용해야 한다고 덧붙였다.

박지환 대표는 "AI허브에 민간기업을 위해 만들어 놓은 막대한 양의 공공데이터가 있는데 어떠한 가치가 있는지, 보완할 점을 무엇인지를 평가할 것을 제안한다"며 "AI 데이터 표준화를 대한민국이 선도한다면 우리 기준으로 세계 AI를 검증·평가하는 날이 올 것"이라고 말했다.

nn0416@newspim.com

[뉴스핌 베스트 기사]

사진
'서부지법 난동' 첫 선고 2명 모두 실형 [서울=뉴스핌] 조승진 기자 = 윤석열 전 대통령의 구속영장 발부 전후인 지난 1월 18∼19일, 서부지법에서 발생한 난동 사건으로 구속기소된 95명 중 2명이 1심에서 실형을 선고받았다. 서울서부지법 형사6단독(재판장 김진성)은 14일 오전 특수건조물침입 등의 혐의로 기소된 김 모 씨와 소모 씨에 대한 선고 공판에서 김 모 씨에게 징역 1년 6개월, 소모 씨에게 징역 1년을 선고했다. 이날 선고는 서부지법 난동 사태 발생 4개월여 만에 나온 첫 선고다.  앞서 검찰은 김씨에게 징역 3년, 소씨에게 징역 2년을 구형했다. 지난 1월19일 오전 서울 마포구 서울서부지방법원 청사 유리창과 벽면이 파손되어 있다. 이날 윤석열 대통령 구속영장이 발부되자 윤 대통령 지지자들이 서울서부지법에 난입해 유리창을 깨고 집기를 훼손하는 등 난동을 부려 경찰이 강제진압에 나섰다. [사진=뉴스핌 DB] 선고는 김 씨부터 진행됐다. 재판부는 "이 사건은 특수건조물 침입, 공용 물건 손상, 특수 공무집행 방해"라며 "피고인이 증거에 관해서 자백하고 있고 보관 증거가 있어서 유죄로 인정된다"고 했다. 이어 "이 사건은 다중위력을 보인 범행이고, 범행 대상은 법원"이라며 "피고인을 포함해서 많은 사람들이 하나의 사건에 연관되었고, 당시 발생한 전체 범행의 결과는 참혹하다"고 설명했다. 그러면서 "대한민국 사법부의 영장 발부 여부를 정치적 음모로 해석 규정하고, 그에 대한 즉각적인 응징, 보복을 이뤄야 한다는 집념과 집착이 이뤄낸 범행"이라고 했다. 재판부는 "다만 이 사건은 공동 범행이 아니라 단독 범행이기 때문에 피고인의 행위에 대해서만 평가한다"면서도 "다중의 위력을 보였다는 부분은 범죄사실에 포함되므로 고려한다"고 말했다. 이어 "피고인은 벽돌 등을 던져, 법원 건물 외벽 타일을 깨뜨렸고, 법원 경내로 들어가 침입했다"며 "법원 내부 진입을 막고 있던 경찰관들을 몸으로 밀어 폭행했다"고 했다. 다만 "피고인이 진지한 반성 태도를 보이고, 우발적으로 범행에 이르게 된 점, 초범인 점, 그밖에 양형 제반 사항을 고려해 징역 1년 6개월에 처한다"고 밝혔다. 이어진 소 씨의 선고에서 재판부는 "피고인이 자백하고 있고 보관 증거 있어 유죄"라고 했다. 그러면서 "피고인은 법원 경내로 들어간 다음 당직실 유리창을 통해 건물 1층 로비까지 들어가 침입했다"며 "화분 물받이로 창고 플라스틱 문을 긁히게 하고, 부서진 타일 조각을 던져 법원 건물 외벽 타일을 손괴했다"고 말했다. 다만 "피고인이 진지한 반성으로 보이고, 우발적 범행에 이르게 된 점, 초범인 점, 그밖에 양형 제반 사항을 고려해 징역 1년에 처한다"고 밝혔다. 이번 선고에 앞서 재판부는 "어제 딸에게 산책하며 '아빠가 어려운 사건을 선고한다'고 했더니 '이재명 사건이냐, 윤석열 사건이냐?'고 묻더라"며 "더 어려운 사건이 있겠구나 싶었지만, 결단과 선고 순간에는 어렵고 쉬운 사건이 없다고 생각한다"고 말했다. 이어 "이 판결문을 머릿속으로 썼다가 지웠다 수없이 반복했다. 오늘 선고를 할지 말지도 많이 고민했다"고 했다. 그러면서 "오늘 선고가 정답이라고 생각지 않는다. 다만 결정과 결단의 문제라고 생각한다"며 "이 선고가 피고인의 남은 인생을 좌우하지 않는다고 생각하고, 남은 생은 피고인 본인답게 살아달라"고 당부했다. 또 "이 사건과 같은 날 있던 전체 사건을 포함해 법원, 경찰 모두 피해자라고 생각한다"며 "그날 직접 피해를 본 법원, 경찰 구성원분들과 지금도 피해를 수습할 관계자분들 노고에 감사하다. 기자들을 포함해 지금도 피해를 수습하는 과정인 거 같다"고 덧붙였다. 이어 "마지막으로 대한민국 어려운 시기에 시민들께서 사법부뿐 아니라 경찰, 검찰, 법원 전체에 지속적으로 관심을 가져주시길 바란다"고 강조했다. chogiza@newspim.com 2025-05-14 11:05
사진
최정, 500홈런…한화 12연승 끝 [서울=뉴스핌] 장환수 스포츠전문기자= SSG가 7연승 중이던 NC에 짜릿한 역전승을 거두며 간판타자 최정의 KBO리그 첫 통산 500홈런을 자축했다. SSG는 13일 NC와 인천 홈경기에서 6-3으로 승리했다. 11일 KIA와 더블헤더부터 3연승을 달린 SSG는 NC를 제치고 4위 삼성과 승차 없는 5위에 올라섰다. [서울=뉴스핌] 장환수 스포츠전문기자= SSG 최정이 13일 NC와 인천 홈경기에서 6회말 500호 홈런을 날린 뒤 포즈를 취했다. [사진=SSG] 2025.05.13 zangpabo@newspim.com 최정은 0-2로 뒤진 6회말 2사 1루에서 NC 선발 라일리 톰슨의 6구째 시속 135㎞ 슬라이더를 잡아당겨 왼쪽 펜스를 넘기는 시즌 5호 110m 동점 투런포를 쐈다. 500홈런이기에 앞서 삼진 10개를 잡으며 무실점으로 호투하던 톰슨에게 일격을 가한 귀중한 한 방이었다. SSG는 곧 이은 7회초 서재철에게 적시타를 허용해 2-3으로 뒤졌으나 8회말 대거 4점을 뽑으며 역전에 성공했다. 선두 박성한의 볼넷과 최정의 내야 안타로 만든 무사 1, 2루에서 한유섬의 2루타로 3-3 동점을 만들었다. 이어 라이언 맥브룸이 고의볼넷을 얻어 만든 무사 만루에서 최준우의 역전 2타점, 1사 후 정준재의 쐐기 1타점 적시타로 점수 차를 벌렸다. 류현진. [사진=한화] 한화는 두산과 대전 홈경기에서 연장 11회 접전 끝에 3-4로 졌다. 12연승이 중단된 한화는 이날 4연승한 LG에 공동 선두를 허용했다. 두산은 3-3으로 맞선 연장 11회초 강승호의 볼넷 후 대주자로 나간 전다민을 1루에 두고, '1할 타자' 임종성이 좌익선상에 떨어지는 2루타를 날려 귀중한 결승점을 뽑았다. 반면 한화 선발 류현진은 6이닝을 6탈삼진 6안타 1실점으로 막았지만 팀에 승리를 안기지 못했다. 한화는 1-1로 맞선 6회말 무사 만루에서 노시환이 투수 앞 병살타로 물러난 게 뼈아팠다. 연장 11회말에는 노시환의 안타 후 대주자로 나간 이상혁이 채은성의 삼진 때 2루 도루에 실패했다. 이날 두 팀은 한화가 8명, 두산이 6명의 필승조 투수를 모두 투입하는 총력전을 펼쳤다. [서울=뉴스핌] 장환수 스포츠전문기자= 삼성 르윈 디아즈가 13일 kt와 대구 홈경기에서 5회시즌 16호 투런홈런을 날린 뒤 다이아몬드를 돌고 있다. [사진=삼성] 2025.05.13 zangpabo@newspim.com 수석·투수·타격 코치를 교체한 삼성은 kt와 포항 홈경기에서 접전 끝에 5-3으로 승리, 최근 8연패에서 탈출했다. 삼성은 2회말 1사 만루에서 구자욱이 2타점 중전안타로 2-0을 만들었고, 5회말에는 홈런 선두 르윈 디아즈가 시즌 16호 우월 투런홈런을 날려 4-0으로 달아났다. 삼성 선발 이승현은 5이닝을 5안타 무실점으로 막아 시즌 5연패 뒤 첫 승을 신고했다. 반면 kt는 6연패에 빠졌다. 오스틴 딘. [사진 = LG] 잠실에선 LG가 키움을 9-6으로 따돌리고 4연승을 달렸다. 초반 6점 차 리드를 지키지 못하고 6-6으로 동점을 내준 LG는 7회말 오스틴 딘의 솔로 홈런으로 다시 리드를 잡았다. 오스틴은 1회에도 선제 솔로홈런을 날려 한 경기 2홈런을 기록했다. LG는 8회말에는 홍창기와 문성주의 연속 안타로 2점을 보태 승부를 갈랐다. 그러나 LG는 이날 시즌 첫 홈런을 신고하기도 한 붙박이 톱타자 홍창기가 9회초 수비 중 다리를 크게 다쳐 웃을 수 없는 하루가 됐다. 김도영. [사진 = KIA] 광주에선 KIA가 김도영의 결승 2루타를 앞세워 롯데를 4-1로 꺾었다. KIA는 5회말 한승택과 박찬호의 안타로 만든 2사 1,2루에서 김도영이 좌중간 2루타를 터뜨렸고, 최형우가 중전 적시타를 날려 3-0을 만들었다. 8회말에는 김도영의 좌전안타와 볼넷 2개로 만든 무사 만루에서 변우혁의 유격수 병살타 때 1점을 보태 승부를 갈랐다. KIA 선발 김도현은 5.1이닝을 4안타 1실점(비자책)으로 막아 2승(2패)를 올렸다. zangpabo@newspim.com 2025-05-13 22:59
안다쇼핑
Top으로 이동