만능이라더니 헛소리하는 챗GPT?...AI 신뢰성 잡으면 전세계 잡는다

기사입력 : 2023년03월04일 19:16

최종수정 : 2023년03월06일 15:46

쓰레기 정보까지 학습하는 챗GPT, 신뢰성 우려
"데이터 편향 측정·데이터 표준화 선도 적기"

[서울·대전=뉴스핌] 김수진 기자 = # 대전의 한 소재 관련 연구소에서 근무하는 A연구원은 재미삼아 대화형 인공지능(AI) 챗GPT로 연구보고서를 작성했다가 깜짝 놀랐다. 챗GPT가 보고서에서 인용했다는 논문은 실제로는 존재하지 않는 '거짓' 출처였기 때문이다. A연구원은 "그럴 듯한 내용으로 보고서를 만들어냈지만 자세히 살펴보면 내용의 오류가 상당했고 심지어 잘못된 참고 논문을 알려주거나 아예 거짓 출처를 제시하기도 했다"며 "한마디로 챗GPT가 거짓말로 소설을 쓴 것으로, 신뢰성 측면에서 상당히 우려된다"고 말했다.

산업계부터 의료, 교육, 정치, 문화·예술 모든 분야에서 챗GPT(chat GPT) 열기가 뜨겁다. 일론 머스크가 작정하고 차린 스타트업 '오픈AI'가 지난해 11월 말 '챗GPT'를 선보이며 전 세계를 뒤집어놓고 있다. 챗GPT은 그간 AI와는 전혀 다른 수준의 결과물을 만들어내며 공개 5일만에 이용자 100만명을 돌파하고 지난달에는 1억명 이상이 이용하고 있다. 오픈AI는 이달 중으로 이용자 2억명을 거뜬히 넘길 것으로 보고 있다. 챗GPT를 놓고 '아이폰 이후 최대 혁신' '모든 분야의 게임체인저' 등의 극찬이 연일 쏟아지고 있다.

오픈AI와 챗GPT 로고 [사진=로이터 뉴스핌]

챗GPT는 대규모 언어모델(LLM)을 기반한 AI시스템에 많은 정보를 투입해 인간의 언어·문법 등을 이해시키는 학습과정을 거친다. 여기에 투입되는 정보는 인류가 그간 쌓아온 지식 자산을 기반으로 한다. 상황을 전체적으로 이해하고 대응하는 '인공일반지능(AGI)'에 가깝다. 심지어 출시 시점부터 이미 학습시스템을 완료한 모델로 곧바로 비즈니스 모델화가 가능하다는 장점도 갖췄다. 분야·기능별 AI모델을 새롭게 만들어야 하는 기존 모델과는 다르다. 국내 한 교육 플랫폼 대표는 "챗GPT가 시장에서 각광받는 이유도 즉각 활용할 수 있는 완성형 AI모델이기 때문"이라고 평가하며 "우리도 제품에 챗GPT를 도입을 위한 준비 중"이라고 밝혔다.

실제로 이미 국내에서도 챗GPT를 도입한 기업들이 적지 않다. 의학·건강부터 교육, 업무용 툴, 여행플래너 등 다양한 분야에서 해당 AI를 활용하고 있다.

일론 머스크 테슬라 CEO.[사진=로이터 뉴스핌]

◇ 거짓말하는 챗GPT?..."TTA 데이터 편향기준 적극 활용해야"

그런데 출시 불과 3달만에 챗GPT를 어디까지 믿을 수 있느냐는 우려가 나오고 있다. 챗GPT가 신뢰성이 떨어지는 결과물을 내놓기 시작했기 때문이다.

실제 국내 한 언론사에서 챗GPT의 성능을 확인하기 위해 '현재 대한민국 대통령이 누구냐'고 묻자 문재인 전 대통령이라는 오답을 냈다. 또 미국 의사시험과 로스쿨 시험을 통과한 챗GPT가 정작 한국 대학수학능력시험 수리영역에서는 두 자리수 곱셈도 틀리는 등 연산능력에 한계를 보였다. 스스로 만들어낸 근거없는 출처를 바탕으로 한 논문을 작성하기도 했다. 이러한 상황에 더해 심지어 일부 커뮤니티에서는 잘못된 결과물을 내놓게 하기 위해 일부러 챗GPT에게 '가스라이팅'하는 놀이문화까지 번지고 있는 상황이다.

미국 워싱턴주 리치먼드의 마이크로소프트(MS) 본사에서 인공지능(AI) 챗봇이 탑재된 검색엔진 빙(Bing)을 체험해보는 시민. 2023.02.07 [사진=블룸버그]

전문가들은 챗GPT가 학습한 데이터에는 팩트에 기반한 좋은 정보뿐만 아니라 인터넷에 돌아다니는 쓰레기 정보까지 모두 흡수하기 때문이라고 본다. AI가 데이터 오류까지 모조리 학습하다보니 틀린 답변을 내놓는 것. 이 때문에 출처 없이 '속이는 행위'가 빈번히 일어나고 사실과 거짓을 혼용한 결과물이 나온다. 챗GPT의 이러한 시스템을 악용할 수도 있다고 전문가들은 지적한다. 이해주 국가ESG연구원 공동대표는 한 언론을 통해 "여론조작에 이용되도록 유혹적 댓글을 수만개씩 양산할 수 있다"고 경고하기도 했다.

이처럼 AI 산업에서 정확성과 신뢰성이 화두로 떠오르면서 산업계·정부 모두 대책 마련에 나서고 있다. 시장 블루오션인 '신뢰성'을 확보하면 전세계 AI 시장을 선점할 수 있을 것으로 본 것이다.

실제로 한국은 전세계 최초로 '인공지능법'을 발의한 상태다. 국회 정필모(더불어민주당, 비례)의원은 '인공지능산업 육성 및 신뢰기반 조성 등에 관한 법률안'을 지난해 7월 발의, 현재 해당 법은 국회 과학기술정보방송통신위원회 정보통신방송 법안심사소위원회를 통과한 상태다.

특히 법안에는 '신뢰성 전문위원회'를 민간전문가로 구성해 AI 신뢰기반조성을 위한 의견 수렴 및 논의·연구를 진행하는 내용이 담겨 눈길을 끈다. 정 의원은 "국내 AI 기술 발전 기반과 국가역량 집중 투자 등을 위한 제도 마련을 위해 세계 최초 관련 법 제정이 시급하다"고 강조했다.

네이버는 챗GPT와 차별성을 두기 위해 AI윤리를 앞세우고 있다. 지난 2021년 2월 서울대와 협업해 AI윤리준칙을 발표, 자체 서비스에 적용하며 신뢰성 확보에 신경쓰고 있다. 네이버 측은 "AI의 편향성을 없애고 사용자 신뢰를 확보할 수 있는 AI를 연구개발하고 있다"며 "사회적 편향을 완화하는데 중점을 두고 있다"고 설명했다.

[사진=셔터스톡]

일각에서는 신뢰성 확보를 위해 지금이야말로 정부 차원에서의 'AI 데이터 검증 표준화' 선도가 시급하다는 목소리가 커지고 있다.

소프트웨어 공학 전문기업 씽크포비엘 박지환 대표는 "학습데이터를 통제하지 않은 채 AI에 공정한 판단을 요구하는 것은 길거리에 자유롭게 방치된 아이가 무탈히 인격자로 자라나길 기대하는 것과 같다"고 꼬집었다.

이어 박 대표는 한국정보통신기술협회(TTA)가 이미 마련하고 있는 데이터 편향 측정 기준을 정부 차원에서 적극 활용해야 한다고 덧붙였다.

박지환 대표는 "AI허브에 민간기업을 위해 만들어 놓은 막대한 양의 공공데이터가 있는데 어떠한 가치가 있는지, 보완할 점을 무엇인지를 평가할 것을 제안한다"며 "AI 데이터 표준화를 대한민국이 선도한다면 우리 기준으로 세계 AI를 검증·평가하는 날이 올 것"이라고 말했다.

nn0416@newspim.com

사진

한눈에 보는 트럼프 취임사...6대 키워드 [서울=뉴스핌] 이홍규 기자 = 도널드 트럼프 미국 대통령의 두 번째 취임 연설은 이념적인 수사가 가득했던 8년 전 2017년 당시와 다르게 낙관적인 어조 속에서 구체적인 정책 방향성을 제시하는 데 초점이 맞춰졌다. 요지는 전 정권에서 약화한 미국의 외교와 경제 영향력을 되찾겠다는 것이다. 트럼프 대통령은 '미국의 부활'을 알리면서 관세 정책과 경제·에너지 정책, 불법 이민자 정책, 영토 확장, 다양성 정책 재검토 등을 강조한 취임 연설을 했다. 다음은 30분간의 취임 연설에서 언급한 핵심 내용을 정리한 것이다. 도널드 트럼프 미국 대통령이 두 번째 임기 취임 첫날 캐피탈 원 아레나에서 열린 퍼레이드에서 행정명령에 서명하고 있다. [사진=로이터 뉴스핌] 1. 미국의 부활 트럼프 대통령은 "미국의 황금시대가 지금 시작된다"라고 연설을 시작했다. 이어"오늘부터 우리나라는 번영하고 세계의 존경을 다시 받게 될 것"이라고 했다. 또 "우리는 지금 국가적 성공의 흥미진진한 새로운 시대의 시작점에 있다"며 "미국은 전례 없는 기회를 잡을 수 있는 순간을 맞이했다"고 했다. 2. 관세 정책 트럼프 대통령은 관세 정책에 대해 "다른 나라를 윤택하게 하기 위해 미국민에게 과세하는 것이 아니라 국민을 윤택하게 하기 위해 관세를 부과한다"고 말했다. 또 "관세를 징수할 '대외수입청'을 설립하겠다"며 "외국으로부터 막대한 금액이 우리 국고로 흘러와 조만간 아메리칸드림은 전에 없던 방식으로 다시 살아나 번창할 것"이라고 했다. 트럼프 대통령은 또 "미국 경제는 부드럽고 한심하게 약한 무역 협정을 통해 우리 스스로에게 세금을 부과하면서 세계에 성장과 번영을 제공해왔다"며 "이제 이를 바꿀 때다. 우리는 우리와의 무역으로 이익을 얻는 이들에게 비용을 부과하기 시작할 것이며 그들은 기여하기 시작할 것"이라고 덧붙였다. 3. 경제·에너지 정책 트럼프 대통령은 "우리는 시추를 계속할 것"이라며 "미국은 다시 제조업 국가가 될 것"이라고 했다. 또 "우리는 지구상에서 가장 많은 석유와 가스를 보유하고 있다"며 "그것을 사용해 [에너지] 가격을 낮추고 전략비축유를 다시 최대로 채우며 미국 에너지를 전 세계로 수출할 것"이라고 했다. 트럼프 대통령은 이어 "우리는 그린뉴딜을 끝낼 것이며 전기차 의무화 정책을 철회해 우리의 자동차 산업을 구하고 위대한 미국 자동차 노동자들에게 했던 나의 신성한 약속을 지킬 것"이라고 했다. 4. 불법 이민자 정책 트럼프 대통령은 자신의 불법 이민자 정책에 대해 "미국의 완전한 복원을 시작하고 상식의 형멱을 이룰 것"이라고 운을 뗀 뒤 "남부 국경에 국가비상사태를 선포할 것"이라며 "모든 불법 입국은 즉시 중단될 것"이라고 강조했다. 이어 "수백만명의 범죄자 외국인이 그들이 온 곳으로 돌려보내지는 과정을 시작할 것"이라고 했다. 트럼프 대통령은 "멕시코 체류 정책(Remain in Mexico policy)을 재개할 것"이라고 했다. 이어 "잡았다가 풀어주기(catch and release) 관행을 종료할 것"이라며 "우리나라를 침범하는 재앙적인 침략을 저지하기 위해 남부 국경에 군대를 파견할 것"이라고 했다. 5. 영토 확장 트럼프 대통령은 파나마 운하와 관련해 "미국 선박들은 심각하게 과도한 요금을 부과받고 있고 미국 해군을 포함해 공정하게 대우받지 못하고 있다"고 강조했다. 그러면서 "중국이 파나마 운하를 운영하고 있다"며 "우리는 그것을 중국에 준 것이 아니라 파나마에 준 것이며 이제 그것을 되찾을 것"이라고 했다. 트럼프 대통령은 멕시코만에 대해서는 "아메리카만(Gulf of America)"으로 변경하겠다고 했다. 또 화성 탐사에 대해서는 "미국 우주비행사들을 화성에 보내 성조기를 꽂게 할 것"이라고 했다. 6. 다양성 정책 재검토 트럼프 대통령은 다양성 정책에 대해 "오늘부로 미국 정부의 공식 정책은 남성과 여성 두 가지 성별만을 인정하는 것으로 정해질 것"이라며 "연방정부는 더 이상 젠더 이데올로기를 장려하지 않을 것"이라고 했다. 트럼프 대통령은 또 "연방 기관들은 여권과 비자와 같은 정부 신분증에서 개인을 생물학적 성별로 분류할 것"이라며 "교도소, 이민자 쉼터, 성폭행 피해자 지원 센터와 같은 시설들은 생물학적 성별에 따라 구분될 것"이라고 덧붙였다. bernard0202@newspim.com 2025-01-21 10:13

사진

中 인공태양, 세계 최초 1억도 1000초 운행 [베이징=뉴스핌] 조용성 특파원 = 중국이 개발 중인 인공 태양이 세계 최초로 1000초 운행에 성공했다. 중국과학원 산하 허페이(合肥) 물질과학연구원은 초전도 토카막 핵융합 실험장치인 '이스트(EAST·Experimental Advanced Superconducting Tokamak)'가 20일 수행한 실험에서 1억 도 이상의 플라즈마를 1066초 이상 안정적으로 유지하는 데 성공했다고 중국 관영 신화사가 21일 전했다. 1억 도의 플라즈마를 안정적으로 1000초 이상 운행하기는 이번이 세계 최초라고 신화사는 의미를 부여했다. 연구진은 2012년에 플라즈마의 30초 운행에 성공했고, 2016년에 60초를 달성했으며, 2017년에는 101초를, 2023년에 403초 운영을 성공시켰다. 중국과학원의 연구진은 "핵융합 장치가 최소 수천 초 동안 안정적으로 운영되어야만 플라즈마의 자가 순환을 실현할 수 있으며, 핵융합 발전소가 영구적으로 발전할 수 있다"며 "이번 실험의 성공으로 인공 태양이 기초 과학의 영역에서 벗어나 현실화의 영역으로 접어들게 됐다"고 평가했다. 중국의 EAST 프로젝트는 초고온, 초저온, 초고진공, 초강력 자기장, 초대전류 등 200여 개 핵심 기술과 2000여 개의 특허를 보유하고 있다. 2006년 EAST 장치가 완공된 후 21차례의 물리 실험이 진행됐고, 플라즈마 작동 횟수는 15만 회를 넘어섰다. 연구진은 "EAST를 통해 국제 협력을 확대하고, 미래 핵융합 에너지 상용화를 앞당길 수 있기를 희망한다"고 말했다. 핵융합 발전은 지구상에 무궁무진하게 존재하는 수소를 원료로 하며, 방사능과 이산화탄소 배출에 대한 우려가 없어서 '꿈의 에너지'로 불린다. 태양의 에너지 생성 과정을 재현하기 때문에 '인공 태양'이라고도 불린다. 상용화까지는 20여 년이 소요될 것으로 예상된다. 중국과학원 산하 허페이(合肥) 물질과학연구원은 초전도 토카막 핵융합 실험장치인 '이스트(EAST)'가 20일 수행한 실험에서 1억도 이상의 플라즈마를 1066초 이상 유지하는 데 성공했다. 중국의 이스트 장치 모습. [신화사=뉴스핌 특약] 조용성 특파원 = 2025.01.21 ys1744@newspim.com 중국과학원 산하 허페이(合肥) 물질과학연구원은 초전도 토카막 핵융합 실험장치인 '이스트(EAST)'가 20일 수행한 실험에서 1억도 이상의 플라즈마를 1066초 이상 유지하는 데 성공했다. 실험에 성공하자 연구진들이 기뻐하고 있다. [신화사=뉴스핌 특약] 조용성 특파원 = 2025.01.21 ys1744@newspim.com ys1744@newspim.com 2025-01-21 10:22