"우리가 기준"…인공지능 '인증' 전쟁 이미 시작됐다

기사입력 : 2023년09월27일 11:05

최종수정 : 2023년09월27일 11:06

AI환각·낮은 신뢰로 시장 적용 어려움...표준화·인증 시장 요구 높아져
글로벌 표준 선점에 미중유럽 앞다퉈...후발주자 한국 가세 "조직 일원화"

[서울·대전=뉴스핌] 김수진 기자 = "챗GPT 출시 초기엔 결과물 내놓는 속도가 중요했다면, 지금은 '얼마나 믿을 수 있느냐'가 시장의 '게임체인저'가 됐다"

인공지능(AI) 신뢰성 중요성이 커지면서 '인증'에 대한 관심이 높아지고 있다. '공식'적으로 평가받은 AI를 사용해야 '믿을 수 있다'는 인식이 시장에 퍼지고 있다.

현재 AI 인증은 시장의 성패를 좌우할 가장 중요한 요소다. 챗GPT가 잘못된 정보를 그럴싸하게 전달하는 '환각현상'을 종종 일으키면서 '신뢰성'은 선택이 아닌 필수가 됐기 때문이다. 환각현상은 AI모델이 근거가 불분명한 허위 답변을 내놓는 현상으로, 생성형AI 기술 활용에 가장 큰 걸림돌로 손꼽힌다.

챗GPT [사진=블룸버그] 2023.09.27

실제로 AI의 환각현상이 전문분야일 수록 발생 확률이 높아진다는 연구결과가 나오면서 불안감은 더욱 커지고 있다. 전문가들에 따르면 환각 현상은 과학연구나 금융분야 등 전문지식 분야에서 기존 5%에서 30%까지 증가하는 것으로 알려지고 있다. 심지어 시간이 갈수록 관련 오류율을 더욱 높아진다. 잘못된 추출 결과물을 바탕으로 또 다른 잘못된 결과물을 만들어내기 때문이다.

이로 인한 시장 불안도 높다. 올해 초보다 시장의 열기가 다소 식은 이유도 이 때문이라는 이야기도 들려온다. 국내 한 스타트업 연구원은 "챗GPT 등 AI를 탑재한 상품을 개발 중인데 공식적으로 검증할 만한 방안이 없어 잠시 관련 개발을 멈춘 상태"라며 "AI 접목은 반드시 해야 하는 상황인데, 혹여 발생할 수 있는 환각 등 문제 때문에 글로벌 시장에서 뒤쳐질까 걱정"이라고 말했다.

미국, 표준화 선도....미중 갈등, 신뢰성 경쟁에 표준 '이원화' 우려도

현재 전 세계 국가들과 글로벌 기업들은 '우리가 기준'이라고 앞다투고 있는 상황이다. 국제표준 인증을 확보·선도할 경우, 사실상 전 세계 AI시장을 좌우할 수 있기 때문이다.

글로벌 시장에서 가장 목소리를 크게 내는 국가는 미국이다. 미국은 지난 5월 4일 '핵심·신흥 기술(Critical & Emerging Technology)'에 대한 미 정부 국가 표준 전략 보고서를 전략 발표했다. 국제 표준을 선도하고 글로벌 시장 영향력을 강화하겠다는 모습이다.

중국 오성홍기와 미국 성조기. [사진=로이터 뉴스핌] 2023.09.27

실제로 미국은 인도와 일본, EU와 AI표준 관련 협력을 진행 중이다. 우리나라와도 올 4월 한미 공동핵심신흥기술 구상을 발표하며 '미국발 AI표준'에 나서고 있는 모양새다.

특히 미국 중심의 세계시장을 위협하는 중국을 배제하기 위해 타 국가와의 공동협력에 중점을 준 모습이다. 앞서 2020년 6월 미국은 GPAI(인공지능 글로벌파트너십)에 합류하면서 중국을 뺀 새 글로벌 표준 구축을 시도 중이다.

이에 반해 중국은 미국형 모델을 벗어나 독자 모델을 구현하려 노력 중이다. 하지만 후발주자이다보니 신뢰성 뿐만 아니라 이미지를 제외한 데이터 등 다양한 부문에서 아직 미국을 쫓아오지 못했다는 지적이다.

하지만 지난 2017년 출범한 AI국제표준화회의에서는 미국과 중국이 협력하는 모습이다. 회원국을 참여멤버(P) 31개국과 관찰멤버(O) 14개국으로 구성하고 있다. P멤버는 AI표준제정 관련 발언권과 투표권을 행사할 수 있도록 하고 있는데 여기에는 미국과 한국, 캐나다, 중국이 참여 중이다.

현재 AI국제표준화회의는 5개의 ISO 표준을 공식발표했고 현재 12개 ISO표준을 개발 중이다.

또 현재 SC42 워킹그룹을 형성, 캐나다는 'AI 기초 용어 정리', 미국은 '빅데이터', 아일랜드는 'AI신뢰성', 일본은 'AI 사용사례', 중국은 '지식공항' 관련한 표준안을 연구 중이다.

이밖에도 지난 4월 EU 집행위원회는 AI 규제법안을 내놓고 법안 통과를 기다리고 있다. 해당 법안이 통과되면 자연스레 관련 인증도 마련될 것으로 보인다.

문제는 국제사회를 이끌고 있는 두 국가인 미국과 중국이 갈등을 빚으면서 AI 신뢰·인증 산업도 양분화될 수 있다는 점이다. 전문가들은 미국과 중국이 가장 첨예하게 대립각을 세우고 있는 부분이 AI 신뢰성이라고 보고 있다. 미국은 글로벌 유통과 개방을 강조하지만 중국은 데이터를 주권 차원에서 다루기 때문이다.

소프트웨어정책연구소 김준영 책임연구원은 연구보고서를 통해 "데이터 개방과 AI 신뢰성 부분을 양국이 보안과 안보 이슈로 연관짓는 만큼 별다른 이슈가 발생하지 않는 이상 AI 시장(기술) 양분화는 앞으로도 지속될 것으로 보인다"고 설명했다. AI국제 인증 표준화를 위해 넘어야 할 산이 적지 않다는 의미다.

[서울=뉴스핌] 윤석열 대통령이 13일 청와대 영빈관에서 열린 제20차 비상경제민생회의 겸 대한민국 초거대 AI 도약 회의에 앞서 부스를 방문해 국내 기업들이 개발한 초거대 AI 서비스를 살펴보고 있다. [사진=대통령실] 2023.09.13 photo@newspim.com

표준화에 발벗고 나선 한국...전담조직 구성 필요

AI 후발국가인 한국도 관련 시장에서 뒤쳐지지 않기 위해 안간힘을 쓰고 있다. 신뢰성을 바탕으로 인증 체계를 빠르게 구축해야 글로벌 시장을 선도할 수 있다고 정부 차원에서도 인지하고 있다. 단 '규제'가 되지 않도록 민간 자율 인증으로 추진한다는 방침이다.

지난 13일 과학기술정보통신부는 청와대에서 열린 '대한민국 초거대 AI도약' 행사에서 AI신뢰성 제고를 강조했다.

과기부는 공신력 있는 제3 기관을 통해 평가하는 '신뢰성 검인증 체계' 계획을 발표하며CCTV, 생성형 AI기반 서비스를 중심으로 '분야별 특화 자율점검표·개발안내서'를 개발한다고 밝혔다.

이날 이종호 과기부 장관은 "거짓 답변, 편향성, 유해성 표현 등 초거대 AI한계를 극복하기 위한 기술개발을 내년부터 신규 추진하겠다"고 강조했다.

기관들도 인증제 선점에 앞다투고 있다. 한국정보통신기술협회(TTA)는 현재 국내기관 중 AI 품질 인증을 가장 선도적으로 이끌고 있다는 평가를 받고 있다. 2019년부터 AI기반 소프트웨어 등에 대한 신뢰성 확보 연구를 시작, 지난 2021년 과기부와 함께 '신뢰할 수 있는 AI 개발 안내서'를 개발하기도 했다.

현재 TTA는 올 하반기 AI 신뢰성 인증 제도 시행을 위해 평가기준 마련 등 준비 작업을 착수한 상태다. 인증제를 빠른 시일 내로 시작한다는 계획으로, 관련 기반 마련에 박차를 가하고 있다.

카카오뱅크는 이미지 처리 분야 학회 ICCV 2023, ICASSP 2023, ICIP 2023[1]에서 무자각인증과 안면 위변조 탐지기술에 대한 연구 논문이 채택됐다고 24일 밝혔다. (사진=카카오뱅크)

식품의약품안전처도 AI와 머신-러닝 성능평가 국제표준 확립에 나서고 있다. 지난 13일 한국전자통신연구원(ETRI)와 공동으로 의료기기 선진 개발을 위한 인공지능 평가 국제표준 논의를 위한 워크숍을 열며 뜨거운 관심을 받았다.

일각에서는 성공적 인증제도 확립을 위해 일관성 확보가 필요하다는 주장도 나왔다. 현재 정부와 시장에서 우후죽순으로 인증제 설립에 나서고 있는데, 정부 내 AI 전담조직 신설을 통해 일원화가 필요하다는 주장이다.

이종용 한국전자통신연구원 책임연구원은 지난달 31일 전국경제인연합회 주관 열린 'AI 기술현황과 국제규범 동향 세미나'에서 "누가 어떻게 규제·기준을 삼을 것은 중요한데 여지껏 논의가 부족했다"고 지적하며 "영국의 경우 디지털정책 일관성 확보를 위해 전담조직을 마련해 국가차원에서 관련 전략을 짜고 국제규범까지 제시하고 있다, 이점을 우리도 고민해야 한다"고 강조했다.

또 UN이 규제 전문기구 설립 계획을 밝힌 가운데, 한국도 여기에 참여해 신뢰성에 대한 목소리를 국제사회에서 내야 한다는 주장도 힘을 얻고 있다.

시장에서도 목소리를 함께 내고 있다. 신뢰성 구축을 통한 인증제도 확보가 결국 경쟁력으로 이어지기 때문이다. 인공지능 전문기업 씽크포비엘 박지환 대표는 "AI가 고도화되면서 기계가 윤리적 판단의 주체가 된 만큼 인증 등의 규제는 반드시 필요한 상황"이라며 "AI공적 인증을 어떻게 설정하느냐는 문제는 시장 경쟁력과 안전까지 영향을 미치는 문제"라고 지적했다.

이어 "결국 한국이 얼마나 관련 산업을 주도하는지에 따라 국내 AI 산업 발전이 좌우될 것"이라며 "정부가 보다 전문적인 눈으로 AI에 대한 개념 정립과 기준, 윤리 등의 가이드라인을 정립해야 한다"고 강조했다.

nn0416@newspim.com

사진

[여론조사] 국민의힘 차기 당권주자는…한동훈 28.4%·유승민 25.9% [서울=뉴스핌] 송기욱 기자 = 한동훈 전 국민의힘 비상대책위원장이 보수 진영의 가장 유력한 차기 당권 주자라는 여론조사 결과가 30일 발표됐다. 여론조사 전문기관 미디어리서치가 종합뉴스통신 뉴스핌 의뢰로 지난 27~28일 전국 만 18세 이상 남녀 1000명에게 물은 차기 국민의힘 당대표 조사 결과 한 전 위원장은 28.4%로 1위를 차지했다. 유승민 전 의원이 25.9%로 2위에 올랐으며 뒤이어 안철수 국민의힘 의원(6.4%), 원희룡 전 장관(5.5%), 나경원 국민의힘 당선인(5.4%), 윤상현 국민의힘 의원(3.1%), 김태호 국민의힘 당선인(1.1%) 순으로 집계됐다. 기타는 5.8%, 없음 14.1%다. 한 전 위원장은 국민의힘 지지자들 사이에서 압도적이었다. 정당별로 살펴본 결과 국민의힘 지지층에서 한 위원장의 지지도는 55.9%를 기록했다. 반면 유 전 의원은 더불어민주당(40.5%), 조국혁신당(44.9%), 개혁신당(31.7%), 새로운미래(40.1%) 등 야권 지지층에서 높게 나타났다. 연령대별로 보면 한 전 위원장 지지율은 70대 이상(27.3%), 60대(36.3%), 30대(32.8%)에서 높았으며 유 전 의원은 40대(32.1%), 50대(30.8%)에서 높았다. 김대은 미디어리서치 대표는 "민주당과 조국혁신당 지지층에서 유승민 전 의원에 대한 지지세가 강한 것은 국민의힘의 대표적인 비윤(비윤석열)계로 분류되는 유 전 의원의 윤석열 대통령 비판 목소리와 무관치 않다"고 분석했다. 이어 "야권 지지층에서의 역선택이 반영된 것"이라며 "특히 유 전 의원이 국민의힘 당대표가 되는 것이 야권층에 더 유리하다고 봤기 때문"이라고 덧붙였다. 그는 또 "반면 국민의힘 지지층에서 과반수가 한 전 위원장을 지지한 것은 이번 22대 총선 참패의 주범이라는 비판을 받고 있음에도 불구하고 당심은 여전히 한 전 비대위원장임을 보여준 결과"라고 설명했다. 이번 조사는 무선 RDD 활용 ARS를 통해 진행됐다. 신뢰 수준은 95%, 표본 오차는 ±3.1%p. 응답률은 3.3%다. 자세한 조사 개요 및 내용은 미디어리서치 홈페이지와 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. oneway@newspim.com 2024-05-30 06:00

사진

[분석] 北, 9년 전 치욕 떠올렸나…"대남 오물살포 자충수 될 수도" [서울=뉴스핌] 이영종 통일전문기자 = 북한이 우리 민간단체의 대북전단 살포를 빌미로 대형풍선을 이용한 오물 투척에 나서는 초유의 사태가 벌어지면서 향후 김정은의 선택에 시선이 쏠린다. 2일 밤 관영 선전매체인 조선중앙통신으로 북한이 밝힌 데 따르면 접경지역과 수도권에 지난달 28일부터 2일까지 모두 15톤의 쓰레기와 오물을 3500개 각종 기구로 날려보냈다. 2일 오전 안양 남부시장에서 발견된 대남전단으로 추정되는 오물. [사진=경기도소방재난본부] 우리 정부 당국과 합동참모본부에서 파악한 것보다 훨씬 많은 물량이다. 도심지나 민가 외에도 야산 지역 등에 상당수가 떨어졌을 것이란 추정이 가능하다. 담화에서 김강일 국방성 부상은 대남 오물 살포를 잠정 중단하겠다는 입장을 밝혔다. 그는 자신들의 행위가 대북전단에 대한 대응 차원이라는 논리를 폈다. 하지만 우리 민간 단체들이 대북전단 보내기가 재개될 경우 "백배의 휴지와 오물량을 다시 집중 살포하는 것으로 대응할 것"이라고 위협하고 있어 오물 풍선이 다시 날아온 가능성은 여전하다. 북한은 이번 오물풍선을 통해 김정은 독재체제를 비판하는 전단이 '쓰레기'에 불과하다는 점을 주장하려 한 것으로 보인다. 김정은의 여동생 김여정이 담화를 내고 '표현의 자유' 운운하면서까지 오물풍선에 의미를 부여한 것도 이런 맥락이라 볼 수 있다. [서울=뉴스핌] 김정은 북한 국무위원장이 5월 30일 600mm 방사포를 동원한 대남 핵 타격 훈련을 참관했다고 관영 조선중앙통신이 31일 보도했다. [사진=조선중앙통신] 2024.05.31 하지만 김정은으로서는 고민스런 대목이 적지 않다. 첫째는 한국의 반발뿐 아니라 국제사회의 비난이 거세다는 점이다. 외부의 시선 따위는 아랑곳 않겠다는 게 북한의 기본자세이기는 하지만 담배꽁초 등 쓰레기는 물론 동물의 분변까지 실어 상대측에 날려 보낸 해괴한 행위로 북한 체제의 이미지는 더욱 추락하는 상황을 맞았다. 더욱이 항공기 안전 등 심각한 문제를 부를 수 있고, 풍선과 함께 GPS 교란까지 벌인 행태에 주변국의 시선이 곱지 않다. 둘째는 사태가 장기화 해 북한 주민들에게 오물풍선을 보낸 사실이 입소문 날 경우 김정은 체제에 대한 반감과 한국 사회의 실상, 대북전단에 대한 호기심 등을 자극할 소지가 있다. 김정은은 청년층을 중심으로 번지고 있는 한국 드라마와 영화・가요 등 한류 영향으로 체제에 위협요인이 커지고 있다면서 이를 차단하는데 주력하고 있는 것으로 알려져 있다. 이른바 '반동사상문화배격법'을 만들어 단순 시청만으로도 징역 5~15년 형을 선고하는 가혹한 처벌을 하고 있지만 좀체 수그러들지 않고 있는 것으로 고위 탈북인사들은 귀띔하고 있다. 북한이 이번 대남 오물풍선 소동을 벌이면서도 북한 주민들이 접할 수 없는 관영매체인 조선중앙통신으로만 입장을 밝히는 데서도 김정은이 이를 얼마나 민감하게 다루고 있는지를 알 수 있다. [서울=뉴스핌] 장호진 국가안보실장이 2일 서울 용산구 대통령실에서 북한의 대남 오물 풍선 살포, GPS 교란, 단거리 미사일 발사 등에 대한 대책을 논의하기 위해 열린 긴급 국가안전보장회의(NSC) 상임위원회를 주재하고 있다. [사진=대통령실]2024.06.02 photo@newspim.com 셋째는 만만치 않은 비용이다. 오랜 기간 북한 주민들에게 외부 정보를 알리기 위한 전단 풍선을 보내온 이민복 북한동포직접돕기운동 대표는 "북한이 가스와 풍선 등을 대규모로 날리려면 엄청난 자금이 들어간다"면서 "북한이 엄포를 놓은 것처럼 우리 대북전단에 백배 보복을 할 재력이 없다"고 말했다. 도무지 득이 되지 않을 화풀이성 오물투척에 계속 돈을 쏟아부을 입장이 아니란 얘기다. 무엇보다 9년 전 대북 확성기 방송으로 굴욕적인 상황을 당했던 악몽을 떠올리면 김정은과 북한 군부의 행동반경은 좁아질 수박에 없다. 지난 2015년 8월 4일 북한은 경기도 파주 비무장지대(DMZ)에 목함지뢰를 매설해 우리 부사관 2명에게 중상을 입히는 도발을 벌였다. 엿새만에 우리 군 당국이 대북 확성기 방송을 11년 만에 재개하자 북한은 "48시간 내 중단 않으면 군사행동을 벌이겠다"고 위협했다. 김정은까지 나서 '준전시 사태'를 선포하는 등 도발이 임박한 것처렴 사태를 몰아갔다. [사진공동취재단] 지난 2018년 5월 1일 오후 경기도 파주 육군 9사단 교하소초에서 병사들이 임진강변에 설치된 대북 심리전 확성기 방송시설을 철거하고 있다. 2018.05.01 하지만 같은달 21일 박근혜 당시 대통령이 3군 사령부를 방문해 "추가 도발시 단호해 대응하라"고 지시하면서 일촉즉발의 위기상황이 벌어졌다. 그런데 북한은 같은 날 갑자기 입장을 바꿔 김양건 당시 노동당 통일전선부장이 판문점 접촉을 제안해 왔다. 청와대는 "북한군을 대표하는 황병서가 나오라"고 대북통보를 했고 북한은 우리 요구에 따라 황병서가 나와 목함지뢰 도발에 '유감'이라며 사실상 사과했다. 당시 상황은 북한이 대북 확성기 방송이나 전단에 얼마나 사활을 거는지를 잘 보여줬다. 이번의 경우도 상황은 크게 달라 보이지 않는다. 쓰레기 투척이라는 다소 기발한 착상에 이를 행동으로 옮겼지만 이후 행보가 여의치 않은 국면에 빠질 것이란 분석이 나오는 것도 이런 이유에서다. 무엇보다 윤석열 정부가 확성기를 전방에 설치하는 작업에 착수할 것으로 보이고, 북한의 추가적 도발이 이어지면 즉각 김정은 수령독재와 핵・미사일에 집착해 민생을 외면하는 행태 등을 비판하고 나설 것이 분명해 보인다. 한국 민간단체의 대북전단을 빌미로 오물풍선에 다시 손을 댔다가 자칫 김정은의 아킬레스건을 건드리는 자충수가 될 수 있다. 물론 한국 내 일부 종북・친북 성향 인사나 단체가 북한을 일방적으로 감싸거나 교묘한 양비론적 시각을 펴며 대북전단 중단의 필요성에 무게를 싣는 행태를 보일 수 있지만 악화된 국민의 대북 여론에 힘을 얻기는 어려울 전망이다. 사법부에 의해 '표현의 자유' 제약으로 대북전단금지법이 효력을 잃은데다 폐쇄적 체제에서 외부 정보에 목말라하는 북한 주민들에게 실상을 있는 그대로 전달하는 움직임을 막을 수 없다는 점도 북한에게는 불리한 형국이다. yjlee@newspim.com 2024-06-03 08:35