"우리가 기준"…인공지능 '인증' 전쟁 이미 시작됐다

기사입력 : 2023년09월27일 11:05

최종수정 : 2023년09월27일 11:06

AI환각·낮은 신뢰로 시장 적용 어려움...표준화·인증 시장 요구 높아져
글로벌 표준 선점에 미중유럽 앞다퉈...후발주자 한국 가세 "조직 일원화"

[서울·대전=뉴스핌] 김수진 기자 = "챗GPT 출시 초기엔 결과물 내놓는 속도가 중요했다면, 지금은 '얼마나 믿을 수 있느냐'가 시장의 '게임체인저'가 됐다"

인공지능(AI) 신뢰성 중요성이 커지면서 '인증'에 대한 관심이 높아지고 있다. '공식'적으로 평가받은 AI를 사용해야 '믿을 수 있다'는 인식이 시장에 퍼지고 있다.

현재 AI 인증은 시장의 성패를 좌우할 가장 중요한 요소다. 챗GPT가 잘못된 정보를 그럴싸하게 전달하는 '환각현상'을 종종 일으키면서 '신뢰성'은 선택이 아닌 필수가 됐기 때문이다. 환각현상은 AI모델이 근거가 불분명한 허위 답변을 내놓는 현상으로, 생성형AI 기술 활용에 가장 큰 걸림돌로 손꼽힌다.

챗GPT [사진=블룸버그] 2023.09.27

실제로 AI의 환각현상이 전문분야일 수록 발생 확률이 높아진다는 연구결과가 나오면서 불안감은 더욱 커지고 있다. 전문가들에 따르면 환각 현상은 과학연구나 금융분야 등 전문지식 분야에서 기존 5%에서 30%까지 증가하는 것으로 알려지고 있다. 심지어 시간이 갈수록 관련 오류율을 더욱 높아진다. 잘못된 추출 결과물을 바탕으로 또 다른 잘못된 결과물을 만들어내기 때문이다.

이로 인한 시장 불안도 높다. 올해 초보다 시장의 열기가 다소 식은 이유도 이 때문이라는 이야기도 들려온다. 국내 한 스타트업 연구원은 "챗GPT 등 AI를 탑재한 상품을 개발 중인데 공식적으로 검증할 만한 방안이 없어 잠시 관련 개발을 멈춘 상태"라며 "AI 접목은 반드시 해야 하는 상황인데, 혹여 발생할 수 있는 환각 등 문제 때문에 글로벌 시장에서 뒤쳐질까 걱정"이라고 말했다.

미국, 표준화 선도....미중 갈등, 신뢰성 경쟁에 표준 '이원화' 우려도

현재 전 세계 국가들과 글로벌 기업들은 '우리가 기준'이라고 앞다투고 있는 상황이다. 국제표준 인증을 확보·선도할 경우, 사실상 전 세계 AI시장을 좌우할 수 있기 때문이다.

글로벌 시장에서 가장 목소리를 크게 내는 국가는 미국이다. 미국은 지난 5월 4일 '핵심·신흥 기술(Critical & Emerging Technology)'에 대한 미 정부 국가 표준 전략 보고서를 전략 발표했다. 국제 표준을 선도하고 글로벌 시장 영향력을 강화하겠다는 모습이다.

중국 오성홍기와 미국 성조기. [사진=로이터 뉴스핌] 2023.09.27

실제로 미국은 인도와 일본, EU와 AI표준 관련 협력을 진행 중이다. 우리나라와도 올 4월 한미 공동핵심신흥기술 구상을 발표하며 '미국발 AI표준'에 나서고 있는 모양새다.

특히 미국 중심의 세계시장을 위협하는 중국을 배제하기 위해 타 국가와의 공동협력에 중점을 준 모습이다. 앞서 2020년 6월 미국은 GPAI(인공지능 글로벌파트너십)에 합류하면서 중국을 뺀 새 글로벌 표준 구축을 시도 중이다.

이에 반해 중국은 미국형 모델을 벗어나 독자 모델을 구현하려 노력 중이다. 하지만 후발주자이다보니 신뢰성 뿐만 아니라 이미지를 제외한 데이터 등 다양한 부문에서 아직 미국을 쫓아오지 못했다는 지적이다.

하지만 지난 2017년 출범한 AI국제표준화회의에서는 미국과 중국이 협력하는 모습이다. 회원국을 참여멤버(P) 31개국과 관찰멤버(O) 14개국으로 구성하고 있다. P멤버는 AI표준제정 관련 발언권과 투표권을 행사할 수 있도록 하고 있는데 여기에는 미국과 한국, 캐나다, 중국이 참여 중이다.

현재 AI국제표준화회의는 5개의 ISO 표준을 공식발표했고 현재 12개 ISO표준을 개발 중이다.

또 현재 SC42 워킹그룹을 형성, 캐나다는 'AI 기초 용어 정리', 미국은 '빅데이터', 아일랜드는 'AI신뢰성', 일본은 'AI 사용사례', 중국은 '지식공항' 관련한 표준안을 연구 중이다.

이밖에도 지난 4월 EU 집행위원회는 AI 규제법안을 내놓고 법안 통과를 기다리고 있다. 해당 법안이 통과되면 자연스레 관련 인증도 마련될 것으로 보인다.

문제는 국제사회를 이끌고 있는 두 국가인 미국과 중국이 갈등을 빚으면서 AI 신뢰·인증 산업도 양분화될 수 있다는 점이다. 전문가들은 미국과 중국이 가장 첨예하게 대립각을 세우고 있는 부분이 AI 신뢰성이라고 보고 있다. 미국은 글로벌 유통과 개방을 강조하지만 중국은 데이터를 주권 차원에서 다루기 때문이다.

소프트웨어정책연구소 김준영 책임연구원은 연구보고서를 통해 "데이터 개방과 AI 신뢰성 부분을 양국이 보안과 안보 이슈로 연관짓는 만큼 별다른 이슈가 발생하지 않는 이상 AI 시장(기술) 양분화는 앞으로도 지속될 것으로 보인다"고 설명했다. AI국제 인증 표준화를 위해 넘어야 할 산이 적지 않다는 의미다.

[서울=뉴스핌] 윤석열 대통령이 13일 청와대 영빈관에서 열린 제20차 비상경제민생회의 겸 대한민국 초거대 AI 도약 회의에 앞서 부스를 방문해 국내 기업들이 개발한 초거대 AI 서비스를 살펴보고 있다. [사진=대통령실] 2023.09.13 photo@newspim.com

표준화에 발벗고 나선 한국...전담조직 구성 필요

AI 후발국가인 한국도 관련 시장에서 뒤쳐지지 않기 위해 안간힘을 쓰고 있다. 신뢰성을 바탕으로 인증 체계를 빠르게 구축해야 글로벌 시장을 선도할 수 있다고 정부 차원에서도 인지하고 있다. 단 '규제'가 되지 않도록 민간 자율 인증으로 추진한다는 방침이다.

지난 13일 과학기술정보통신부는 청와대에서 열린 '대한민국 초거대 AI도약' 행사에서 AI신뢰성 제고를 강조했다.

과기부는 공신력 있는 제3 기관을 통해 평가하는 '신뢰성 검인증 체계' 계획을 발표하며CCTV, 생성형 AI기반 서비스를 중심으로 '분야별 특화 자율점검표·개발안내서'를 개발한다고 밝혔다.

이날 이종호 과기부 장관은 "거짓 답변, 편향성, 유해성 표현 등 초거대 AI한계를 극복하기 위한 기술개발을 내년부터 신규 추진하겠다"고 강조했다.

기관들도 인증제 선점에 앞다투고 있다. 한국정보통신기술협회(TTA)는 현재 국내기관 중 AI 품질 인증을 가장 선도적으로 이끌고 있다는 평가를 받고 있다. 2019년부터 AI기반 소프트웨어 등에 대한 신뢰성 확보 연구를 시작, 지난 2021년 과기부와 함께 '신뢰할 수 있는 AI 개발 안내서'를 개발하기도 했다.

현재 TTA는 올 하반기 AI 신뢰성 인증 제도 시행을 위해 평가기준 마련 등 준비 작업을 착수한 상태다. 인증제를 빠른 시일 내로 시작한다는 계획으로, 관련 기반 마련에 박차를 가하고 있다.

카카오뱅크는 이미지 처리 분야 학회 ICCV 2023, ICASSP 2023, ICIP 2023[1]에서 무자각인증과 안면 위변조 탐지기술에 대한 연구 논문이 채택됐다고 24일 밝혔다. (사진=카카오뱅크)

식품의약품안전처도 AI와 머신-러닝 성능평가 국제표준 확립에 나서고 있다. 지난 13일 한국전자통신연구원(ETRI)와 공동으로 의료기기 선진 개발을 위한 인공지능 평가 국제표준 논의를 위한 워크숍을 열며 뜨거운 관심을 받았다.

일각에서는 성공적 인증제도 확립을 위해 일관성 확보가 필요하다는 주장도 나왔다. 현재 정부와 시장에서 우후죽순으로 인증제 설립에 나서고 있는데, 정부 내 AI 전담조직 신설을 통해 일원화가 필요하다는 주장이다.

이종용 한국전자통신연구원 책임연구원은 지난달 31일 전국경제인연합회 주관 열린 'AI 기술현황과 국제규범 동향 세미나'에서 "누가 어떻게 규제·기준을 삼을 것은 중요한데 여지껏 논의가 부족했다"고 지적하며 "영국의 경우 디지털정책 일관성 확보를 위해 전담조직을 마련해 국가차원에서 관련 전략을 짜고 국제규범까지 제시하고 있다, 이점을 우리도 고민해야 한다"고 강조했다.

또 UN이 규제 전문기구 설립 계획을 밝힌 가운데, 한국도 여기에 참여해 신뢰성에 대한 목소리를 국제사회에서 내야 한다는 주장도 힘을 얻고 있다.

시장에서도 목소리를 함께 내고 있다. 신뢰성 구축을 통한 인증제도 확보가 결국 경쟁력으로 이어지기 때문이다. 인공지능 전문기업 씽크포비엘 박지환 대표는 "AI가 고도화되면서 기계가 윤리적 판단의 주체가 된 만큼 인증 등의 규제는 반드시 필요한 상황"이라며 "AI공적 인증을 어떻게 설정하느냐는 문제는 시장 경쟁력과 안전까지 영향을 미치는 문제"라고 지적했다.

이어 "결국 한국이 얼마나 관련 산업을 주도하는지에 따라 국내 AI 산업 발전이 좌우될 것"이라며 "정부가 보다 전문적인 눈으로 AI에 대한 개념 정립과 기준, 윤리 등의 가이드라인을 정립해야 한다"고 강조했다.

nn0416@newspim.com

사진

김수현측 "故김새론과 성인된 후 교제" [서울=뉴스핌] 이지은 기자 = 배우 김수현이 故(고) 김새론과의 열애설을 인정했으나, 미성년자 시절 교제는 아니라고 반박했다. 김수현 소속사 골드메달리스트는 14일 공식 입장을 통해 "오늘 새벽 김수현씨가 심리적으로 급격하게 불안정한 모습을 보였고, 당사는 절대안정을 취할 수 있도록 조치했다. 김수현 씨는 가세연의 보도 이후 고인의 갑작스러운 죽음의 원인이 자신에게 있다는 주장들로 인해 극심한 혼란을 겪고 있다"고 밝혔다. 배우 김수현 [사진=뉴스핌DB] 이어 "또한 지난 12일 가세연의 방송이 끝난 밤, 회사 정문 건너편과 주차장에 카메라를 든 사람이 탄 차량이 새벽이 되도록 지키고 있었으며, 13일 점심 즈음 카메라를 든 사람들이 건물 주변을 배회하는 등 김수현씨에 대한 심리적 압박이 지속되고 있다"고 말했다. 앞서 김수현 측은 유튜브 채널 가로세로연구소(가세연)이 주장한 고 김새론과 김수현의 열애설 등에 대해 다음 주 중에 입장문을 배포할 것을 예고한 바 있다. 소속사 측은 김수현이 김새론이 미성년자 시절 교제한 것이 아니라고 반박하며 "두 사람은 성인이 된 이후인 2019년 여름부터 2020년 가을까지 교제했다. 김수현씨가 미성년자 시절의 김새론씨와 사귀었다는 것은 사실이 아니다"라고 강조했다. 이어 "김새론씨가 지난해 3월 24일 새벽 인스타그램 스토리에 공개한 사진과 2025년 3월 11일 가세연 방송에서 공개된 사진은 모두 2020년 겨울의 같은 날 교제 중이던 두 사람의 사적인 모습을 담은 것"이라며 "당시 김새론씨가 입은 옷은 2019년 6월 한 브랜드에서 발표한 옷으로, 해당 사진이 김새론씨가 미성년자 시절인 2016년 촬영됐다는 가세연의 주장은 성립 자체가 불가능하다"라고 밝혔다. [서울=뉴스핌] 사진공동취재단 = 17일 서울 송파구 서울아산병원 장례식장에 배우 김새론의 빈소가 마련되어 있다. 지난 16일 김새론은 성동구 성수동 자택에서 숨진 채 발견됐다. 향년 25세. 2025.02.17 photo@newspim.com 또한 군대 시절 김수현이 김새론에게 보낸 편지에 대해서도 "가까운 지인들에게 보내는 편지 중 하나였다. 보고싶다는 표현은 군생활 중인 군인이 지인들에게 가벼운 의미로 했던 표현"이라며 "김새론씨가 2016년부터 SNS에 공개적으로 쓰던 별명은 두사람 사이에만 쓰는 애칭처럼 왜곡됐다"고 반박했다. 소속사 측은 "가세연의 보도로 인해 지금 이 시간에도 수많은 잘못된 정보와 허위 사실이 진실인 것처럼 퍼져나가고 있다. 두 사람의 지극히 개인적인 사생활이 타인에 의해 강제로 공개되고, 그로 인해 김수현씨는 물론 고인의 사생활이 수많은 루머와 억측과 함께 확산되는 것은 너무나 큰 고통"이라고 토로했다. 가세연은 고 김새론이 음주운전 사고 이후 골드메달리스트에게 7억원을 변제하라는 연락을 받았으며, 도움을 요청한 김새론을 외면했다고 주장해 파장이 일었다. 김수현 측은 "당사는 김새론씨 개인이 감당할 수 없는 남은 채무 전액을 변제했다. 음주 운전 사건 이후 김새론씨의 배우 활동과 관련된 각종 위약금, 음주 운전으로 인해 피해를 입은 상인들에 대한 손해 배상 등을 김새론씨와 함께 해결해 나갔다"라며 "당시 해당 사고로 인한 위약금 규모는 약 11억 1400만원이었다. 배상액이 결정되는 과정에서 당사는 김새론씨의 부담을 최소화하고자 배상액을 줄이기 위해 노력했다. 이후 채무를 갚기 위한 김새론씨의 여러 노력을 통해 남은 배상액을 7억으로 줄였다"고 설명했다. [서울=뉴스핌] 이지은 기자 = 고 김새론이 김수현에게 채무 문제에 대한 어려움을 토로한 후, 골드메달리스트 측에서 김새론에게 보낸 문자 [사진=골드메달리스트] 2025.03.14 alice09@newspim.com 이어 "금액을 줄이는 과정에는 음주운전 사고로 인해 심하게 파손 된 김새론씨의 차량을 수리 및 매각 진행하는 것도 포함 돼 있었다"라며 "이는 김새론씨 의뢰에 따라 운행 불가능한 상태의 사고 차량을 골드메달리스트에서 수리 및 매각 진행, 피해액 일부를 보상한 것"이라고 해명했다. 김수현 측은 김새론의 문자를 외면한 부분에 대해서도 "김새론 씨의 채무 문제는 당사와 김새론씨 간의 문제였다. 당사를 떠난 상태였던 김새론씨는 채무에 대한 법률적 지식이 충분치 못했고, 이에 채권자가 아닌 김수현씨에게 문자를 보냈다. 당시 두 사람은 헤어진지 4년이 된 시점이었고, 김수현씨는 당사에 김새론씨의 문자 내용에 대해 문의했다"고 말했다. 이들은 "김수현 씨는 당사와 김새론씨간의 상황을 전혀 알지 못했고, 이에 당사는 김수현씨에게 '상대방이 법률적 지식이 정확하지 상태에서 오해가 있어 보이니 전문가의 확인없이 이런 문제에 답변하는 건 적절하지 않아 보인다. 회사가 법률전문가와 함께 김새론씨 소속사와 연락해 오해없도록 원만히 해결하겠다'고 답했다. 그리고 첨부한 바와 같이 내용증명의 취지에 대해 설명했다"고 덧붙였다. [서울=뉴스핌] 이지은 기자 = 배우 김수현 측이 고 김새론과 성인이 된 후 교제했다고 주장한 증거 사진 [사진=골드메달리스트] 2025.03.14 alice09@newspim.com 특히 "이후 김새론씨 측은 2024년 3월 26일 법률대리인을 통해 '귀사가 지난 시간 의뢰인에게 보인 성의에 관해 감사하는 마음과 더불어 당연히 귀사가 입은 손해에 관한 책임을 지겠다는 마음에서, 내가 부담해야 할 손해액의 확정과 함께 앞으로의 변제계획에 관하여 협의를 통해 조율하고자 한다'라는 입장을 밝혀 왔다. 이로써 당사와 김새론씨 사이의 채권·채무 관계는 일단락 되었고, 당사는 김새론씨에 대한 채권 전액을 대손금으로 처리한 이후 단 한 번도 변제를 요구하지 않았다"고 반박했다. 김수현 측은 "당사는 소속 배우였던 김새론씨의 어려운 사정을 이해하고 대여금을 변제 받지 않으면서도 김새론씨에게 증여세가 부과되는 것을 막아주고자 법령에 따라 할 수 있는 한 세심하게 신경썼다. 또한 김새론씨의 위약금을 대신 내어주는 과정에서 이를 대여금 처리하며 이자를 0%로 정했고, 지연손해금 또한 0%로 정했다. 이를 오히려 변제를 압박한 것으로 왜곡해 비난하고, 1년이 지난 시점에서 고인의 극단적 선택의 원인이 된 것처럼 악의적으로 매도한 것에 대해 비통한 심정"이라고 토로했다. 끝으로 김수현 소속사는 "김수현씨가 고인이 맞이한 비극의 원흉으로 끌려들어왔다. 고인 어머니의 지인이 이모로 바뀌고, 시선을 끌 수밖에 없는 강렬한 시각적 근거가 제시된 뒤, 1년 전 회사가 정리해준 김새론씨의 채무 문제가 고인이 최근 안타깝게 세상을 떠난 직접적 원인처럼 지목됐다"라며 "그러나 유명인이라는 이유로 수많은 허위 사실과 인신 공격을 무조건 받아들일 수 없는 일"이라고 덧붙였다. alice09@newspim.com 2025-03-14 14:00

사진

국세청, 홈플 대주주 MBK 세무조사 [서울=뉴스핌] 오상용 기자 = 국세청이 홈플러스 대주주인 MBK에 대한 세무조사에 착수했다. 11일 관련 업계에 따르면 서울지방국세청 조사4국은 이날 MBK파트너스에 대한 세무조사에 들어갔다. MBK파트너스측은 "지난 2020년 이후 5년 만에 이뤄지는 정기 세무조사로 인지하고 있다"며 "최근 불거진 홈플러스 사태(기업회생신청)와는 무관한 것으로 알고 있다"고 전했다. 다만 이번 세무조사 담당 부서가 비정기(특별) 세무조사를 맡는 서울지방국세청 조사4국이라는 점에서 지난해 논란이 됐던 김병주 MBK파트너스 회장의 역외 탈세 의혹까지 다시 들여다보는 게 아닌가 하는 관측도 제기된다. MBK파트너스는 지난 2020년 세무조사 결과 1000억원 규모의 역외탈세 혐의가 드러나 400억원 가까이를 추징 당했다. 지난해에도 국회 보건복지위원회 국정감사에서 역외탈세 의혹이 재차 제기된 바 있다. MBK파트너스는 대규모 차입금에 의존해 지난 2015년 홈플러스를 인수했다. 이후 점포 등을 팔아 인수대금을 상환하고 배당을 받는 방식으로 투자 원금 회수에 주력했다. 정작 홈플러스는 자금 압박에 빠져 최근 기업회생 절차에 들면서 금융권과 업계 안팎에서 'MBK 먹튀' 논란이 거세게 일고 있다. 한편 국회 정무위원회는 이번 홈플러스 사태와 관련해 오는 18일 MBK파트너스 김병주 회장을 증인으로 불러 긴급현안질의에 나설 예정이다. [서울=뉴스핌] 양윤모 기자 = 홈플러스 영등포점 신호등에 빨간불이 들어와 있다. yym58@newspim.com osy75@newspim.com 2025-03-11 19:39