전체기사 최신뉴스 GAM
KYD 디데이
전국 대전·세종·충남

속보

더보기

"우리가 기준"…인공지능 '인증' 전쟁 이미 시작됐다

기사입력 : 2023년09월27일 11:05

최종수정 : 2023년09월27일 11:06

AI환각·낮은 신뢰로 시장 적용 어려움...표준화·인증 시장 요구 높아져
글로벌 표준 선점에 미중유럽 앞다퉈...후발주자 한국 가세 "조직 일원화"

[서울·대전=뉴스핌] 김수진 기자 = "챗GPT 출시 초기엔 결과물 내놓는 속도가 중요했다면, 지금은 '얼마나 믿을 수 있느냐'가 시장의 '게임체인저'가 됐다"

인공지능(AI) 신뢰성 중요성이 커지면서 '인증'에 대한 관심이 높아지고 있다. '공식'적으로 평가받은 AI를 사용해야 '믿을 수 있다'는 인식이 시장에 퍼지고 있다.

현재 AI 인증은 시장의 성패를 좌우할 가장 중요한 요소다. 챗GPT가 잘못된 정보를 그럴싸하게 전달하는 '환각현상'을 종종 일으키면서 '신뢰성'은 선택이 아닌 필수가 됐기 때문이다. 환각현상은 AI모델이 근거가 불분명한 허위 답변을 내놓는 현상으로, 생성형AI 기술 활용에 가장 큰 걸림돌로 손꼽힌다. 

챗GPT [사진=블룸버그] 2023.09.27

실제로 AI의 환각현상이 전문분야일 수록 발생 확률이 높아진다는 연구결과가 나오면서 불안감은 더욱 커지고 있다. 전문가들에 따르면 환각 현상은 과학연구나 금융분야 등 전문지식 분야에서 기존 5%에서 30%까지 증가하는 것으로 알려지고 있다. 심지어 시간이 갈수록 관련 오류율을 더욱 높아진다. 잘못된 추출 결과물을 바탕으로 또 다른 잘못된 결과물을 만들어내기 때문이다.

이로 인한 시장 불안도 높다. 올해 초보다 시장의 열기가 다소 식은 이유도 이 때문이라는 이야기도 들려온다. 국내 한 스타트업 연구원은 "챗GPT 등 AI를 탑재한 상품을 개발 중인데 공식적으로 검증할 만한 방안이 없어 잠시 관련 개발을 멈춘 상태"라며 "AI 접목은 반드시 해야 하는 상황인데, 혹여 발생할 수 있는 환각 등 문제 때문에 글로벌 시장에서 뒤쳐질까 걱정"이라고 말했다.

미국, 표준화 선도....미중 갈등, 신뢰성 경쟁에 표준 '이원화' 우려도

현재 전 세계 국가들과 글로벌 기업들은 '우리가 기준'이라고 앞다투고 있는 상황이다. 국제표준 인증을 확보·선도할 경우, 사실상 전 세계 AI시장을 좌우할 수 있기 때문이다.

글로벌 시장에서 가장 목소리를 크게 내는 국가는 미국이다. 미국은 지난 5월 4일 '핵심·신흥 기술(Critical & Emerging Technology)'에 대한 미 정부 국가 표준 전략 보고서를 전략 발표했다. 국제 표준을 선도하고 글로벌 시장 영향력을 강화하겠다는 모습이다.

중국 오성홍기와 미국 성조기. [사진=로이터 뉴스핌] 2023.09.27 

실제로 미국은 인도와 일본, EU와 AI표준 관련 협력을 진행 중이다. 우리나라와도 올 4월 한미 공동핵심신흥기술 구상을 발표하며 '미국발 AI표준'에 나서고 있는 모양새다.

특히 미국 중심의 세계시장을 위협하는 중국을 배제하기 위해 타 국가와의 공동협력에 중점을 준 모습이다. 앞서 2020년 6월 미국은 GPAI(인공지능 글로벌파트너십)에 합류하면서 중국을 뺀 새 글로벌 표준 구축을 시도 중이다.

이에 반해 중국은 미국형 모델을 벗어나 독자 모델을 구현하려 노력 중이다. 하지만 후발주자이다보니 신뢰성 뿐만 아니라 이미지를 제외한 데이터 등 다양한 부문에서 아직 미국을 쫓아오지 못했다는 지적이다.

하지만 지난 2017년 출범한 AI국제표준화회의에서는 미국과 중국이 협력하는 모습이다. 회원국을 참여멤버(P) 31개국과 관찰멤버(O) 14개국으로 구성하고 있다. P멤버는 AI표준제정 관련 발언권과 투표권을 행사할 수 있도록 하고 있는데 여기에는 미국과 한국, 캐나다, 중국이 참여 중이다.

현재 AI국제표준화회의는 5개의 ISO 표준을 공식발표했고 현재 12개 ISO표준을 개발 중이다.

또 현재 SC42 워킹그룹을 형성, 캐나다는 'AI 기초 용어 정리', 미국은 '빅데이터', 아일랜드는 'AI신뢰성', 일본은 'AI 사용사례', 중국은 '지식공항' 관련한 표준안을 연구 중이다.

이밖에도 지난 4월 EU 집행위원회는 AI 규제법안을 내놓고 법안 통과를 기다리고 있다. 해당 법안이 통과되면 자연스레 관련 인증도 마련될 것으로 보인다.

문제는 국제사회를 이끌고 있는 두 국가인 미국과 중국이 갈등을 빚으면서 AI 신뢰·인증 산업도 양분화될 수 있다는 점이다. 전문가들은 미국과 중국이 가장 첨예하게 대립각을 세우고 있는 부분이 AI 신뢰성이라고 보고 있다. 미국은 글로벌 유통과 개방을 강조하지만 중국은 데이터를 주권 차원에서 다루기 때문이다.

소프트웨어정책연구소 김준영 책임연구원은 연구보고서를 통해 "데이터 개방과 AI 신뢰성 부분을 양국이 보안과 안보 이슈로 연관짓는 만큼 별다른 이슈가 발생하지 않는 이상 AI 시장(기술) 양분화는 앞으로도 지속될 것으로 보인다"고 설명했다. AI국제 인증 표준화를 위해 넘어야 할 산이 적지 않다는 의미다.

[서울=뉴스핌] 윤석열 대통령이 13일 청와대 영빈관에서 열린 제20차 비상경제민생회의 겸 대한민국 초거대 AI 도약 회의에 앞서 부스를 방문해 국내 기업들이 개발한 초거대 AI 서비스를 살펴보고 있다. [사진=대통령실] 2023.09.13 photo@newspim.com

표준화에 발벗고 나선 한국...전담조직 구성 필요

AI 후발국가인 한국도 관련 시장에서 뒤쳐지지 않기 위해 안간힘을 쓰고 있다. 신뢰성을 바탕으로 인증 체계를 빠르게 구축해야 글로벌 시장을 선도할 수 있다고 정부 차원에서도 인지하고 있다. 단 '규제'가 되지 않도록 민간 자율 인증으로 추진한다는 방침이다.

지난 13일 과학기술정보통신부는 청와대에서 열린 '대한민국 초거대 AI도약' 행사에서 AI신뢰성 제고를 강조했다.

과기부는 공신력 있는 제3 기관을 통해 평가하는 '신뢰성 검인증 체계' 계획을 발표하며CCTV, 생성형 AI기반 서비스를 중심으로 '분야별 특화 자율점검표·개발안내서'를 개발한다고 밝혔다. 

이날 이종호 과기부 장관은 "거짓 답변, 편향성, 유해성 표현 등 초거대 AI한계를 극복하기 위한 기술개발을 내년부터 신규 추진하겠다"고 강조했다. 

기관들도 인증제 선점에 앞다투고 있다. 한국정보통신기술협회(TTA)는 현재 국내기관 중 AI 품질 인증을 가장 선도적으로 이끌고 있다는 평가를 받고 있다. 2019년부터 AI기반 소프트웨어 등에 대한 신뢰성 확보 연구를 시작, 지난 2021년 과기부와 함께 '신뢰할 수 있는 AI 개발 안내서'를 개발하기도 했다.

현재 TTA는 올 하반기 AI 신뢰성 인증 제도 시행을 위해 평가기준 마련 등 준비 작업을 착수한 상태다. 인증제를 빠른 시일 내로 시작한다는 계획으로, 관련 기반 마련에 박차를 가하고 있다.

카카오뱅크는 이미지 처리 분야 학회 ICCV 2023, ICASSP 2023, ICIP 2023[1]에서 무자각인증과 안면 위변조 탐지기술에 대한 연구 논문이 채택됐다고 24일 밝혔다. (사진=카카오뱅크)

식품의약품안전처도 AI와 머신-러닝 성능평가 국제표준 확립에 나서고 있다. 지난 13일 한국전자통신연구원(ETRI)와 공동으로 의료기기 선진 개발을 위한 인공지능 평가 국제표준 논의를 위한 워크숍을 열며 뜨거운 관심을 받았다.

일각에서는 성공적 인증제도 확립을 위해 일관성 확보가 필요하다는 주장도 나왔다. 현재 정부와 시장에서 우후죽순으로 인증제 설립에 나서고 있는데, 정부 내 AI 전담조직 신설을 통해 일원화가 필요하다는 주장이다.

이종용 한국전자통신연구원 책임연구원은 지난달 31일 전국경제인연합회 주관 열린 'AI 기술현황과 국제규범 동향 세미나'에서 "누가 어떻게 규제·기준을 삼을 것은 중요한데 여지껏 논의가 부족했다"고 지적하며 "영국의 경우 디지털정책 일관성 확보를 위해 전담조직을 마련해 국가차원에서 관련 전략을 짜고 국제규범까지 제시하고 있다, 이점을 우리도 고민해야 한다"고 강조했다.

또 UN이 규제 전문기구 설립 계획을 밝힌 가운데, 한국도 여기에 참여해 신뢰성에 대한 목소리를 국제사회에서 내야 한다는 주장도 힘을 얻고 있다.

시장에서도 목소리를 함께 내고 있다. 신뢰성 구축을 통한 인증제도 확보가 결국 경쟁력으로 이어지기 때문이다. 인공지능 전문기업 씽크포비엘 박지환 대표는 "AI가 고도화되면서 기계가 윤리적 판단의 주체가 된 만큼 인증 등의 규제는 반드시 필요한 상황"이라며 "AI공적 인증을 어떻게 설정하느냐는 문제는 시장 경쟁력과 안전까지 영향을 미치는 문제"라고 지적했다.

이어 "결국 한국이 얼마나 관련 산업을 주도하는지에 따라 국내 AI 산업 발전이 좌우될 것"이라며 "정부가 보다 전문적인 눈으로 AI에 대한 개념 정립과 기준, 윤리 등의 가이드라인을 정립해야 한다"고 강조했다. 

nn0416@newspim.com

[뉴스핌 베스트 기사]

사진
[이재명의 사람들]김현지 총무비서관 [서울=뉴스핌] 지혜진 기자 = 이재명 정부가 출범한 지 1주일이 지난 가운데 비서실장을 비롯해 수석비서관급 인선도 추가로 이뤄지고 있다. 현재까지 드러난 이재명 대통령 인선의 핵심은 '실용'이다. 인수위원회 없이 출발해야 하는 정부인 만큼 기존에 손발을 맞춰온 인사들을 적극적으로 등용하는 모습이다. 특히 이 대통령이 경기 성남시장, 경기도지사 때부터 호흡을 맞춰온 성남·경기라인 인물들은 정부 요직에 내정됐다. 대표적인 인물이 총무비서관으로 내정된 김현지 전 보좌관이다. 이 대통령의 최측근 중 한 명으로 꼽히는 김 전 보좌관은 이 대통령이 성남시장이던 때 시민운동을 하면서 인연이 닿았다. 대학 졸업 직후인 1998년 당시 변호사이던 이 대통령이 설립을 주도한 성남시민모임에 합류했으며 이곳에서 집행위원장, 사무국장 등을 거쳤다. 이 대통령이 정치를 결심하게 된 계기가 됐던 성남시립병원 설립 운동도 함께했다. 성남시립병원추진위원회에서 사무국장을 역임한 것. 이후 이 대통령이 성남시장에 당선된 후에도 시민운동에 방점을 찍었다. 그는 2011년 성남 지역에서 활동하는 환경·도시 전문가 등이 주축이 된 민관 협력 기구 '성남의제21'에서 사무국장으로 활동했다. 그러다 이 대통령이 2018년 경기도지사에 당선된 후에야 도청 비서관직을 맡으며 본격적으로 이 대통령을 보좌하기 시작했다. 김 전 보좌관은 '그림자 보좌'로 유명하다. 본인이 전면에 나서지 않는 성향이다. 시민운동가로 활동할 때는 지역 언론 인터뷰에도 응하는 등 적극적인 모습을 보였으나 이 대통령이 국회에 입성한 이후에는 언론 노출을 지양해왔다. 또한 김 전 보좌관은 이 대통령에게 직언을 아끼지 않는 것으로 알려졌다. 당 관계자는 "김 전 보좌관은 리스크 관리를 중요시하는 사람이다. 문제가 될 만한 것들은 사전에 차단하려고 하고 조심성이 강하다"고 했다. 이 대통령의 최측근으로 꼽히던 정진상 전 당대표실 정무조정실장과 김용 전 민주연구원 부원장이 각각 대장동 사건과 불법 정치자금 수수 혐의 등으로 사법리스크에 휘말리면서 당직을 내려놓은 영향도 있다. 김 전 보좌관이 정 전 실장과 김 전 부원장의 자리를 대체했다는 이야기도 있었다. 김 전 보좌관이 맡게 될 대통령실 총무비서관은 대통령실 예산을 총괄하는 직책으로 공무원 직제상 1급에 해당한다. 특히 대통령실 2급 이하 행정관 등 실무진 인사에 관여할 수 있다. 이 대통령은 수석급 인선에는 강훈식 비서실장, 우상호 정무수석, 강유정 대변인 등 비교적 친명(친이재명) 색채가 옅은 통합형 인재를 등용하는 한편 실무라인에는 김 전 보좌관처럼 오랜 기간 손발을 맞춰온 '복심'들을 배치하고 있다. 대통령실 1부속실장에 내정된 김남준 전 당대표 정무부실장, 의전비서관의 권혁기 당대표 정무기획실장, 인사비서관의 김용채 전 보좌관 등이 대표적이다. 원외에서 이 후보를 후방지원한 더민주전국혁신회의 핵심인물들도 이재명 정부에서 주요 역할을 할 것으로 보인다. 윤용조 혁신회의 집행위원장은 대통령 국가안보실 비서관으로 배치될 가능성이 크다. 강위원 혁신회의 상임고문은 전남 경제부지사에 내정된 것으로 확인됐다. 내년 지방선거를 앞두고 새 정부와 더 긴밀히 호흡을 맞출 수 있는 점을 고려한 것으로 보인다. heyjin@newspim.com 2025-06-11 17:10
사진
李대통령 재판 중단 '헌법 조항 충돌'? [서울=뉴스핌] 이재창 정치전문기자 = 이재명 대통령의 재판 중단을 놓고 논란이 일고 있다. 서울고등법원이 이 대통령의 공직선거법 파기환송심 재판을 연기하면서 현직 대통령의 불소추 특권을 규정한 '헌법 제84조'를 근거로 든 데 대해 야당이 '판결로 대통령이 자격을 상실하면 60일 이내에 후임자를 선거한다'는 헌법 제68조로 재반박하고 나선 것이다. [서울=뉴스핌] 국회사진기자단 = 이재명 대통령이 4일 오전 국회 사랑재에서 우원식 국회의장 등 여야 대표들과 함께 오찬을 하기 전 환담하고 있다. 2025.06.04 photo@newspim.com 헌법의 애매한 조항에 대한 해석의 차이를 넘어 헌법 조항의 충돌 문제로 번진 것이다. 논란의 불을 붙인 것은 서울고법의 결정이다. 법원은 "재판부에서 기일 변경 및 추후 지정(추정)을 하기로 했다"며 "헌법 제84조에 따른 조치"라고 밝혔다. 추정은 사실상 임기 내 재판을 하지 않겠다는 의미로 받아들여졌다. 이에 따라 위증 교사와 대장동, 법인카드 유용, 대북송금 사건 등 대통령이 받고 있는 다른 네 개의 재판도 연기 가능성이 높다. 이에 야당이 반발했다. 한동훈 전 국민의힘 대표는 9일 '헌법 제68조'를 들어 서울고법의 결정을 반박했다. 헌법 제68조 2항은 "대통령이 궐위된 때 또는 대통령 당선자가 사망하거나 판결 기타의 사유로 그 자격을 상실한 때에는 60일 이내에 후임자를 선거한다"고 규정한다.   검사 출신인 한 전 대표는 자신의 페이스북에 헌법 68조를 예시하며 "헌법상 이재명 대통령 재판은 중단되지 않는다"며 "헌법적으로도 그렇고, 다수 국민 상식 면에서도 그렇다"고 '헌법 제68조'를 거론하며 조목조목 반박했다. 한 전 대표는 "대한민국 헌법 제68조는 '대통령도 판결로 자격을 상실할 수 있다'고 명시하고 있다"며 "민주당과 서울고법 형사7부 주장대로 대통령이 돼서 진행 중인 재판이 중단되는 것이라면 헌법 68조의 '판결로 대통령 자격을 상실한 때'라는 문구를 설명하기 어렵다"고 했다. 재판이 중단된다면 재판이 열리지 않는 만큼 대통령이 판결로 자격을 상실할 일은 없다. 그렇다면 굳이 헌법에 이 조항을 넣을 이유가 없다. 결국 재판이 열린다는 전제로 헌법에 이 조항을 넣은 걸로 해석할 수밖에 없다는 논지다. 관건은 헌법 제84조의 해석이다. '소추(訴追)'의 의미를 검사의 공소 제기(기소) 외에 기존의 재판까지 적용해야 하는지를 두고 법조계에서 논란이 이어지고 있다. 여당은 모든 재판이 중단되는 것으로 해석하고, 야당은 진행 중인 재판은 해당하지 않는다고 맞선다.  이런 주장까지 포함하면 헌법 84조와 68조가 충돌하는 것으로 해석될 여지가 있다. 물론 판결은 법원의 판결 외에 헌법재판소의 판결도 포함할 수 있다. 대통령의 중대 행위에 대한 탄핵이 이뤄질 경우 헌재의 결정 여하에 따라 자격을 상실할 수 있다. 헌재의 판결을 의미한다면 충돌로 볼 수 없다. 민주당은 논란을 원천 차단하기 위해 재판 중단법(형사소송법 개정안) 처리를 추진하고 있다. 이 대통령 측근인 정성호 민주당 의원은 "판사에 따라 다른 입장이 나올 수 있는 만큼 형사소송법을 처리해 더 이상의 논란을 없애는 게 바람직하다"고 말했다.   민주당은 이 법안을 12일 처리할 예정이었으나 일단 13일 선출되는 차기 원내대표에게 넘기기로 했다. 서울고법이 재판을 중단하고 나머지 재판도 중단 가능성이 높은 상황에서 굳이 방탄 논란을 자초할 이유가 없다는 판단으로 보인다. leejc@newspim.com 2025-06-10 13:43
안다쇼핑
Top으로 이동