과기부, 인공지능 인증제 도입하고 개발 가이드북 보급한다

기사입력 : 2021년05월13일 15:30

최종수정 : 2021년05월13일 15:30

2025년 책임있는 AI 활용 세계 5위 목표
윤리·신뢰성 높여 AI 산업 활성화 기대

[세종=뉴스핌] 이경태 기자 = 인공지능(AI) 제품 등에 대한 민간 인증제가 도입된다. 학습용 데이터의 신뢰성을 높이기 위한 표준 기준도 제시된다.

과학기술정보통신부는 13일 대통령 직속 4차산업혁명위원회 제22차 전체회의에서 이같은 내용이 포함된 '사람이 중심이 되는 인공지능을 위한 신뢰할 수 있는 인공지능 실현전략'을 발표했다.

큰 틀에서 정부는 오는 2025년까지 책임있는 인공지능 활용 부문에서 세계 5위, 신뢰있는 사회 세계 10위, 안전한 사이버국가 세계 3위 수준을 목표로 두고 있다.

조경식 과학기술정보통신부 제2차관 [사진=과학기술정보통신부] 2021.05.06 photo@newspim.com

◆ 신뢰 가능한 인공지능을 구현할 수 있는 환경 조성

민간에서 인공지능 제품･서비스를 구현하는 단계(개발→ 검증→ 인증)에 따라 기업, 개발자, 제3자 등이 신뢰성 구현을 위해 참조할 수 있는 신뢰 확보 기준과 방법론을 제시하고 지원한다.

개발단계에서는 국내･외 신뢰성 관련 법･제도･윤리･기술적 요구사항을 한 번에 확인할 수 있는 '개발 가이드북'을 제작･보급한다. 검증단계에서는 개발 가이드북을 준수한 신뢰성 확보 여부와 그 수준을 확인하고 평가할 수 있는 검증절차･항목･방법 등의 검증체계를 마련한다. 인증단계에서는 기술·윤리적 요구사항을 충족해 검증체계를 통과한 제품·서비스에 대해 민간 자율 인증과 공시를 추진한다.

기술･재정적 상황이 열악한 스타트업 등도 체계적으로 신뢰성을 확보해 나갈 수 있도록 인공지능 구현을 위한 '데이터 확보→ 알고리즘 학습→ 검증'을 통합 지원하는 플랫폼을 운영한다. 학습용 데이터와 컴퓨팅 자원을 지원 중인 인공지능 허브(AI Hub) 플랫폼에서 검증체계에 따른 신뢰 속성별 수준 분석, 실(實)환경 테스트 등의 기능을 추가 개발·연계해 일괄적으로 지원한다.

이미 구현된 시스템에 인공지능이 판단기준 등을 설명할 수 있는 기능을 추가할 수 있고, 인공지능이 스스로 법･제도･윤리적 편향성을 진단하고 효율적으로 제거할 수 있도록 인공지능의 설명가능성, 공정성, 견고성 제고를 위한 원천기술 개발도 추진한다.

◆ 안전한 인공지능 활용을 위한 기반 마련

민･관이 인공지능 학습용 데이터 제작공정에서 공통적으로 준수해야할 신뢰 확보 검증지표 등의 표준 기준을 민간과 함께 마련, 통일성 있게 구축 될 수 있도록 확산한다. 디지털 뉴딜로 추진되는 데이터 댐 사업에서는 구축 전 과정에서 저작권, 개인정보보호와 같은 법·제도 준수 여부 등의 신뢰성 확보 고려사항을 선제적으로 적용해 품질을 향상시킨다.

국민의 안전이나 기본권에 잠재적 위험을 미칠 수 있는 고위험 인공지능의 범주를 설정하고, 서비스 제공 전에 해당 인공지능의 활용 여부를 이용자에게 고지하도록 할 예정이다. 고지 이후, 해당 인공지능 기반 서비스에 대한 이용 거부, 인공지능의 판단 근거에 대한 결과 설명 및 이에 대한 이의제기 등의 제도화와 관련해 글로벌 입법･제도화 동향, 산업적 파급력, 사회적 합의･수용성, 기술적 실현 가능성 등을 고려해 종합적으로 검토할 계획이다.

과학기술정보통신부는 12일 '인공지능 학습용 데이터 사업'의 2차 공모를 시작했다. [자료=게티이미지뱅크] 2021.05.11 biggerthanseoul@newspim.com

인공지능이 국민생활 전반에 미치는 영향을 종합･체계적으로 분석하고 대응하기 위해 지능정보화기본법에 규정된 사회적 영향평가도 도입한다. 신뢰성 요소(안전성, 투명성 등)를 토대로 인공지능의 영향력을 종합 분석해 향후 인공지능 관련 정책이나 기술･관리적 조치방안 수립 시 활용할 예정이다.

인공지능에 대한 신뢰 확보와 이용자의 생명·신체보호와 관련된 과제에 대해 ▲업계 자율적 알고리즘 관리･감독환경 조성 ▲플랫폼 알고리즘 공정성･투명성 확보 ▲영업비밀 보장을 위한 알고리즘 공개기준 마련 ▲고위험 기술기준 마련 등 제도를 개선한다.

◆ 사회 전반의 건전한 인공지능 의식 확산

인공지능이 사회에 미치는 영향, 인간-인공지능 간 상호작용 등 사회·인문학적 관점과 윤리 기준의 사회 실천을 인식할 수 있는 내용을 담은 인공지능 윤리교육 총론을 마련한다. 이를 토대로 연구·개발자, 일반시민 등 맞춤형 윤리 교육을 개발·실시한다.

인공지능 윤리기준에 대한 구체적인 행위지침으로, 연구･개발자, 이용자 등이 업무, 일상생활 속에서 윤리 준수 여부를 자율점검을 할 수 있는 체크리스트도 개발해 보급한다. 인공지능 윤리기준을 기본원칙으로 해 타 분야의 자율점검표와도 체계성과 정합성을 유지해 현장의 실천 가능성을 높인다.

학계·기업·시민단체·공공 등 다양한 사회 구성원이 참여해 인공지능 윤리에 대해 깊이 있게 토의하고 의견 수렴 및 발전방향을 논의하는 공론의 장도 마련해 운영한다.

조경식 과기부 2차관은 "챗봇 이루다 사건은 우리 사회가 인공지능의 신뢰성에 대해 어떻게 대처해야 하는 지 많은 숙제를 안기는 계기가 됐다"며 "정부는 AI 서비스 개발 과정에서 혼란을 겪거나 국민이 피해보지 않도록 AI의 신뢰 확보 기준을 명확히 할 뿐더러 기술적·재정적으로 여력이 부족한 중소기업이 신뢰성 기준을 준수할 수 있도록 지원할 것"이라고 강조했다.

biggerthanseoul@newspim.com

사진

김계환 오늘 영장심사...위증 혐의 [서울=뉴스핌] 고다연 기자 = '채해병 사건' 수사외압 의혹의 핵심 인물로 꼽히는 김계환 전 해병대 사령관이 오는 22일 중앙지법에서 구속 심사를 받는다. 순직해병 사망사건 관련 의혹을 수사하는 이명현 특별검사팀이 18일 모해위증 등 혐의로 김계환 전 해병대사령관에 대한 구속영장을 청구했다. 순직해병 사망사건 관련 의혹을 수사하는 이명현 특별검사팀이 18일 모해위증 등 혐의로 김계환 전 해병대사령관에 대한 구속영장을 청구했다. 남세진 영장 전담 부장판사가 22일 오전 10시 30분 김 전 사령관의 영장실질심사(구속 전 피의자 심문)을 진행한다. [사진=뉴스핌 DB] 남세진 영장 전담 부장판사가 22일 오전 10시 30분 김 전 사령관의 영장실질심사(구속 전 피의자 심문)을 진행한다. 이번 구속영장 청구는 지난 2일 순직해병특검 출범 이후 첫 신병확보 시도다. 김 전 사령관은 2023년 7∼8월 채상병 순직 사건 당시 초동 조사한 박정훈 전 해병대 수사단장(대령)에게 윗선의 외압이 가해지는 과정에 관여했다는 의혹을 받고 있다. 김 전 사령관은 지난해 2월 군사법원에서 열린 박 대령의 항명 혐의 재판에 증인으로 출석해 이른바 'VIP 격노설'을 박 대령에게 전달한 적 없다고 주장하며, "나 아니면 안 된다는 착각과 영웅심리로 해병대의 역사와 전통을 흔들어선 안 된다"고 박 대령을 비판했다. 앞서 특검팀은 이날 오후 언론 공지를 통해 구속영장 청구 사실을 알리며 "김계환은 채상병 사망 사건 당시 해병대 사령관으로, 해병대 수사단장 박정훈 대령에게 수사기록 이첩 관련 지시를 한 상관"이라며 "특검은 피의자가 죄를 범하였다고 의심할만한 상당한 이유가 있고, 범죄가 중대하며, 증거인멸의 가능성이 크므로 구속수사가 필요하다고 판단하고 있다"고 밝혔다. gdy10@newspim.com 2025-07-18 20:56

사진

'갑질 의혹' 강선우 살린 까닭 [서울=뉴스핌] 이재창 정치전문기자 = 이재명 대통령이 20일 이진숙 교육부 장관 후보자에 대한 지명을 철회하고 강선우 여성가족부 장관 후보자는 살리기로 했다. 장관 후보자들에 대한 도덕성 논란이 심각한 상황에서 낙마자 없이 넘어갈 수는 없다는 판단에 따라 상징적인 낙마자로 이 후보자를 선택한 것이다. 야당이 강력히 요구한 두 명 중 한 명을 낙마시킴으로써 야당의 체면을 세워주는 모양새를 취하는 동시에 독주한다는 부정적 이미지를 피하려 한 것이다. 이 대통령 입장에서는 이 후보자 낙마가 측근인 강 후보자에 비해 부담이 상대적으로 덜했다. 강 후보자가 낙마할 경우 현역 의원 낙마 1호라는 불명예를 안게 돼 의원직을 수행하기도 여의치 않은 상황이었다. 이 후보자 낙마로 강 후보자를 구제한 것이다. [서울=뉴스핌] 이길동 기자 =강선우 여성가족부 장관 후보자가 26일 서울 종로구 수송동에 마련된 마련된 인사청문회 준비 사무실로 출근하며 취재진의 질문에 답하고 있다.2025.06.26 gdlee@newspim.com 이 대통령과 여권 핵심은 지난주 이미 한 명 낙마 쪽으로 가닥을 잡았다. 우상호 정무수석이 "일부 후보자의 경우 청문회 이후에도 논란이 계속돼 여론이 악화하고 있다"고 말했다. 낙마를 사실상 기정사실화한 것이다. 특히 주말 여야 원내대표를 만나 의견을 구한 것은 최소한 한 명의 낙마를 전제로 한 것이었다. 야당 대표까지 만나고 모든 후보자를 밀어붙일 경우 독주한다는 비판을 피하기 어렵기 때문이다. 더불어민주당이 주장한 낙마자 제로는 이 대통령의 결단을 부각하기 위한 전술이었다. '낙마자는 없다'는 여당의 강경론에도 이 대통령이 지명 철회를 요구하는 야당과 민심을 수용하는 모양을 취할 수 있도록 한 것이다. 자진 사퇴가 아니라 지명 철회라는 강수는 야당의 요구를 수용하는 모양을 취한 것이다. [서울=뉴스핌] 정일구 기자 = 이진숙 부총리 겸 교육부 장관 후보자가 16일 오전 서울 여의도 국회 교육위원회에서 열린 인사청문회에서 모두발언을 하고 있다. 2025.07.16 mironj19@newspim.com 관심은 낙마자가 한 명이냐, 아니면 두 명이냐였다. 두 후보자 모두 낙마 1순위였다. 한 명을 살리기 어려울 정도로 막상막하였다. 논문 표절과 자녀 불법 조기 유학 의혹이 불거진 데다 전문성도 결여돼 있다는 지적을 받은 이 후보자의 낙마는 사실상 결정된 상태였다. 여기에 강 후보자까지 포함시킬지 여부가 초미의 관심사였다. 파상 공세를 취하는 야당이 문제가 아니었다. 두 후보자에 대해 진보색이 강한 시민 단체마저 낙마를 요구했다. 여론을 중시하는 이 대통령 입장에서는 곤혹스러운 상황이 아닐 수 없었다. 자칫 지지 세력이 등을 돌릴 수 있어서다. 이런 상황에서 이 후보자 낙마와 강 후보자 구제는 여당 기류에서 그대로 나타났다. 대통령실 주변에서 "이 후보자는 외부에서 추천했다"는 얘기가 흘러나온 것은 낙마자가 나올 경우 1순위는 이 후보자가 될 수 있음을 강하게 시사한 것이다. 낙마하더라도 부담이 덜할 수 있다는 의미로 받아들여진 것이다. 당 분위기는 더 노골적이었다. 강 후보자에 대해서는 입단속이 이뤄진 것으로 알려졌으나 이 후보자에 대해서는 특별한 지침이 없었다고 한다. 이를 반영하듯 강 후보자에 대해서는 지난주 중반까지 여론이 싸늘했지만 그 이후 당 주변에서는 더 이상 얘기가 나오지 않았다. 이 후보자에 대해서는 달랐다. 김상욱 의원에 이어 강득구 의원이 공개적으로 이 후보자를 비판하며 거취를 거론했다. 강 의원은 "연구 윤리 위반, 반민주적 행정 이력, 전문성 부족 등은 결코 가볍게 넘길 수 없는 중대 결격 사유"라고 말했다. 이 후보자 낙마로 분위기를 몰아가는 듯했다. 이 후보자는 논문 표절 문제가 컸지만 이재명 정부가 전면에 내세운 유능함도 보여주지 못한 게 결정적이었다. 여권이 갑질 논란이 심했던 강 후보자를 감싼 논리가 유능함이었다. 청문회 과정에서 유보 통합 등 교육 정책과 관련된 기본적인 사항조차 숙지하지 못해 전문성에 심각한 의구심이 제기됐다. 여당 의원들조차 "어떻게 그런 것도 대답을 하지 못하느냐"는 비판이 나올 정도였다. 우상호 대통령실 정무수석은 이날 오후 용산 대통령실에서 브리핑을 통해 인사청문회를 거쳤지만 임명이 안 된 11명의 장관 후보자 중 지명 철회는 이 후보자 한 명이라는 점을 분명히 해 강 후보자는 임명 절차를 밟을 것임을 시사했다. 강 후보자의 인사청문경과보고서가 채택되지 않은 상태에서 임명을 강행하려면 절차상 국회에 보고서 재송부를 요청해야 하는 만큼 이 대통령은 이른 시일 내에 관련 조치에 나설 것으로 보인다. 이 대통령이 강 후보자를 임명한다고 해도 부담은 남는다. 강 후보자의 사퇴를 요구한 상당수 민주당 보좌진들과 정서적으로 등을 지게 될 수밖에 없다. 강 후보자 사퇴를 요구한 시민단체의 입장도 부담이다. 야당은 여론을 돌리기 위한 파상 공세에 나서고 있다. 강 후보자도 갑질 장관이라는 낙인이 찍힌 상태에서 업무를 제대로 수행할 수 있을지도 의문이다. 향후 여론 추이에 관심이 쏠리는 이유다. leejc@newspim.com 2025-07-21 06:45