전체기사 최신뉴스 GAM
KYD 디데이

과기부, 인공지능 인증제 도입하고 개발 가이드북 보급한다

기사입력 : 2021년05월13일 15:30

최종수정 : 2021년05월13일 15:30

2025년 책임있는 AI 활용 세계 5위 목표
윤리·신뢰성 높여 AI 산업 활성화 기대

[세종=뉴스핌] 이경태 기자 = 인공지능(AI) 제품 등에 대한 민간 인증제가 도입된다. 학습용 데이터의 신뢰성을 높이기 위한 표준 기준도 제시된다. 

과학기술정보통신부는 13일 대통령 직속 4차산업혁명위원회 제22차 전체회의에서 이같은 내용이 포함된 '사람이 중심이 되는 인공지능을 위한 신뢰할 수 있는 인공지능 실현전략'을 발표했다.

큰 틀에서 정부는 오는 2025년까지 책임있는 인공지능 활용 부문에서 세계 5위, 신뢰있는 사회 세계 10위, 안전한 사이버국가 세계 3위 수준을 목표로 두고 있다.

조경식 과학기술정보통신부 제2차관 [사진=과학기술정보통신부] 2021.05.06 photo@newspim.com

신뢰 가능한 인공지능을 구현할 수 있는 환경 조성

민간에서 인공지능 제품・서비스를 구현하는 단계(개발→ 검증→ 인증)에 따라 기업, 개발자, 제3자 등이 신뢰성 구현을 위해 참조할 수 있는 신뢰 확보 기준과 방법론을 제시하고 지원한다.

개발단계에서는 국내・외 신뢰성 관련 법・제도・윤리・기술적 요구사항을 한 번에 확인할 수 있는 '개발 가이드북'을 제작・보급한다. 검증단계에서는 개발 가이드북을 준수한 신뢰성 확보 여부와 그 수준을 확인하고 평가할 수 있는 검증절차・항목・방법 등의 검증체계를 마련한다. 인증단계에서는 기술·윤리적 요구사항을 충족해 검증체계를 통과한 제품·서비스에 대해 민간 자율 인증과 공시를 추진한다.

기술・재정적 상황이 열악한 스타트업 등도 체계적으로 신뢰성을 확보해 나갈 수 있도록 인공지능 구현을 위한 '데이터 확보→ 알고리즘 학습→ 검증'을 통합 지원하는 플랫폼을 운영한다. 학습용 데이터와 컴퓨팅 자원을 지원 중인 인공지능 허브(AI Hub) 플랫폼에서 검증체계에 따른 신뢰 속성별 수준 분석, 실(實)환경 테스트 등의 기능을 추가 개발·연계해 일괄적으로 지원한다.

이미 구현된 시스템에 인공지능이 판단기준 등을 설명할 수 있는 기능을 추가할 수 있고, 인공지능이 스스로 법・제도・윤리적 편향성을 진단하고 효율적으로 제거할 수 있도록 인공지능의 설명가능성, 공정성, 견고성 제고를 위한 원천기술 개발도 추진한다.

안전한 인공지능 활용을 위한 기반 마련

민・관이 인공지능 학습용 데이터 제작공정에서 공통적으로 준수해야할 신뢰 확보 검증지표 등의 표준 기준을 민간과 함께 마련, 통일성 있게 구축 될 수 있도록 확산한다. 디지털 뉴딜로 추진되는 데이터 댐 사업에서는 구축 전 과정에서 저작권, 개인정보보호와 같은 법·제도 준수 여부 등의 신뢰성 확보 고려사항을 선제적으로 적용해 품질을 향상시킨다.

국민의 안전이나 기본권에 잠재적 위험을 미칠 수 있는 고위험 인공지능의 범주를 설정하고, 서비스 제공 전에 해당 인공지능의 활용 여부를 이용자에게 고지하도록 할 예정이다. 고지 이후, 해당 인공지능 기반 서비스에 대한 이용 거부, 인공지능의 판단 근거에 대한 결과 설명 및 이에 대한 이의제기 등의 제도화와 관련해 글로벌 입법・제도화 동향, 산업적 파급력, 사회적 합의・수용성, 기술적 실현 가능성 등을 고려해 종합적으로 검토할 계획이다.

과학기술정보통신부는 12일 '인공지능 학습용 데이터 사업'의 2차 공모를 시작했다. [자료=게티이미지뱅크] 2021.05.11 biggerthanseoul@newspim.com

인공지능이 국민생활 전반에 미치는 영향을 종합・체계적으로 분석하고 대응하기 위해 지능정보화기본법에 규정된 사회적 영향평가도 도입한다. 신뢰성 요소(안전성, 투명성 등)를 토대로 인공지능의 영향력을 종합 분석해 향후 인공지능 관련 정책이나 기술・관리적 조치방안 수립 시 활용할 예정이다.

인공지능에 대한 신뢰 확보와 이용자의 생명·신체보호와 관련된 과제에 대해 ▲업계 자율적 알고리즘 관리・감독환경 조성 ▲플랫폼 알고리즘 공정성・투명성 확보 ▲영업비밀 보장을 위한 알고리즘 공개기준 마련 ▲고위험 기술기준 마련 등 제도를 개선한다.

사회 전반의 건전한 인공지능 의식 확산

인공지능이 사회에 미치는 영향, 인간-인공지능 간 상호작용 등 사회·인문학적 관점과 윤리 기준의 사회 실천을 인식할 수 있는 내용을 담은 인공지능 윤리교육 총론을 마련한다. 이를 토대로 연구·개발자, 일반시민 등 맞춤형 윤리 교육을 개발·실시한다.

인공지능 윤리기준에 대한 구체적인 행위지침으로, 연구・개발자, 이용자 등이 업무, 일상생활 속에서 윤리 준수 여부를 자율점검을 할 수 있는 체크리스트도 개발해 보급한다. 인공지능 윤리기준을 기본원칙으로 해 타 분야의 자율점검표와도 체계성과 정합성을 유지해 현장의 실천 가능성을 높인다.

학계·기업·시민단체·공공 등 다양한 사회 구성원이 참여해 인공지능 윤리에 대해 깊이 있게 토의하고 의견 수렴 및 발전방향을 논의하는 공론의 장도 마련해 운영한다.

조경식 과기부 2차관은 "챗봇 이루다 사건은 우리 사회가 인공지능의 신뢰성에 대해 어떻게 대처해야 하는 지 많은 숙제를 안기는 계기가 됐다"며 "정부는 AI 서비스 개발 과정에서 혼란을 겪거나 국민이 피해보지 않도록 AI의 신뢰 확보 기준을 명확히 할 뿐더러 기술적·재정적으로 여력이 부족한 중소기업이 신뢰성 기준을 준수할 수 있도록 지원할 것"이라고 강조했다.

biggerthanseoul@newspim.com

[뉴스핌 베스트 기사]

사진
이화영, 대법서 징역 7년8개월 확정 [서울=뉴스핌] 홍석희 기자 = 쌍방울 그룹에서 수억원대 뇌물을 받고, 800만 달러를 북한에 송금한 혐의로 기소된 이화영 전 경기도 평화부지사가 징역 7년 8개월을 확정 받았다. 대법원 2부(주심 박영재 대법관)는 5일 오전 특정범죄가중처벌등에관한법률위반(뇌물) 등 혐의로 재판에 넘겨진 이 전 부지사에게 징역 7년 8개월을 선고한 원심을 확정했다. 쌍방울 그룹에서 수억원대 뇌물을 받고, 800만 달러를 북한에 송금한 혐의로 기소된 이화영 전 경기도 평화부지사가 징역 7년 8개월을 확정 받았다. 사진은 이 전 지사가 지난해 10월 2일 오전 서울 여의도 국회 법제사법위원회에서 열린 박상용 수원지검 부부장검사에 대한 탄핵소추 사건 조사 관련 청문회에서 정청래 법사위원장 질의에 답변하는 모습. [사진=뉴스핌 DB] 이 전 부지사는 이재명 대통령이 경기지사이던 2019년, 쌍방울로 하여금 도지사 방북 비용 300만 달러와 북한 스마트팜 사업 비용 500만 달러 등 총 800만 달러를 북한 측에 보내도록 한 혐의로 기소됐다. 경기도 평화부지사, 경기도 산하기관인 킨텍스 대표로 재직 중 쌍방울로부터 법인카드와 차량 등 3억3400여만 원의 정치자금을 제공받은 혐의도 받았다. 검찰은 이중 2억5900여만 원에 대해 뇌물 혐의를 적용했다. 1심은 이 전 부지사의 혐의 대부분을 유죄로 판단해 정치자금법 위반 징역 1년 6개월, 특가법상뇌물 및 외국환거래법 위반 등 징역 8년을 합해 총 징역 9년 6개월을 선고했다. 1심 재판부는 쌍방울이 경기도 스마트팜 사업비(500만 달러)와 당시 경기지사였던 이 대통령의 방북비용(300만 달러)을 대납하려 했다는 검찰 측 판단을 모두 받아들였다. 다만 검찰이 공소사실에 적시한 총 800만 달러 중 394만 달러만 해외로 밀반출된 불법 자금으로 인정했다. 2심은 1심 판결을 파기하고, 징역 7년 8개월 및 벌금 2억5000만원, 추징 3억2595만 원으로 감형했다. 구체적으로 정치자금법 위반 혐의에 대해서는 징역 8개월을, 특가법상뇌물 및 외국환거래법 위반 등 혐의에 대해서는 징역 7년을 각각 주문했다. 1심 형량과 비교해 1년 10개월이 감형됐다. 2신 재판부는 1심과 마찬가지로 검찰이 기소한 대북송금 800만 달러 가운데 394만 달러만 북한 측에 밀반출됐다며 유죄로 판단했다. 특히 이 중 200만 달러는 김 전 회장이 이재명 당시 경기지사의 방북비용으로 대납한 것이라고 봤다. 다만 "뇌물죄, 정치자금법 위반죄 범행 후 공무원 또는 정치인으로서 부정한 행위까지 나아가지는 않은 점, 스마트팜은 인도적 지원 사업이었고 남북간 평화조성을 위한 남북교류협력사업의 추진이라는 정책적 목적도 있는 점, 김성태가 쌍방울그룹의 대북사업 추진 등 이익을 도모한 사정도 있고 피고인이 김성태에게 비용 대납을 강요한 사정은 없는 점 등을 유리한 양형으로 고려했다"고 감형 이유를 설명했다. 검찰과 이 전 부지사 측 모두 판결에 불복해 상고했으나 대법원은 양 측의 주장을 모두 받아들이지 않았다. 대법원은 "원심의 유죄 부분 판단에 필요한 심리를 다하지 않은 채 논리와 경험의 법칙을 위반해 자유심증주의 한계를 벗어나거나 검사의 사전면담 등이 이루어진 증인의 법정진술의 신빙성 판단, 유죄의 인정에 필요한 증명의 정도, 뇌물수수죄에서 직무관련성, 대가성, 뇌물귀속 주체와 고의, 정치자금 부정수수죄에서 정치자금과 고의 등에 관한 법리를 오해하는 등으로 판결에 영향을 미친 잘못이 없다"고 판시했다. hong90@newspim.com 2025-06-05 10:45
사진
외교부 장관 김현종·조현 거론 [서울=뉴스핌] 지혜진 기자= 인수위원회 없이 출범하는 새 정부는 민생 회복과 함께 대미 관세 협상 등 외교·안보 문제도 시급하다. 미국 법원에서 도널드 트럼프 대통령이 주요국을 대상으로 부과한 상호관세 효력을 정지시켰지만 여전히 통상 환경의 불확실성이 가신 것은 아니다. 지난 4일 당선된 이재명 대통령은 "국익 중심의 실용 외교" 강조해왔다. 민주당 공약집을 보면 통상환경의 변화와 경제안보 중요성에 대응하기 위해 주요 20개국(G20)·주요 7개국(G7) 등의 적극 참여를 통해 글로벌 현안 적극 대응하고 2025 경주 APEC 성공적 개최를 위한 외교역량을 강화할 것을 약속했다. 신남방·신북방 정책을 계승 발전해 글로벌 사우스와 권역별 협력을 심화하고 핵심소재·연료광물의 공급망(GVC) 안정화를 위한 통상협력 강화도 약속했다. (왼쪽부터) 김현종 더불어민주당 선대위 외교안보특보, 위성락 민주당 의원, 조현 선대위 국익중심실용외교위 공동위원장, 안규백 의원. [사진=뉴스핌DB] 북핵 대응으로는 한국형 탄도미사일 성능과 한국형미사일방어체계(KAMD)를 고도화를 내세웠다. 핵무장이나 핵잠재력 확보에 대해서는 언급하지 않았다. '북핵 대응의 기본 원칙은 한·미 확장억제 강화'라는 기존의 기조를 이어갈 것으로 예상된다. 국방 분야에서는 국방 문민화를 비롯해 군 정보기관 개혁, 육·해·공군 참모총장 인사청문회 도입 등을 내세웠다. 이 대통령은 취임 첫날 국가안보실장에 위성락 민주당 의원을 임명했다. 주러시아 대사를 지낸 외교관 출신인 위 의원은 '이재명 후보 외교안보보좌관'으로 임명돼 활동했다. 이번 대선에서는 민주당 선대위 산하 '동북아평화협력위원회' 좌장을 맡았다. 외교부 장관 후보군으로는 조현 전 외교부 1차관과 김현종 전 청와대 국가안보실 2차장이 언급된다. 조 전 차관은 선대위에서 국익중심실용외교위원회 상임공동위원장을 맡았다. 위 의원과 외무고시 13기 동기로 유엔대사, 외교부 다자외교조정관, 외교부 국제기구국장 등을 역임했다. 김 전 차장은 대선 기간에도 '이재명 후보 외교안보보좌관' 자격으로 백악관 고위 당국자들과 만나 한미동맹과 한미일 3국 협력을 강화해야 한다는 이 후보의 입장을 전달하기도 했다. 국방부 장관 자리에는 군 출신이 아닌 5선의 안규백 민주당 의원이 유력하다. 이 대통령은 후보 때부터 군에 대한 '문민 통제'를 강조해 왔다. heyjin@newspim.com 2025-06-05 06:00
안다쇼핑
Top으로 이동