[서울=뉴스핌] 이석훈 기자 = KB증권은 기술 급성장에 따른 부작용을 예방하고 체계적인 인공지능(AI) 금융 서비스 제공을 위해 'AI 거버넌스 체계'를 구축한다고 30일 밝혔다.

AI 기술이 급격하게 발전하면서 금융산업의 다양한 분야에서도 AI가 활용되고 있다. 로보어드바이저, 상담 챗봇 및 머신러닝 기반의 상품추천 등 AI 기반 서비스가 확산되면서 고객들은 더욱 편리한 금융 서비스를 이용할 수 있게 되었다. 그러나 이와 동시에 AI 알고리즘의 편향성, 고객 정보의 오남용, 부당한 차별 등 새로운 위험 요소가 발생하는 문제점이 있다.

이에 KB증권은 AI 기술 및 법률 전문성을 보유한 삼성SDS, 김앤장 법률사무소, 삼정KPMG 등 전문업체의 컨설팅을 통해 AI 기술 활용 과정에서 발생할 수 있는 윤리적, 법적 문제와 AI 학습 데이터·모델의 위험 요인을 사전에 식별해 방지하며, 고객에게 신뢰할 수 있는 AI 금융 서비스 제공을 목표로 'AI 거버넌스 체계'를 수립할 예정이다.

'AI 거버넌스 체계'의 수립 목표는 AI 개발 및 활용 과정에서 인간의 존엄성, 공정성, 다양성 등을 존중할 수 있는 윤리 원칙 수립 및 준수체계를 마련하고, 효율적인 AI 시스템 개발을 위한 사내 규정을 체계화하는 것이다.

실무 부서에서 AI 관련 시스템·서비스 도입 검토 시 검토 방법 및 AI 활용 위험 감소방안을 사전에 검토할 수 있도록 AI 업무 매뉴얼을 제시하고, AI 서비스별 위험도를 측정해 산출된 위험수준별 관리 및 모니터링 정책을 수립할 예정이다.

KB증권은 정부 및 감독기관의 AI 관련 규제가 시행되기 전에 앞서 선제적으로 관리 체계를 구축함으로써 AI를 활용해 발생할 수 있는 리스크를 예방, 관리하여 소비자 보호에도 힘쓸 계획이다. 특히, AI 기술 남용으로 인한 고객 피해 예방에 대한 강조는 금융소비자들이 안심하고 금융 서비스를 이용할 수 있도록 하는데 기여할 것으로 기대한다.

이와 더불어 이번 'AI 거버넌스 체계'의 선도적 수립은 금융업계 전반의 AI 활용에 대한 신뢰를 높이고 국내 금융 시장의 경쟁력 강화에도 기여할 것으로 전망한다. 또한, 급속도로 발전하는 AI 기술환경 하에서 창의적이고 다양한 AI 기반 서비스 개발 시 발생할 수 있는 위험 경감 및 사고 예방 가능한 체계적인 가이드를 제시하여 적극적인 AI 기술 활용을 유도할 수 있을 것으로 보인다.

하우성 KB증권 디지털사업총괄본부장은 "AI의 역할이 나날이 커져가고 있는 가운데 'AI 거버넌스 체계'를 올해까지 구축해 책임감 있는 AI를 도입할 계획"이라며 "고객의 신뢰를 바탕으로 AI 기술을 선도하는 KB증권이 되기 위해 최선의 노력을 다하겠다"고 밝혔다.

stpoemseok@newspim.com