[서울=뉴스핌] 심재민 인턴기자 = 카카오는 자율형 인공지능(AI) 에이전트 확산에 대응하기 위해 AI 서비스의 기획부터 운영까지 적용할 새로운 윤리 원칙과 이행 가이드를 마련했다고 15일 밝혔다.

카카오는 지난 13일 카카오 AI 캠퍼스에서 열린 개발자 컨퍼런스 'if(kakao)26'에서 새로운 AI 윤리 체계를 공개했다. AI가 스스로 계획하고 행동하는 환경에서 인간의 판단과 책임을 명확히 하고, 서비스 설계 단계부터 윤리적 위험을 관리하겠다는 취지다.

새 윤리 원칙인 '스피릿(SPIRIT)'은 안전(Safety), 프라이버시(Privacy), 포용(Inclusivity), 책임(Responsibility), 이용자 주체성(Individual Autonomy), 투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 항목으로 구성됐다.

카카오는 '대한민국 인공지능 윤리원칙'의 3대 가치와 7대 원칙을 주요 기준으로 채택하고, 자체 서비스 특성에 맞춰 세부 내용을 보완했다. 원칙을 실제 서비스에 적용하기 위한 이행 방식은 'NORMA'로 정의했다. 복잡한 AI 윤리 과제를 조직 차원에서 관리하고 실행 가능한 단계로 구체화한다는 의미다.

특히 자율형 AI 에이전트의 위험 요소를 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 구분했다. 각 영역에 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등의 대응 방안을 연결했다.

이를 바탕으로 마련한 'AI 윤리 이행 체크리스트'는 서비스 속성 파악, 사전 위험 검토, 통제 항목 점검·판정 등 3단계로 운영된다. 카카오는 연내 체크리스트를 실제 서비스에 적용할 계획이다.

이번 윤리 원칙과 가이드는 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7명과 함께 이달 초 마련했다. 외부 자문단이 국내외 규범과의 정합성을 검토하고, 내부 AI 안전·개인정보·정보보안·서비스 담당 부서가 실무 적용 가능성을 점검했다.

아동·청소년 보호를 위한 점검도 강화한다. 카카오는 기존 '디지털 아동·청소년 보호 체크리스트'에 더해 경제협력개발기구(OECD)와 유니세프의 아동 온라인 위험 분류 체계인 '5Cs'를 참고한 AI 관련 위험 점검 요소를 새 체크리스트에 반영할 예정이다.

카카오는 2018년 '알고리즘 윤리헌장'을 발표한 이후 2022년 AI&기술윤리소위원회를 설립하는 등 AI 윤리 체계를 발전시켜 왔다.

김세웅 카카오 AI&기술윤리소위원회 위원장은 "외부 자문단과 내부 조직의 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다"며 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다"고 말했다.

flurry327@newspim.com