[서울=뉴스핌] 양태훈 기자 = 과학기술정보통신부(이하 과기정통부)가 인공지능(AI) 모델·서비스 확산에 따라 외부 사이버 공격으로부터 AI를 보호하기 위한 국가 최초의 종합 보안 기준 'AI 보안 안내서'를 발표했다.

10일 과기정통부는 한국인터넷진흥원(KISA)과 AI 모델과 서비스를 안전하게 개발·운영하기 위한 'AI 보안 안내서'를 공개했다.

AI 보안 안내서는 AI 활용이 일상과 산업 전반으로 확산하면서 외부 공격 가능성이 높아지고 있음에도 보안 측면의 체계적 기준이 부족하다는 지적을 반영해 마련됐다.

안내서는 개발자·서비스 제공자·이용자 등 역할별로 적용할 수 있는 총 113개 보안 요구사항을 담고 있다. AI 모델 위험 관리·데이터 암호화·적대적 공격 대응·실시간 모니터링 등 개발 단계 보안 내재화(Secure by Coding) 원칙이 포함됐으며, 서비스 운영 단계에서는 이상 행위 탐지·API·인터페이스 보호·백업·복원 체계 구축 등 서비스 복원력 강화 방안을 제시했다.

이용자를 위한 보안 수칙도 별도로 마련됐다. 공식 앱·사이트 이용·중요 정보 입력 금지·생성물·결과 검증·최신 보안 업데이트 적용·피싱·사기 방지 등 AI 서비스 사용자가 직접 실천할 수 있는 보안 행동지침을 인포그래픽 형태로 제공한다.

임정규 과기정통부 정보보호네트워크정책관은 "이번 인공지능 보안 안내서는 고도화되는 사이버 위협 속에서 인공지능을 안전하게 개발·활용할 수 있도록 하는 중요한 이정표가 될 것"이라며 "인공지능에 대한 새로운 보안 위협을 모니터링하여 반영하는 등 보안 안내서를 지속 업데이트 해나갈 예정"이라고 전했다.

AI 보안 안내서는 과학기술정보통신부와 KISA 홈페이지에서 누구나 무료로 내려받을 수 있다.

dconnect@newspim.com