[서울=뉴스핌] 이나영 기자 = 브레인즈컴퍼니 자회사 에이프리카가 기관과 기업의 운영·보안 기준에 맞춰 AI 서비스 접근 권한과 요청 처리를 통합 관리하는 '치타 AI Gateway'를 출시했다고 22일 밝혔다.

대규모 기업과 공공기관이 업무에 활용하는 AI 서비스와 모델이 증가하면서 사용자 권한, 사용량, 보안 기준을 일관되게 관리하는 것이 중요해졌다. 그러나 관리 정책을 서비스마다 따로 적용하면 운영자가 정책 적용 현황과 요청 처리 이력을 각각 확인해야 하고 서비스별 관리 기준도 달라질 수 있다는 문제가 있었다.

회사에 따르면 치타 AI Gateway는 사용자·그룹별 서비스 접근 권한을 설정하고 분당 요청량과 토큰 사용량을 제한할 수 있다. 이를 통해 내부정책에 따라 AI 서비스의 효율적 운영과 보안 관리를 동시에 수행할 수 있다. 허용된 사용자에게만 필요한 AI 서비스를 제공하고 과도한 호출로 인한 모델이나 인프라 부하를 줄일 수 있다. 모델 응답이 지연되거나 오류가 반복될 때는 타임아웃과 서킷 브레이커를 적용해 요청을 제어하고 장애 확산 가능성을 낮춘다.

입력과 응답 단계에서 각각 보안 검사를 진행한다. 입력 단계에서는 개인정보, API 키, 접속 토큰 등 인증정보와 프롬프트 인젝션, 금칙어를 탐지해 정책에 따라 마스킹하거나 차단한다. 출력 단계에서는 개인정보, 유해 콘텐츠, 위험 HTML, 환각 여부 등을 검사해 설정된 기준에 맞게 처리한다. 기업은 보안 필터와 개인정보 보호 정책을 조합해 서비스별 기준을 설정할 수 있으며 요청별 처리 결과와 차단 사유는 감사 로그에서 확인할 수 있다.

치타는 AI Gateway 외에도 GPU 자원 관리부터 데이터와 AI 모델의 개발·학습, 평가, 배포·운영까지 지원하는 MLOps·LLMOps 플랫폼이다. 대규모 GPU 자원을 통합 관리하고 멀티테넌시 기반의 사용자·그룹별 개발 환경을 제공해 AI 개발에 필요한 자원과 작업 환경을 효율적으로 운영하도록 돕는다. 셀트리온, KAI, 경찰청 등에서 활용 중인 것으로 알려졌다.

에이프리카 관계자는 "치타는 데이터와 모델 관리부터 AI 개발·배포까지 지원해온 플랫폼으로, 이번 AI Gateway 출시를 통해 서비스 운영 단계의 정책 관리와 보안 역량을 강화했다"며 "앞으로도 기업의 AI 활용 환경과 요구에 맞춰 플랫폼 기능을 지속적으로 고도화하겠다"고 말했다.

nylee54@newspim.com