[서울=뉴스핌] 양태훈 기자 = AI 경량화 전문 스타트업 스퀴즈비츠는 21일 SaaS(Software as a Service)형 AI 경량화 툴킷 '아울라이트(OwLite)'를 출시했다고 밝혔다.
지난 2022년 창업한 스퀴즈비츠는 네이버 D2SF 등으로부터 투자를 유치한 바 있으며, 자체 개발한 AI 모델 경량화 기술을 활용해 고객사들의 추론 속도 개선, 메모리 사용량 절감, 클라우드 비용 절감 등의 가치를 제공해 왔다.
최근 초거대 AI의 등장으로 AI 서비스 운영 비용이 크게 증가하면서 AI 모델 경량화 기술의 중요성이 부각되고 있다. 지속 가능한 AI 서비스를 위해서는 MLOps(Machine Learning Operations)과정에서 경량화 및 최적화 기술을 통한 운영 비용 절감과 인프라 최적화가 필수적이다.
[사진=스퀴즈비츠] |
스퀴즈비츠의 아울라이트는 고객사가 자사 프로젝트에 스퀴즈비츠의 경량화 기술을 쉽고 빠르게 적용해볼 수 있는 SaaS 제품이다. 아울라이트를 통해 고객사는 AI 추론 속도를 평균 3.6배, 메모리 사용량을 평균 4배 개선하여 AI 서비스 비용을 효율적으로 절감할 수 있다.
아울라이트는 AI 모델 개발 단계에서부터 경량화 기술 적용 효과를 평가하고 분석할 수 있는 기능을 제공하며, 모델 경량화뿐만 아니라 엔진 빌드, 성능 확인, 비교 및 분석까지 전체적인 시스템을 지원한다. 또한, 초보자도 쉽게 여러 경량화 기술을 테스트하고 비교 분석할 수 있는 추천 기능도 제공한다. 스퀴즈비츠는 더 많은 사람들이 AI 경량화를 경험할 수 있도록 아울라이트의 기본 기능을 오픈소스로 공개하고 있다.
김형준 스퀴즈비츠 대표는 "새로운 기술도 비용이 저렴해져야 사회 전반에 더욱 빠르게 확산될 수 있다"며, "아울라이트를 활용해 더 많은 AI 서비스 기업들이 운영 비용을 절감하고 지속 가능한 AI 서비스를 제공할 수 있을 것"이라것" 강조했다.
dconnect@newspim.com