[서울=뉴스핌] 이나영 기자 = 인공지능(AI) 인프라 소프트웨어 기업 래블업이 자체 개발한 오픈소스 인공지능(AI) 추론 엔진 'MLxcel'의 지원 범위를 AMD 하드웨어까지 확대했다. 기존 애플 실리콘과 엔비디아에 이어 AMD 환경에서도 AI 모델을 구동할 수 있도록 지원하면서 다양한 반도체 기반의 AI 추론 기술 개발을 이어가고 있다.

5일 래블업 공식 SNS에 따르면 신정규 대표는 지난 4일 서울에서 열린 'AMD Advancing AI Korea'에서 AMD의 통합 메모리 기반 프로세서 'Strix Halo'를 활용한 MLxcel의 추론 최적화 기술을 소개했다. 이날 발표에서는 대규모언어모델(LLM)과 비전언어모델(VLM)의 구동 효율을 높이기 위한 기술적 접근법이 공유됐다.

MLxcel은 AI 모델 실행 과정에서 발생하는 메모리 병목을 줄이고 추론 효율을 높이기 위해 개발된 오픈소스 엔진이다. 지난 5월 공개된 이후 애플 실리콘과 엔비디아 CUDA를 지원해 왔으며, 이달 공개한 0.8 버전부터 AMD의 GPU 컴퓨팅 플랫폼인 ROCm을 추가로 지원한다.

이번 업데이트로 MLxcel을 활용할 수 있는 하드웨어 환경이 확대됐다. 기업들은 AI 모델의 규모와 활용 목적, 운영 비용 등을 고려해 서로 다른 제조사의 AI 가속기를 사용할 수 있다. 이에 따라 다양한 하드웨어 환경에서 AI 모델을 실행하고 추론 성능을 최적화하는 소프트웨어 기술의 중요성도 커지고 있다.

래블업은 기존 AI 인프라 관리 플랫폼인 '백엔드닷에이아이(Backend.AI)'와 MLxcel을 통해 AI 인프라 관리와 모델 추론 최적화 분야의 기술 개발을 진행하고 있다. Backend.AI는 엔비디아, AMD, 인텔, 리벨리온, 퓨리오사AI 등 12개 제조사의 AI 가속기를 지원하는 플랫폼으로, 여러 종류의 연산 자원을 통합 관리하고 배분하는 기능을 제공한다.

Backend.AI가 AI 인프라의 연산 자원 관리에 중점을 둔다면 MLxcel은 실제 AI 모델 실행 과정에서 추론 효율을 높이는 역할을 한다. 래블업은 두 기술을 기반으로 다양한 하드웨어 환경에 대응하는 AI 소프트웨어 사업을 확대할 계획이다.

신정규 래블업 대표는 "MLxcel은 통합 메모리 환경에서 최고 수준의 추론 성능을 목표로 개발됐다"며 "AI 추론 환경이 데이터센터, 엣지, AI PC로 빠르게 확산되는 가운데 하드웨어에 독립적인 오픈소스 추론 플랫폼의 가치는 더 커질 것"이라고 말했다. 이어 "오픈소스 커뮤니티와의 협력을 통해 AI 인프라의 이식성, 선택권, 속도를 계속 확대해 나가겠다"고 밝혔다.

한편 래블업은 지난 3일 코스닥 시장에 상장했으며, 국내외 120여개 고객 사이트에 Backend.AI를 공급하고 있다.

nylee54@newspim.com