AI 핵심 요약
beta- 리벨리온이 23일 SK텔레콤 초거대 AI K1을
- 자사 국산 NPU 서버에서 안정 구동했다고 밝혔다.
- 단일 국산 NPU 서버로 GPU급 효율을 구현해
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
국산 AI 생태계 확산 위한 실증 사례 마련
[서울=뉴스핌] 이석훈 기자 = 리벨리온이 SK텔레콤의 독자 AI(인공지능) 파운데이션 모델 'A.X K1'을 자체 국산 NPU(신경망 처리장치) 서버에서 성공적으로 구동했다고 23일 밝혔다.
이번 실증은 초거대 AI 운영에 필요한 인프라 효율성을 높인 것이 핵심이다. 리벨리온은 5000억 개(500B) 이상 파라미터 규모의 초거대 언어모델을 국산 NPU 서버에서 안정적으로 실행하며 높은 서빙 효율을 확보했다. 회사 측은 단일 서버만으로도 글로벌 고성능 GPU(그래픽 처리장치) 서버에 준하는 운영 효율을 구현해 데이터센터 구축과 운영 비용을 줄일 수 있다고 설명했다.
이 같은 성과는 K1의 MoE(Mixture of Experts) 구조와 리벨리온의 소프트웨어 최적화 기술이 결합된 결과다. 리벨리온은 다양한 연산을 칩에 효율적으로 분산 처리하는 기술을 적용해 하나의 서버에서도 다수 사용자의 요청을 병목 없이 처리할 수 있도록 했다.
리벨리온은 실제 서비스 가능성을 검증하기 위해 지도 기반 AI 에이전트도 시연했다. 여러 사용자가 동시에 '주말에 문 여는 약국' 등 서로 다른 질문을 입력해도 실시간으로 결과를 제공하는 방식으로, 공공 AI 서비스에 적용 가능한 수준의 처리 성능을 확인했다.
리벨리온은 과학기술정보통신부의 '독자 AI 파운데이션 모델' 사업에서 SK텔레콤 컨소시엄에 참여하고 있으며, '에이닷 전화 통화요약' 등 실시간 AI 서비스를 국산 NPU 기반으로 운영해왔다. 앞으로도 국산 AI 모델과 NPU를 결합한 다양한 서비스를 확대해 AI 생태계 확산에 나설 계획이다.
박성현 리벨리온 대표는 "이번 실증은 국산 초거대 모델과 국산 NPU의 결합만으로 대규모 AI 서비스를 운영할 수 있음을 보여준 소버린 AI의 실질적 사례로, 인프라 효율성과 실사용 가능성을 모두 입증했다는 데 의미가 있다"며 "앞으로도 SK텔레콤과 함께 누구나 일상에서 AI를 누릴 수 있는 한국형 AI 인프라를 만들어가겠다"고 말했다.
[AI Q&A]
Q1. 이번 리벨리온–SK텔레콤 협력에서 핵심으로 입증된 점은 무엇인가요?
A1. 리벨리온은 SK텔레콤의 초거대 AI 파운데이션 모델 'A.X K1'을 자사의 국산 NPU 서버 인프라에서 안정적으로 구동하고 다수 사용자의 동시 요청을 처리하는 에이전트 서비스 데모까지 구현해, 국산 대형 모델과 국산 AI 반도체만으로도 고효율·실사용 가능한 소버린 AI 인프라를 구축할 수 있음을 입증했습니다.
Q2. 인프라 효율성 측면에서 어떤 기술적 성과를 거뒀나요?
A2. 500억(500B)개 이상 파라미터를 가진 국내 최대 수준의 초거대 언어모델을 리벨리온의 AI 반도체가 탑재된 서버(리벨서버, 리벨100 등) 한 대에서 안정적으로 서빙함으로써, 글로벌 고성능 GPU 서버에 준하는 연산 역량을 단일 서버 구성으로 확보하고 데이터센터 구축·운영 부담을 크게 줄이는 고효율 인프라를 구현했습니다.
Q3. K1과 리벨리온의 소프트웨어·하드웨어 설계는 어떻게 맞물려 효율을 냈나요?
A3. K1은 MoE(전문가 혼합) 구조를 채택해 500B 규모에서도 높은 효율성을 확보한 모델이고, 리벨리온은 이 구조를 지원하는 전용 소프트웨어를 최적화해 다양한 연산을 칩에 가장 효율적인 방식으로 분산·병렬 처리함으로써, 한 대의 서버 안에서도 수많은 에이전트 요청을 병목 없이 실시간 처리할 수 있도록 했습니다.
Q4. 에이전트 서비스 데모에서는 실사용 가능성을 어떻게 보여줬나요?
A4. 리벨리온은 '지도(Map)형 에이전트 서비스' 데모를 통해 여러 사용자가 동시에 접속해 "주말에 이용 가능한 약국" 같은 서로 다른 일상 질문을 던져도, A.X K1이 이를 병목 없이 처리해 지도 위에 결과를 바로 표시하는 모습을 구현해, 국산 모델과 국산 NPU 조합만으로도 다중 동시 요청이 발생하는 공공·생활형 AI 에이전트 서비스를 안정적으로 운용할 수 있음을 보여줬습니다.
Q5. 이번 사례가 K-AI·국산 NPU 생태계 확산과 정책 방향과는 어떻게 맞물리나요?
A5. 리벨리온은 독자 AI 파운데이션 모델 사업 SKT 컨소시엄의 일원으로 국산 NPU 기반 인프라 실증을 수행하고, SKT '에이닷' 전화 통화 요약 등 대규모 실시간 AI 서비스를 약 1년간 안정적으로 구동해 온 경험을 바탕으로, 정부가 '대한민국 대도약 3대 메가프로젝트'와 '모두의 AI' 정책에서 강조한 "누구나 부담 없이 활용하는 AI 인프라" 구축에 국산 NPU 파트너로 기여하며 K-AI 모델·반도체의 저변을 넓혀 가겠다는 목표를 제시하고 있습니다.
stpoemseok@newspim.com
