[서울=뉴스핌] 양태훈 기자 = 업스테이지는 29일, 세계 최고 권위의 자연어 처리(NLP) 학회인 'NAACL 2024(북미 전산언어 학회)'에서 자사 거대언어모델(LLM) '솔라' 개발 논문이 채택됐다고 밝혔다.

NAACL은 ACL, EMNLP와 함께 세계 3대 NLP 학회로 꼽히며, 올해 학회는 오는 6월 16일부터 21일까지 멕시코시티에서 개최된다.

이번에 채택된 업스테이지의 논문은 '깊이 확장 스케일링(DUS: Depth-Up Scaling)' 기법을 통해 LLM의 깊이 차원을 확장해 모델 규모를 늘리는 새로운 방법론을 제시했다. 업스테이지는 이 기법을 적용해 107억 매개변수로 구성된 '솔라 10.7B' 모델을 개발, 지난해 12월 머신러닝 플랫폼 허깅페이스의 '오픈 LLM 리더보드'에서 세계 1위를 차지한 바 있다.

업스테이지 '솔라' 로고. [사진=업스테이지]

업스테이지 측은 "업스테이지는 자체 LLM 개발 기술력을 세계적 권위의 학회에서 인정받았으며, 특히 솔라의 핵심인 DUS 방법론의 우수성을 입증했다"며, "최근에는 중국 AI 기업 01.AI에서도 DUS를 활용해 자체 언어모델 Yi을 개발하는 등 글로벌 적용 사례가 생겨나고 있다"고 전했다.

dconnect@newspim.com