전체기사 최신뉴스 GAM 라씨로
KYD 디데이
산업 중기·벤처

속보

더보기

업스테이지, 프렌들리AI와 솔라 번역모델 인프라 구축

기사입력 : 2024년07월10일 13:53

최종수정 : 2024년07월10일 13:53

[서울=뉴스핌] 송은정 기자 =인공지능(AI) 기술 기업 업스테이지가 프렌들리 AI와 손잡고 자사의 거대언어모델(LLM) '솔라' 기반의 번역 모델 인프라 구축 계약을 체결했다고 10일 밝혔다.

업스테이지 '솔라' 로고 [사진=업스테이지]

앞서 업스테이지는 솔라 LLM을 파인튜닝(미세조정)한 한국어-영어 번역 특화 모델을 API(응용프로그램 인터페이스) 형태로 공개했다. 단순 문장 번역을 넘어 전후 문맥을 종합해 의미를 추론하고 대화의 맥락과 흐름까지 파악하는 딥러닝 번역이 특징이다. 기계번역 평가의 바로미터로 꼽히는 메타의 '플로레스' 벤치마크 평가에서 오픈AI의 GPT-4, 딥엘(DeepL) 등을 뛰어넘을 정도로 정확도가 높다. 

이에 업스테이지는 일일 최대 10만여 건에 달하는 번역 트래픽을 효율적으로 처리하기 위해 프렌들리AI의 '프렌들리 전용 엔드포인트(Friendli Dedicated Endpoint)'를 도입했다. 트래픽 부하에 따라 GPU 할당량을 동적으로 조정하는 '자동 스케일링' 기능을 통해 서비스 운영을 자동화하고 GPU 비용을 크게 절감했다.

전병곤 프렌들리AI 대표는 "업스테이지의 최고의 생성형 AI 솔라 모델과 프렌들리AI의 최고의 생성형 AI 인프라가 만나, 기업들이 최고의 생성형 AI 응용을 최저의 비용으로 사용할 수 있도록 제공하게 돼 매우 기쁘다"라며 "프렌들리AI와 업스테이지가 같이 기업들의 생성형 AI 혁신을 돕도록 매진하겠다"라고 밝혔다.

김성훈 업스테이지 대표는 "생성형AI 인프라 수행 리더 기업 프렌들리AI와 협력해 솔라 번역 모델의 서비스 비용을 효율화하게 돼 기쁘다"라며 "이제 더 많은 사람들이 세계 최고 수준의 번역 모델을 더욱 빠르고 손쉽게 사용할 수 있을 것으로 기대한다"라고 밝혔다. 

yuniya@newspim.com

[뉴스핌 베스트 기사]

사진
SKT '유심 교체' 북새통...내 차례 올까 [인천=뉴스핌] 김학선 기자 = 가입자 유심(USIM) 정보를 해킹 당한 SK텔레콤이 유심 무료교체 서비스를 시작한 28일 인천의 한 대리점에서 고객들이 유심 교체를 위해 줄을 서 차례를 기다리고 있다. SKT는 사이버침해 피해를 막기 위해 이날 오전 10시부터 전국 2600여곳의 T월드 매장에서 희망 고객 대상 유심 무료교체 서비스를 진행한다. 2025.04.28 yooksa@newspim.com   2025-04-28 12:12
사진
"화웨이, 엔비디아 H100 능가 칩 개발" [서울=뉴스핌]박공식 기자 = 중국 화웨이가 미국이 수출 금지한 엔비디아 칩을 대체할 최신 인공지능(AI) 칩을 개발해 제품 시험을 앞두고 있다고 월스트리트저널(WSJ)이 현지 시간 27일 보도했다. 신문은 화웨이가 일부 중국 기술기업에 새로 개발한 '어센드(Ascend) 910D'의 시험을 의뢰했다고 전했다. 어센드 910D는 엔비디아의 H100보다 성능이 더 우수한 것으로 평가되고 있으며 이르면 5월 말 시제품이 나올 것으로 예상된다. 앞서 로이터통신은 21일 화웨이가 자체 개발한 AI칩 910C를 내달 초 중국 기업에 대량 출하할 계획이라고 보도한 바 있다. 화웨이를 비롯한 중국 기업들은 데이터를 알고리즘에 제공해 더 정확한 결정을 내리게 하는 훈련 모델용으로 엔비디아 칩에 필적하는 첨단 칩을 개발하는 데 주력해왔다. 미국은 중국의 기술 개발을 억제하기 위해 B200 등 최첨단 엔베디아 칩의 중국 수출을 금지하고 있다. H100의 경우 2022년 제품 출하 전에 중국 수출을 금지했다.  중국 베이징에 있는 화웨이 매장 [서울=뉴스핌]박공식 기자 = 2025.04.28 kongsikpark@newspim.com kongsikpark@newspim.com 2025-04-28 12:26
안다쇼핑
Top으로 이동