전체기사 최신뉴스 GAM 라씨로
KYD 디데이
경제 과학기술

속보

더보기

서울과기대·테디썸, 한국어 최초 405B급 언어모델 '블로썸' 공개

기사입력 : 2024년08월07일 08:16

최종수정 : 2024년08월07일 08:16

메타 라마3.1 기반으로 개발
영어 성능 손실 없이 달성

[세종=뉴스핌] 이경태 기자 = 서울과학기술대학교 멀티모달 언어처리 연구실(MLP) 임경태 교수팀과 테디썸은 한국어 최초 405B급 한국어-영어 초거대 언어모델 Bllossom-405B를 6일 완전 공개했다.

이 모델은 메타가 최근 공개한 공개 언어모델인 라마3.1(LLama3.1-405B) 기반 모델을 토대로 만들어졌다. 메타가 공개한 라마3.1-405B 모델은 한국어가 가능한 공개 언어모델 중 가장 큰 모델이다.

챗 블로썸 서비스 모습 [사진=테디썸] 2024.08.07 biggerthanseoul@newspim.com

블로썸-405B 모델은 라마3.1 모델에 자체 개발한 '효율적인 층별 최적화(Efficient Layer-specific Optimization, ELO)' 추가 사전학습 방법을 적용한 모델이다.

한국어-영어 병렬 말뭉치 데이터를 활용한 지식 연결을 통해 영어 성능의 손실 없이 한국어 성능을 강화한 모델이다.

405B급 초거대 모델 추론에만 최소 엔비디아의 A100 GPU 6대가 필요할 정도로 상당히 큰 모델로 추가 사전학습의 장벽이 높다.

서울과기대 임경태 교수팀은 이러한 문제를 자체 개발한 층별 최적화 방법으로 완화시켰다.

이번 블로썸 3.1 모델은 공식적으로 한국 '휴렛 패커드 엔터프라이즈(Hewlett Packard Enterprise. HPE)의 컴퓨팅 지원과 커먼 크롤(Common Crawl) 재단이 제공한 한국어 데이터를 토대로 대량의 GPU와 영어-한국어 데이터를 활용해 만들어진 모델이다.

이번에 공개된 모델은 Bllossom3.1-8B 모델과 Bllossom3.1-405B 모델이다. 이 모델은 전체적으로 공개가 되며, 개별적인 추가 학습이 가능해 상업적인 이용도 할 수 있다. GPU메모리 사용량을 매우 줄인 4bit 양자화된 모델도 동시에 공개해 일반 유저들이 직접 활용해볼 수 있다.

함영균 테디썸 대표는 "한국어 공개 모델의 필요성에 공감한 글로벌 빅테크 기업들이 현재 블로썸과 협업하고 있다"며 "앞으로도 지속적으로 거대 모델을 공개해 중소규모 회사 및 연구 그룹에서도 활용할 수 있도록 초거대 언어모델의 민주화에 기여할 것"이라고 말했다.

biggerthanseoul@newspim.com

[뉴스핌 베스트 기사]

사진
비트코인 9만달러 밑으로 급격히 후퇴 [뉴욕=뉴스핌] 김민정 특파원 = 비트코인 가격이 3일(현지시간) 9% 넘게 급락해 8만5000달러대로 레벨을 낮췄다. 도널드 트럼프 미국 대통령이 가상자산을 전략적으로 비축하겠다고 밝혔지만, 정치적 계산이며 실제로 가격을 띄우기 어렵다는 회의론이 제기되고 관세 정책에 따른 경기 둔화가 우려되면서 가상자산은 일제히 약해졌다. 비트코인 가격은 이날 미국 동부 시간 오후 3시 48분 기준 24시간 전보다 9.12% 급락한 8만5518.83달러를 가리켰다. 이더리움도 15%나 내린 2100달러선에서 거래됐다. 트럼프 대통령은 지난 주말 자신의 사회관계망서비스(SNS) 트루스 소셜을 통해 "미국의 가상자산 비축이 바이든 정부의 수년간에 걸친 부패한 공격 이후 위기에 빠진 이 산업을 상승시킬 것"이라며 가상자산 전략 비축이 비트코인, 이더리움을 중심으로 이뤄질 것이며 리플과 솔라나, 카르다노도 여기에 포함될 것이라고 설명했다. 이 같은 발언은 가상자산의 가파른 랠리로 이어졌다. 비트코인은 지난달 28일 7만 달러 대로 내렸다가 트럼프 대통령의 발언 이후 약 20% 급등했다. 하지만 트럼프 대통령이 실제로 비트코인 등 가상자산을 실제로 전략적으로 비축하기 어렵다는 진단이 나오고 주식 등 위험 자산도 트럼프 대통령의 관세 발효 확인으로 무너지면서 비트코인 역시 낙폭을 늘렸다. 트럼프 대통령은 예정대로 4일부터 캐나다와 멕시코산 수입품에 25%의 관세를 적용하겠다고 밝혔다. 주식시장이 트럼프 대통령의 관세 발표와 함께 급락세를 보이고 있는 점도 가상자산 투자 심리에 영향을 준 것으로 보인다. 정규장 막바지인 미국 동부 시간 3시 54분 뉴욕증시에서 3대 지수는 1.7~2.9%의 약세를 보이고 있다. IG의 토니 시카모어 시장 분석가는 트럼프 대통령의 발표가 우려를 키웠다고 진단하고 "준비금의 가상화폐 구매 자금이 미국 납세자에서 올 수도 있고 자산에는 있는 가상화폐는 법 집행 조치에서 압류된 것일 수도 있다"고 설명했다. 그러면서 "후자의 경우 시장에 새로운 매수가 유입되는 게 아니라 계좌 간의 단순한 이전을 나타낼 뿐이기 때문에 그렇게 낙관적이지 않다"고 지적했다. 비트코인 이미지 [사진=로이터 뉴스핌] mj72284@newspim.com 2025-03-04 06:00
사진
국민의힘 42.1%·민주 41.3% '재역전' [서울=뉴스핌] 한태희 기자 = 30대와 서울 민심이 요동치며 국민의힘 지지율이 더불어민주당(민주당) 지지율을 오차 범위 안에서 다시 앞선 것으로 조사됐다. 종합뉴스통신사 뉴스핌이 여론조사 전문기관 미디어리서치에 의뢰해 지난 26일 낮 12시30분부터 밤 10시까지 전국 만 18세 이상 남녀 1002명을 대상으로 진행해 발표한 자동 응답시스템(ARS) 조사에서 '어느 정당을 지지하거나 약간이라도 더 호감을 가지고 있냐'는 질문에 국민의힘 지지율은 직전 조사(39.7%) 대비 2.4%포인트(p) 오른 42.1%로 나타났다. 민주당 지지율은 직전 조사(42.3%) 대비 1%p 떨어진 41.3%다. 같은 기간 조국혁신당은 3.5%→2.8%로 0.7%p 하락했다. 개혁신당은 2.3%에서 2.0%로 0.3%p 떨어졌다. 진보당은 0.7%에서 0.9%로 0.2%p 올랐다. 기타 다른 정당은 3.1%에서 1.9%로 1.2%p 하락했다. 지지 정당 없음은 7.6%에서 8.1%로 0.5%p 늘었고 잘모름은 0.6%에서 0.9%로 0.3%p 올랐다. [서울=뉴스핌] 한태희 기자 = 2025.02.27 ace@newspim.com 연령별로 보면 만 18~29세와 30대, 60대 이상은 국민의힘 지지도가 높았다. 40~50대는 민주당을 더 지지했다. 지난 조사와 비교하면 30대에서 국민의힘 지지도가 민주당을 다시 앞섰다. 만 18~29세 정당 지지도를 보면 국민의힘 45%, 민주당 34.6%, 개혁신당 5.8%, 조국혁신당 3.1%, 진보당 1.9%, 기타 다른 정당 0.6%, 지지 정당 없음 8.1%, 잘모름 0.8% 등이다. 직전 조사와 비교하면 국민의힘은 39.6%에서 45%로 5.4%p 올랐고 민주당은 36.9%에서 34.6%로 2.3%p 떨어졌다. 30대는 국민의힘 41.3%, 민주당 35.4%, 개혁신당 3.6%, 조국혁신당 3.3%, 기타 다른 정당 4.5%, 지지 정당 없음 11.3%, 잘모름 0.7% 등이다. 직전 조사 대비 국민의힘은 35.2%에서 41.3%로 6.1%p 올랐고 민주당은 41.3%에서 35.4%로 5.9%p 하락했다. 40대는 민주당 54.1%, 국민의힘 30.3%, 조국혁신당 2.6%, 개혁신당 1.1%, 기타 다른 정당 2.8%, 지지 정당 없음 7.0%, 잘모름 2.1% 등이다. 50대는 민주당 46.8%, 국민의힘 36.6%, 조국혁신당 4.6%, 개혁신당 0.9%, 기타 다른 정당 1.2%, 지지 정당 없음 8.0%, 잘모름 0.5% 등이다. 60대는 국민의힘 46.3%, 민주당 39.7%, 조국혁신당 2.2%, 개혁신당 1.1%, 기타 다른 정당 1.6%, 지지 정당 없음 8.5%, 잘모름 0.6% 등이다. 70대 이상은 국민의힘 56%, 민주당 34%, 조국혁신당 0.6%, 진보당 2.0%, 기타 다른 정당 1.1%, 지지 정당 없음 5.7%, 잘모름 0.6% 등이다. 지역별로 보면 직전 조사와 비교해 서울에서 국민의힘이 민주당을 다시 앞섰다. 서울은 국민의힘 43.7%, 민주당 35.4%, 개혁신당 3.8%, 조국혁신당 3.1%, 진보당 1.0%, 기타 다른 정당 2.1%, 지지 정당 없음 9.7%, 잘모름 1.2% 등이다. 경기·인천은 민주당 45.8%, 국민의힘 38.7%, 조국혁신당 2.0%, 개혁신당 1.7%, 진보당 0.9%, 기타 다른 정당 0.6%, 지지 정당 없음 10.0%, 잘모름 0.3% 등이다. 대전·충청·세종은 국민의힘 43.5%, 민주당 39.2%, 조국혁신당 1.8%, 개혁신당 2.6%, 진보당 0.8%, 기타 다른 정당 5.6%, 지지 정당 없음 6.6% 등이다. 강원·제주는 국민의힘 39.4%, 민주당 35.7%, 조국혁신당 8.8%, 진보당 2.4%, 기타 다른 정당 2.4%, 지지 정당 없음 8.8%, 잘모름 2.4% 등이다. 부산·울산·경남은 국민의힘 48.8%, 민주당 36.7%, 조국혁신당 4.0%, 개혁신당 0.6%, 기타 다른 정당 2.9%, 지지 정당 없음 4.6%, 잘모름 2.4% 등이다. 대구·경북은 국민의힘 53.4%, 민주당 31.1%, 조국혁신당 2.8%, 개혁신당 1.0%, 진보당 1.0%, 기타 다른 정당 1.5%, 지지 정당 없음 8.3%, 잘모름 0.9% 등이다. 광주·전남·전북은 민주당 59.6%, 국민의힘 28.5%, 조국혁신당 1.9%, 개혁신당 3.1%, 진보당 0.9%, 기타 다른 정당 0.9%, 지지 정당 없음 5.1% 등이다. 성별로 보면 남성은 국민의힘 41.8%, 민주당 41.4%, 개혁신당 2.7%, 조국혁신당 4.0%, 진보당 0.8%, 기타 다른 정당 1.5%, 지지 정당 없음 7.1%, 잘모름 0.6% 등이다. 여성은 국민의힘 42.5%, 민주당 41.2%, 조국혁신당 1.6%, 개혁신당 1.3%, 진보당 0.9%, 기타 다른 정당 2.3%, 지지 정당 없음 9.0%, 잘모름 1.1% 등이다. 박상병 정치평론가는 "40~70대 이상은 지지하는 정당 입장이 확실한 반면 20~30대는 여론이 유동적"이라며 "여론조사 추이는 과대 표집이 줄어들고 비정상적인 모습이 정상으로 가는 과정"이라고 분석했다. 이번 조사는 무선 무작위 전화걸기(RDD) 활용 ARS를 통해 진행됐다. 신뢰 수준은 95%, 표본 오차는 ±3.1%p. 응답률은 6.2%다. 자세한 조사 개요 및 내용은 미디어리서치 홈페이지와 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다.   ace@newspim.com 2025-02-27 12:00
안다쇼핑
Top으로 이동