전체기사 최신뉴스 GAM
KYD 디데이

[갤럭시 언팩] "온디바이스 AI 폰 구현 해낸 비결은 'LLM 경량화'"

기사입력 :

최종수정 :

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

모바일 내에서 구동할 수 있는 LLM 경량화 기술 연구
사용자가 AI 기능 사용 여부 선택 가능
디바이스 확장한 갤럭시 생태계 시사

[새너제이(캘리포니아)=뉴스핌] 조수빈 기자 = 갤럭시S24의 주요 인공지능(AI) 기능인 실시간 통화 통역, 챗 어시스트나 노트어시스트 기능의 뒤엔 거대언어모델(LLM)이 숨어있다. 많은 데이터와 메모리를 필요로 하는 거대언어모델을 어떻게 모바일이라는 한정된 공간에서 구동하게 만들었을까.

김영집 삼성전자 MX사업부 랭귀지 AI 팀장(부사장)은 18일(현지시간) 미국 캘리포니아 실리콘밸리에 위치한 삼성리서치센터에서 갤럭시 AI 개발 배경에 대해 설명하고 있다. [사진=삼성전자]

삼성전자는 삼성의 자체 LLM인 '삼성가우스'의 일부 기능을 경량화 한 갤럭시 AI를 탄생시켰다. 김영집 삼성전자 MX사업부 언어 AI 팀장(부사장)은 18일(현지시간) 미국 캘리포니아 실리콘밸리에 위치한 삼성리서치센터(SRA)에서 삼성전자의 첫 AI 폰 갤럭시S24에 탑재된 주요 AI 기능의 개발 비하인드를 밝혔다.

김영집 부사장은 삼성전자 무선사업부에서부터 AI를 연구해왔고 SRA 모바일 플랫폼 솔루션(MPS) 랩장을 거쳐 현재는 MX 사업부에서 언어 AI 팀을 이끌며 갤럭시S24 AI 모델 탄생에 기여한 인물이다. 

◆경량화 모델 집어넣어 탄생시킨 '갤럭시 AI'…모바일 특화 LLM

갤럭시 AI는 음성인식, 번역, 음성합성, 거대언어모델 등 크게 6개의 기술을 주축으로 한다. 음성인식과 번역은 기존에도 AI 기능들이 많이 활용되던 분야 중 하나다. 그러나 더 실제 대화 같은 실감나는 언어 동작을 위해선 더 많은 컴퓨팅 파워와 메모리가 필요하다. 

특히 모바일은 활용할 수 있는 메모리(램)에 한계가 있어 PC보다 훨씬 더 압축적인 시스템이 요구된다. AI 학습의 단계에는 검색 모델을 제너럴하게 학습한 후 불필요하거나 중요도가 낮은 데이터를 쳐내는 가지치기인 '프루닝', 특정 데이터로 강화 학습을 시키는 '파인튜닝' 등이 수반된다. 이러한 과정을 거쳐 LLM이 고도화된 성능을 발휘할 때쯤이면 그를 훈련시키는 매개변수(파라미터) 수도 많아진다.

하지만 대상 모델이 PC가 아니라 모바일이기 때문에 필요한 부분에 특화한 형태로 개발하면서 동시에 성능 저하는 없도록 만드는 것이 관건이었다. 이 과정에 들어간 기술들이 삼성전자의 온디바이스 AI 폰을 구현할 수 있었던 배경이라고 김 부사장은 설명했다. 

갤럭시 AI의 주요 기능인 실시간 통화 통역 기능에서도 이 기술이 빛을 발한다. 음성인식과 번역은 오래 전부터 AI 기술이 활용되던 기능이었다. 김 부사장은 "기존 음성인식 AI 모델이 간단한 명령어를 인식하는 수준에 집중했다면 갤럭시 S24는 일상생활에서 사용자들이 말하는 것을 모두 인식할 수 있는 수준으로 설계를 새로 했다"고 말했다. 언어모델 학습 방식도 바꿨다.

전통적인 AI 학습의 경우 언어별로 AI 모델을 설계하고 학습한다. 그러나 그 과정에서 특정 언어에 성능이 치우치는 등의 문제가 발견됐고, 이를 개선하기 위해 언어 구분 없이 모두 학습한 후 필요한 전통적인 트레이닝 방식에선 언어별로 AI 모델을 설계하고 트레이닝해왔으나 특정 언어에 치우친 성능 등의 문제를 발견했고 이를 개선하기 위해 언어 구분 없이 모두 학습한 후 필요 없는 기능을 제거하는 파인튜닝을 통해 디바이스 내에서 AI 기능을 무리없이 구현할 수 있게 했다.

김영집 삼성전자 MX사업부 랭귀지 AI 팀장(부사장)은 18일(현지시간) 미국 캘리포니아 실리콘밸리에 위치한 삼성리서치센터에서 갤럭시 AI 개발 배경에 대해 설명하고 있다. [사진=삼성전자]

◆"사용자 중심의 맞춤형 폰 탄생"…사용자 패턴 학습은 안한다

번역의 경우 사용자가 해당 기능을 사용하는 환경을 고려했다. 김 부사장은 "로밍이 필요하거나 네트워크가 불안정한 해외 지역에서도 안전하게 번역을 쓸 수 있도록 네트워크 없이도 번역 서비스를 이용할 수 있게 하자는 것이 핵심이었다"고 설명했다. 이를 위해 기존에 보유한 대형 모델은 온디바이스 최적화 버전으로 성능 손실 없이 빠르게 동작할 수 있게 개발했다.

개인맞춤형 디바이스를 지향하지만 갤럭시S24는 아직 사용자 패턴을 학습하지는 않는다. 김 부사장은 "사용자 패턴은 일종의 양날의 검"이라면서도 "결국 사용자를 위한 맞춤형 기능으로 가야한다는 점엔 공감하기에 안전을 보장하면서 개인만의 기능을 구현하기 위한 기술은 개발 중"이라고 부연했다. 공통적으로 사용자가 원하는 기능은 소프트웨어 업그레이드 등으로 보완한다.

AI 학습 데이터에 대한 윤리 원칙도 별도로 마련해 공정하고 투명하고 책임 있는 AI 사용을 보장한다. 의도한 내용이 아닌 데이터나 사실이 아닌 내용을 생성하는 할루시네이션 등을 방지하기 위해 세이프필터와 세이프가드도 탑재했다.

◆AI 온·오프 가능…온디바이스 최적화 디바이스 확장성도 제시

갤럭시S24에 탑재된 AI 기능은 사용자가 사용을 선택할 수 있다는 점도 특징이다. 사용자의 정보가 온라인 서버를 거쳐야 하는 클라우드 AI 기능의 경우 '향상된 인텔리전스 설정'에서 데이터를 일괄 차단할 수 있게 해 사용자의 선택권도 보장한다. 해당 기능을 차단할 경우 사용성에서 차이는 생긴다. 김 부사장에 따르면 클라우드 기반 번역에서 쓸 수 있는 언어는 38가지로 늘어나지만 기능을 차단하면 서버 연결을 하지 않더라도 13개 언어는 사용할 수 있다.

김 부사장은 "갤럭시S24는 최초의 AI폰을 추구하지만, 이번 제품 출시는 시작일 뿐"이라며 "사용자 경험은 더 개선되고 심화될 것이며 최종적으론 갤럭시 생태계 내 기기와 기기가 연결되고, 사용자를 이해하고 사용자를 위한 동작을 하는 '갤럭시 에코시스템'을 구축하고자 한다"고 강조했다. 현재 갤럭시 AI는 갤럭시S24에 최적화된 모델이지만 앞으로의 확장성도 의미한다. 김 부사장은 "대부분의 사용자들이 쓰고 있는 삼성전자의 제품에는 대부분 AI가 들어가 있다"며 "더 발전된 형태로 모든 사용자에게 확대될 것이다. 타블렛, 워치와 같은 웨어러블 기기, 노트북 등까지 지원될 것으로 보인다"고 전망했다. 

올해 상반기 내에는 지난해 출시된 제품인 갤럭시S23과 갤럭시Z플립5, 갤럭시Z폴드5 등에서도 갤럭시 AI 기능을 활용할 수 있도록 업데이트가 진행된다. 김 부사장은 "모델별로 사양 차이가 조금씩 있기 때문에 하드웨어적인 성능의 한계가 있는 몇 가지 기능을 제외하곤 대부분 동일한 기능이 제공될 것"이라고 설명했다.

갤럭시 AI 유료화 정책에 대해선 2025년까진 무료라는 입장이 유지됐다. 김 부사장은 "2025년 이후 계획에 대해선 논의된 바가 없다"고 덧붙였다.

SRA 내부를 돌아다니는 패트롤 파우(patrol paw) 경비 로봇. [사진=조수빈 기자]

한편 SRA는 삼성전자의 모바일, 헬스 및 메디컬, 네트워크, 디스플레이, 가전 등을 포괄하는 디바이스 경험(DX) 부문의 선행 연구개발 조직으로, 국내외 14개국에 15개 연구소를 운영하고 있다. 그중 실리콘밸리에 위치한 SRA는 삼성전자의 해외 R&D 핵심기지로 갤럭시 AI 등 여러 기술 개발 지원에 앞장서고 있다. 현장에선 경비견 로봇 '패트롤 파우(patrol paw)'가 SRA를 순찰하고 있어 눈길을 끌었다.

beans@newspim.com

[뉴스핌 베스트 기사]

사진
최태원, 재상고…대법서 재심리 [서울=뉴스핌] 백승은 기자 = 최태원 SK그룹 회장이 노소영 아트센터 나비 관장에게 9440억원의 재산분할금을 지급하라는 서울고법 파기환송심 판결에 불복해 대법원에 재상고했다. 최 회장 측은 14일 오후 늦게 법원에 상고장을 제출했다. 최 회장 측은 "최태원 회장은 여러 사정을 고려해 고심 끝에 상고장을 제출했다"며 "주주들과 그룹 경영에 대한 부정적 영향을 최소화하겠다는 자세로 향후 절차에 임하겠다"고 밝혔다. 앞서 지난달 24일 서울고법 가사1부(재판장 이상주)는 최 회장과 노 관장의 재산분할 파기환송심 선고기일을 열고 "최 회장이 노 관장에게 9440억원과 판결 확정 다음 날부터 지급일까지 연 5%의 이자를 지급하라"고 선고한 바 있다. 재산분할금 9440억원 기준 지연이자는 1년에 약 472억원이다. 한 달로 환산하면 약 39억3300만원, 하루 기준으로는 약 1억3000만원에 달한다. 민사소송법상 상고·재상고 제기 기간은 판결서가 송달된 날부터 14일이다. 이 사건의 파기환송심 판결서는 지난 1일 0시 양측에 송달됐는데, 송달 당일을 기한 계산에 포함하면 재상고 기한은 14일 오후 11시 59분까지였다. 최 회장 측의 재상고 결정에 따라 최 회장이 노 관장에게 지급해야 할 재산분할 등의 파기환송심 판결은 확정되지 않고 대법원에서 다시 심리된다. 대법원은 파기환송심이 앞서 제시한 법리와 취지를 충실하게 반영했는지, 재산분할 비율 산정 과정에 법리 오해 부분은 없는지 등에 대해 심리할 방침이다. 대법원 판단 전까지 파기환송심 판결은 확정되지 않는다. 한편 두 사람은 노 관장이 미국 시카고대 유학 중 인연을 맺고 1988년 청와대 영빈관에서 결혼해 슬하에 세 자녀를 뒀다. 다만 최 회장이 2015년 한 일간지에 혼외 자녀의 존재를 공개해 파경 사실을 알렸다. 이후 2017년 7월 이혼 조정을 신청했지만 결렬됐다. 이듬해인 2018년 노 관장을 상대로 이혼소송을 제기하자 노 관장도 이혼에 응하겠다며 2019년 12월 맞소송했다. 1심 재판부는 '최 회장이 노 관장에게 재산분할로 현금 665억원과 위자료 1억원을 지급하라'고 판단했지만 양측 모두 불복했다. 반면 2심 재판부는 최 회장이 보유한 주식회사 SK 지분도 재산분할 대상이라고 보고 재산분할 수준을 대폭 늘어난 1조3808억원으로 판단했다. 위자료 역시 크게 늘어난 20억원을 지급하라고 판결했다. 노 관장의 아버지인 노태우 전 대통령의 '300억원 비자금'이 SK그룹 성장에 상당 부분 기여한 점, 노 관장의 가사와 자녀 양육 등이 가정에 기여한 부분이 있다고 본 결과다. 지난해 10월 대법원은 위자료 20억원은 확정했지만, 재산분할은 파기환송하고 서울고법에 돌려보냈다. 노 전 대통령의 비자금은 불법 자금이라 노 관장의 기여로 평가할 수 없다고 봤다. 파기환송심 재판부도 이런 판단을 유지했다. 100wins@newspim.com 2026-08-15 00:04
사진
美 AI 기업들, 사용료 파격 인하 [서울=뉴스핌] 최원진 기자= 오픈AI, 앤스로픽 등 미국의 선도적 인공지능(AI) 기업들이 가격 경쟁력을 앞세운 중국산 AI 모델의 추격을 저지하기 위해 잇따라 대규모 가격 인하에 나섰다. 파이낸셜타임스(FT)는 14일(현지시간)  데이터 분석 업체 실리콘 데이터(Silicon Data)의 토큰 가격 지수를 인용해, 7월 중순 이후 미국 주요 AI 기업들이 고객에게 부과하는 모델 이용 가격이 25% 가까이 급락했다고 보도했다. 이 같은 '가격 전쟁'은 문샷, 딥시크 등 중국 AI 개발사들이 저렴하고 성능이 뛰어난 모델을 앞세워 실리콘밸리부터 유럽에 이르기까지 시장 점유율을 빠르게 확대하는 가운데 발생했다. 클로드 페이블 로고 [사진=블룸버그] 최근 오픈AI는 자사 모델 중 "가장 빠르고 경제적인" 'GPT-5.6 루나(Luna)'의 이용 가격을 80% 전격 인하했다. 입력 토큰당 가격은 100만 개당 1달러에서 0.20달러로, 출력 토큰은 6달러에서 1.20달러로 크게 낮췄다. 앤스로픽 역시 최상위 모델인 '페이블(Fable) 5'의 절반 가격에 이용할 수 있는 '클로드 오퍼스(Opus) 5'를 출시했다. 입력 100만 토큰당 5달러, 출력 25달러 수준이다. 앤스로픽은 당초 오는 9월 예정됐던 '소넷 (Sonnet) 5' 모델의 가격 인상 계획도 철회했다. 미국 빅테크의 이 같은 행보는 최고 성능 중심의 독점형(proprietary) AI 경쟁에서 '가격 대 성능비' 중심의 시장 방어로 전략이 수정되고 있음을 보여준다. 특히 오픈AI와 앤스로픽이 기업 고객의 요금제를 기존 '정액제'에서 실제 컴퓨팅 자원 소비량에 따라 부과하는 '사용량 기반 요금제'로 전환하면서 기업들의 AI 비용 부담이 급증한 점이 원인이 됐다. 이에 도어대시, 에어비앤비 등 주요 기업들은 AI 지출 한도를 설정하거나, 비용 절감을 위해 오픈소스로 공개된 중국산 AI 모델을 적극 도입하기 시작했다. 중국산 오픈 모델들은 자유롭게 다운로드해 수정할 수 있어 비용 효율성이 높다. 시장에서는 조 단위 달러 가치로 기업공개(IPO)를 준비 중인 미국 AI 기업들이 천문학적인 투자 비용 대비 수익성을 증명해야 하는 상황에서, 고객 이탈을 막기 위해 수익성 악화를 감수하고 가격을 내린 것으로 보고 있다. 웹 호스팅 제공업체 호스팅어(Hostinger)의 만타스 루카우스카스 AI 기술 책임자는 "미국 AI 기업들이 최상위 프리미엄 모델의 가격은 유지한 채, 허리가 되는 중급 모델의 가격을 낮춰 시장을 방어하고 있다"며 이번 가격 변동은 미 빅테크들이 자사의 가장 선도적인 모델 가격을 지켜낼 수 있는지 시험하는 "첫 번째 진짜 시험대"라고 분석했다. wonjc6@newspim.com 2026-08-14 14:27
기사 번역
결과물 출력을 준비하고 있어요.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동