전체기사 최신뉴스 GAM
KYD 디데이
GAM 일반

속보

더보기

[GAM] 온디바이스 AI 시대 ① 손 안의 인공지능

기사입력 :

최종수정 :

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

생성형 AI에서 에지 AI로
기기에 직접 탑재되는 AI
2024년부터 거대한 트렌드

이 기사는 11월 30일 오후 3시37분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.

[서울=뉴스핌] 황숙혜 기자 = 2023년 생성형 인공지능(AI)이 주도했던 지구촌 AI 시장이 2024년 온디바이스(on device) 시대를 맞을 전망이다.

클라우드 서버를 축으로 작동했던 AI 알고리즘이 말 그대로 개별 기기에서 작동한다는 것. 손 안의 AI 시대가 열리는 셈이다.

온디바이스 AI 기술을 업계에서는 에지 AI(Edge AI)라고 지칭한다. 사용자와 직접 접촉하는 하드웨어를 의미하는 에지 디바이스에 AI를 접목한 형태이기 때문이다.

월가에서는 차세대 AI로 기대를 모으는 에지 AI 시대를 주도할 유망주를 발굴, 포트폴리오에 적극 편입하는 움직임이다.

모간 스탠리는 투자 보고서를 내고 2024년 에지 AI가 거대한 트렌드를 형성할 것이라고 전망하고, 해당 기술을 확보하고 두각을 나타내는 종목들을 적극 매입할 것을 권고했다.

AI를 형상화한 이미지 [자료=블룸버그]

지금까지 AI 기술은 PC나 스마트폰, 태블릿, 스마트워치를 포함한 웨어러블 등 각종 기기에서 수집한 데이터를 클라우드 서버로 전송해 분석한 뒤 다시 기기로 내보내는 방식을 취했다.

반면 온디바이스 AI는 클라우드 서버를 거치지 않고 개별 스마트 기기가 자체적으로 정보를 수집하고 연산하는 기술을 의미한다.

온디바이스 AI 홍보물 [자료=마텔리오]

단말기 내부에서 모든 데이터를 처리하기 때문에 보다 빠른 AI 알고리즘 구동이 가능하다고 시장 전문가들은 설명한다.

뿐만 아니라 중앙 클라우드 서버를 거치지 않아도 되기 때문에 기존 클라우드 기반 AI의 대표적인 문제로 지목되는 보안 문제 역시 해결할 수 있어 온디바이스 AI의 선호도가 크게 상승할 전망이다.

업계 전문가들은 별도의 네트워크가 필요 없기 때문에 인터넷 연결이 어려운 상황에서도 실시간 번역과 같은 작업이 온다바이스 AI에서는 가능하다고 강조한다.

지금까지는 클라우드 서버가 AI의 두뇌 역할을 하는 한편 사용자와 접점을 이루는 스마트폰과 그 밖에 기기가 눈과 귀의 역할을 했는데 에지 AI의 경우 하드웨어에 직접 AI 알고리즘이 탑재되기 때문에 기기가 작동하는 환경을 본질적으로 파악하고 더욱 적절한 결정을 내릴 수 있도록 한다.

이처럼 온디바이스 AI는 클라우드 서버에 의존하는 AI에 비해 다양한 강점을 지녔을 뿐 아니라 스마트 기기를 이용하는 사람들의 일상에 커다란 변화를 가져올 전망이다.

딥러닝(deep learning)과 시스템 반도체 신경망처리장치(NPU, Neural Processing Unit) 등 최첨단 솔루션을 접목한 에지 AI가 훨씬 빨라진 연산을 수행하는 한편 식습관부터 운동량까지 하드웨어 이용자의 다양한 생활 습관을 직접 파악해 다양한 맞춤형 서비스를 제공하는 등 실생활과 AI가 한층 더 밀착할 것이라고 업계 전문가들은 예상한다.

개인용 스마트기기 이외에 냉장고와 청소기, 세탁기 등에 접목하는 사물인터넷(IoT)에도 에지 AI가 적용되면 말 그대로 삶이 달라진다고 과학자들은 입을 모은다.

모간 스탠리는 이번 보고서에서 "2023년 생성형 AI와 클라우드 GPU가 뜨거운 화두를 이뤘고, 이들 기술은 앞으로도 기존 머신러닝 트렌드의 핵심 축을 이룰 것"이라며 "하지만 AI가 소비자들의 일상 생활과 기업의 생산성에 보다 깊숙이 침투하려면 – 곧 그렇게 될 것으로 예상하는데 – 모든 작업이 소비자들의 손에서 작동하는 기기에 직접 작용해야 한다"고 설명했다.

이 같은 기술이 바로 에지 AI이며, 해당 기술이 본격적으로 작동하면 비용을 줄이고 시간을 단축시키는 등 커다란 이점이 발생한다고 모간 스탠리는 강조한다.

특히 비용 측면의 효과는 IT 업계의 집중 조명을 받고 있다. 기존의 데이터 센터의 경우 조회 한 건당 비용이 과거 인터넷 검색에 비해 10배 가량 높다.

클라우드가 분명 막강한 컴퓨팅 파워를 제공하지만 그 비용 역시 만만치 않다는 지적이다. 반면 에지 디바이스에서 추론 소프트웨어를 가동하는 데 발생하는 한계 비용(marginal cost)은 '제로'에 가깝다고 모간 스탠리는 강조한다.

이번 보고서는 쉽게 생각할 수 있는 실생활 속의 에지 AI 사례로 스마트폰의 안면 인식과 스마트 스피커의 음성 인식을 제시했다.

모간 스탠리는 "생성형 AI가 등장한 데 따라 보다 고차원적인 컴퓨팅을 실행하기 위한 각종 기기의 업그레이드가 가속화되고 있다"며 "이 같은 AI 주도의 유스 케이스(use case)가 일상 생활 속의 각종 디바이스에 접목될 것"이라고 내다봤다.

 

shhwang@newspim.com

[뉴스핌 베스트 기사]

사진
타이거 우즈 탄 차량 전복·체포 [서울=뉴스핌] 이웅희 기자·한지용 인턴기자 = '골프 황제' 타이거 우즈(50)가 또 '음주 또는 약물 운전'(DUI·Driving Under the Influence) 혐의에 연루돼 체포됐다.  미국 ABC 방송과 AP통신 등에 따르면 우즈는 28일(한국시간) 미국 플로리다주 마틴 카운티 주피터 아일랜드 인근 도로에서 차량을 운전하던 중 사고를 일으킨 뒤 경찰에 체포돼 구금됐다. [서울=뉴스핌] 박상욱 기자 = 타이거 우즈. [사진=로이터] 2026.03.19 psoq1337@newspim.com 사고는 이날 오후 2시를 넘긴 시점에 발생했다. 우즈가 몰던 차량은 왕복 2차선 도로에서 다른 차량과 충돌한 뒤 전복된 것으로 전해졌다. 우즈는 큰 부상을 입지 않은 것으로 확인됐다. 다만 현장에 출동한 경찰은 우즈의 상태를 확인하는 과정에서 음주 또는 약물 영향 아래 운전을 했다고 의심했고, 곧바로 체포했다. 현재까지 우즈가 술에 취한 상태였는지, 약물 복용에 따른 것인지는 명확히 밝혀지지 않았다. 우즈의 교통사고는 이번이 처음이 아니다. 그는 2021년 2월 미국 캘리포니아주 로스앤젤레스 인근에서 차량 전복 사고를 당해 다리 등에 중상을 입고 장기간 재활 치료를 받은 바 있다. 당시 경찰은 과속과 운전 부주의를 사고 원인으로 지목했으며, 음주나 약물 정황은 없다고 결론 내렸다. 타이거 우즈. [사진=로이터] 또한 우즈는 2017년에도 DUI 혐의로 체포된 전력이 있다. 당시 그는 도로변에 정차된 차량 운전석에서 잠든 채 발견됐으며, 진통제 복용 상태였다고 진술했다. 이후 법정에서 혐의를 인정하고 벌금과 보호관찰, 사회봉사 등의 처분을 받았다. 우즈는 지난해 9월 일곱 번째 허리 수술을 받은 후 선수 생활 연장을 준비해 왔다. 우즈는 다음달 9~12일 열리는 마스터스 출전 여부를 아직 고민 중인 것으로 알려졌다. 또 다음해 열리는 아일랜드 라이더 컵의 미국 단장직 승낙 여부도 이달말까지 결정해야 하는 상황이다. football1229@newspim.com 2026-03-28 08:59
사진
'삼전닉스' 흔든 구글 '터보퀀트' [서울=뉴스핌] 서영욱 기자 = 구글이 공개한 새 기술 '터보퀀트(TurboQuant)가 인공지능(AI) 반도체 시장에 파장을 일으키고 있다. KV(key-value) 캐시를 압축해 메모리 사용량을 최대 6분의 1 수준으로 줄이면서 비용과 속도를 동시에 개선한 것이 핵심이다. 다만 비용 하락이 AI 확산을 자극하는 '제번스 역설'이 작동할 경우, 고대역폭메모리(HBM)와 같은 고성능 메모리 수요는 오히려 확대될 수 있다는 전망이 나온다. [AI 인포그래픽=서영욱 기자] ◆메모리 6분의 1로…속도까지 끌어올린 '터보퀸트'27일 반도체업계에 따르면 구글이 지난 24일(현지시간) 공개한 '터보퀀트'는 대규모언어모델(LLM)의 핵심 병목으로 꼽히는 메모리 사용량을 획기적으로 줄이는 기술로, 비용과 속도를 동시에 개선할 수 있는 해법으로 주목을 받는다. LLM은 문장을 생성할 때 이전 대화 내용을 'KV 캐시' 형태로 저장해 활용한다. KV 캐시는 모델이 이미 처리한 단어들의 정보를 임시로 저장해두는 일종의 '작업 메모리'로, 같은 계산을 반복하지 않고 다음 문장을 빠르게 생성하도록 돕는 역할을 한다. 대화가 길어질수록 이 캐시가 기하급수적으로 늘어나며 GPU 메모리를 빠르게 소모한다. 그동안 업계는 연산 성능을 높이는 데 집중해왔지만, 실제 서비스 환경에서는 메모리 한계가 속도 저하와 비용 상승의 주요 원인으로 지목돼 왔다. 터보퀀트는 이 지점을 겨냥한 기술이다. 핵심은 데이터를 저장하는 방식을 바꿔 같은 정보를 훨씬 적은 용량으로 담아내는 데 있다. 기존에는 복잡한 수치 데이터를 그대로 저장했다면, 터보퀀트는 이를 '크기(magnitude)와 방향(direction)'으로 단순화해 표현한다. 구조 자체를 바꿔 압축 효율을 끌어올린 셈이다. 여기에 압축 과정에서 발생할 수 있는 오차를 최소한의 정보로 보정하는 방식이 더해졌다. 극히 적은 추가 데이터로 오류를 보정해 정확도를 유지하는 구조다. 이 덕분에 기존 압축 기술의 한계였던 성능 저하 문제를 피할 수 있었다. 구글에 따르면 터보퀀트를 적용하면 KV 캐시 메모리를 최대 6분의 1 수준으로 줄일 수 있다. 저장 용량도 기존 16~32비트에서 약 3비트 수준까지 낮아진다. 메모리 사용량이 줄어들면서 연산 속도도 함께 개선돼, 일부 환경에서는 최대 8배까지 처리 속도가 향상된 것으로 나타났다. 특히 별도의 재학습 없이 기존 모델에 적용할 수 있다는 점도 장점으로 꼽힌다. ◆메모리주 급락에도…"수요 감소는 과도한 우려"터보퀀트가 공개되자 글로벌 금융시장이 출렁였다. 메모리 사용 효율이 크게 개선될 경우 향후 반도체 수요가 위축될 수 있다는 우려가 반영되면서 메모리 관련 종목이 일제히 하락했다. 미국 증시에서는 마이크론을 비롯한 메모리 업체 주가가 급락했고, 국내에서도 삼성전자와 SK하이닉스 주가가 동반 약세를 보였다. 다만 반도체업계에서는 이를 구조적 수요 감소로 해석하기에는 이르다는 분석이 우세하다. 터보퀀트가 메모리 사용량을 줄이는 것은 사실이지만, 이는 개별 AI 모델 단위의 효율 개선일 뿐 전체 수요 감소로 직결되지는 않는다는 것이다. 오히려 비용 절감을 통해 AI 서비스 확산을 가속화할 경우 전체 메모리 수요는 증가할 수 있다는 관측도 나온다. 특히 고대역폭메모리(HBM)와 같은 고성능 메모리는 단순 저장 용량보다 데이터 처리 속도와 대역폭이 핵심 경쟁력인 만큼, 터보퀀트와 직접적인 대체 관계에 있지 않다는 분석도 제기된다. 메모리 효율화 흐름과는 별개로 고성능 메모리 수요는 성장세를 이어갈 가능성이 크다는 분석이다. 지난 18일 오전 경기 수원시 영통구 수원컨벤션센터에서 열린 '제57기 삼성전자 정기주주총회'에서 주주들이 HBM4, HBM4E 메모리를 보고 있다. [사진=뉴스핌DB] ◆효율 높일수록 수요 늘어…'제번스 역설' 재현할 수도효율이 높아질수록 오히려 수요가 늘어나는 '제번스의 역설'이다. 기술 발전으로 비용이 낮아지면 활용 범위가 확대되고, 결과적으로 전체 수요가 증가하는 현상이다. 이 같은 흐름은 과거 산업 사례에서도 확인된다. 1990년대 인터넷 확산 초기에는 이메일과 디지털 문서 도입으로 종이 사용량이 줄어들 것이라는 전망이 우세했지만, 실제로는 PC와 프린터 보급, 웹 문서 출력 증가가 맞물리며 오히려 종이 사용량이 급증한 바 있다. 업계에서는 이를 효율 개선이 수요 감소로 이어지지 않고 오히려 전체 수요를 확대시키는 '리바운드 효과'의 대표 사례로 보고 있다. AI 역시 유사한 경로를 따를 가능성이 크다는 분석이다. 실제 최근 사례에서도 유사한 흐름이 나타났다. 저비용·고효율 AI 모델을 내세운 딥시크(DeepSeek) 공개 당시 반도체 업종 주가가 단기 급락했지만, 이후 AI 수요 확대 기대가 반영되며 빠르게 회복세를 보였다. 김일혁 KB증권 연구원은 "터보퀀트로 메모리 사용 효율이 개선되더라도 수요 감소로 직결되기보다는 AI 활용 확대를 통한 수요 증가 요인으로 작용할 가능성이 크다"고 분석했다. 이어 "컨텍스트 윈도우 확대와 AI 에이전트 확산, 온디바이스 AI 성장 등이 맞물리면서 메모리 수요는 구조적으로 확대될 것"이라고 덧붙였다. syu@newspim.com 2026-03-27 16:54
기사 번역
결과물 출력을 준비하고 있어요.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동