인공지능 연산 수행에 최적화된 NPU 성능이 핵심
삼성전자 스마트폰·LG전자 가전제품에 온디바이스 AI 적용
기업들의 신기술 개발은 지속가능한 경영의 핵심입니다. 이 순간에도 수많은 기업들은 신기술 개발에 여념이 없습니다. 기술 진화는 결국 인간 삶을 바꿀 혁신적인 제품 탄생을 의미합니다. 기술을 알면 우리 일상의 미래를 점쳐볼 수 있습니다. 각종 미디어에 등장하지만 독자들에게 아직은 낯선 기술 용어들. 그래서 뉴스핌에서는 'Tech 스토리'라는 고정 꼭지를 만들었습니다. 산업부 기자들이 매주 일요일마다 기업들의 '힙(hip)' 한 기술 이야기를 술술~ 풀어 독자들에게 전달합니다.
[서울=뉴스핌] 정승원 기자 = 인공지능(AI) 기술에 대한 관심이 뜨겁습니다. 특히 인터넷 연결 없이도 기기 자체에서 작동하는 '온디바이스 AI' 기술에 대한 관심이 높습니다. AI 사용에 있어 중요한 점 중 하나가 '보안성'인데, 네트워크 없이도 사용할 수 있는 온디바이스 AI가 관심을 받는 것은 어찌 보면 당연할지도 모르겠습니다.
온디바이스 AI는 인터넷 연결 없이 기기 자체에서 AI 모델에 필요한 연산을 수행하는 것을 의미합니다. 기존의 클라우드 서버 기반의 AI와 대비되는 개념입니다. 기기 자체적으로 정보를 처리할 수 있어 저지연, 보안 향상, 유연성 등의 이점을 갖고 있습니다. 온디바이스 AI는 클라우드 AI에 비해 작은 용량, 비용 감소, 전력 소모량 감소, 빠른 응답속도, 맞춤형 서비스 제공 등의 장점을 갖고 있습니다.
 |
| 스마트폰 사용자들은 이 같이 스마트폰이 자신 만을 위한 정보를 제공해주는 첨단화된 일상을 경험할 수 있을 전망이다. 사진은 삼성전자의 '실시간 통역 통화(AI Live Translate Call)' 기능 일러스트레이션. [사진=삼성전자] |
온디바이스 AI 구현을 위해서는 소프트웨어적으로는 모델 경량화가 필요하며 하드웨어적으로는 칩셋 구조 변화가 필수입니다. 온디바이스 AI가 제대로 구현되려면 중앙처리장치(CPU), 그래픽 처리장치(GPU), 신경망 처리장치(NPU) 등 별도 칩을 하나로 통합하는 시스템온칩(SoC) 기술이 중요합니다. 이중에서도 AI 작업 처리에 중요한 NPU 성능이 핵심입니다.
GPU가 다양한 연산에 활용 가능한 범용 칩이라면 NPU는 딥러닝과 AI 서비스 연산에 특화됐습니다. NPU는 GPU처럼 병렬 처리에 최적화된 구조를 갖추고 있지만 인공지능 개발에 필요한 산술 논리 구성 요소를 갖춰 기계 학습, 심화 학습 알고리즘 실행에 최적화돼 있습니다. NPU칩을 활용하면 서버와 통신 없이 저전력으로 AI를 사용할 수 있어 온디바이스 AI에 활용할 수 있습니다.
삼성전자는 온디바이스 AI에 가장 적극적인 기업 중 하나입니다. 올해 초 온디바이스 AI가 적용된 스마트폰 갤럭시S24 시리즈를 내놓았습니다. '언제 어디서나 향상된 모바일 경험을 즐겨보세요'라는 삼성전자의 광고 카피는 온디바이스 AI를 통해 가능해졌습니다.
7월에는 올림픽이 개최되는 프랑스 파리에서 온디바이스 AI가 적용된 폴더블폰 갤럭시Z 플립6와 갤럭시Z 폴드6 출시를 앞두고 있습니다. 경쟁사인 애플도 새로운 아이폰과 운영체제 iOS부터 온디바이스 AI를 사용할 수 있도록 한다는 계획입니다.
삼성전자의 애플리케이션 프로세서(AP) 엑시노스는 수년간 모바일 NPU의 성능을 향상시키며 온디바이스 AI 시대의 기반을 닦아왔습니다. 모바일 NPU 기술은 이미지 및 텍스트를 포함한 생성형 AI 애플리케이션을 디바이스 자체적으로 구동시킬 만큼 발전했고, 그 영역을 비디오와 오디오로 넓혀가고 있습니다.
삼성전자는 스마트폰 제조업체 및 업계의 기타 파트너들과 지속적으로 긴밀히 협력해 다양한 온디바이스 AI 활용 시나리오를 개발한다는 계획입니다. 현재 구글과 안드로이드 AICore 및 제미니 나노 관련 협업을 진행하고 있습니다.
가전업계에도 온디바이스 AI 바람이 불고 있습니다. LG전자는 고객에 맞춰 더 편리한 서비스를 제공하는 '공감지능' 구현에 방점을 찍고 있습니다. 조주완 LG전자 CEO는 올해 초 미국 라스베이거스에서 개최된 CES2024에서 AI를 공감 지능 (Affectionate Intelligence)으로 재정의했습니다. 공감 지능을 바탕으로 개인화를 넘어서는 '초개인화'를 이루겠다는 목표입니다. 이를 위해 인공지능연구소 산하에 '온디바이스 AI 사업화 태스크' 조직을 신설하기도 했습니다.
LG전자는 지난해 3년 이상의 연구로 온디바이스 AI칩 'DQ-C'을 자체 개발했습니다. LG전자는 온디바이스 AI를 세탁기, 건조기, 에어컨 등에 DQ-C를 적용하고 연말까지 8개 제품군 46개 모델로 적용 대상을 늘린다는 계획입니다. 삼성전자도 내년부터 가전제품에 온디바이스 AI를 탑재할 것으로 알려졌습니다.
온디바이스 AI는 정보 보안에서 강점을 갖고 있어 눈부신 속도로 발전하는 AI 시대에 계속해서 주목을 받을 것으로 예상됩니다. 스마트폰에 적용되고 가전제품에도 확대되고 있는 온디바이스 AI가 어디까지 활용될 수 있을지 기대됩니다.
 |
| AI가 적용된 LG전자 2024년형 휘센 엣지 창호형 에어컨. [사진=LG전자]. [사진=LG전자] |
origin@newspim.com
