전체기사 최신뉴스 GAM 라씨로
KYD 디데이
산업 전기·전자

속보

더보기

'AI·데이터센터·HPC 최적화'…삼성·SK, 지능형 메모리 'PIM' 상용화 박차

기사입력 : 2024년09월25일 14:53

최종수정 : 2024년09월25일 14:53

삼성전자 'HBM-PIM' 최초 개발…AMD GPU 'MI-100' 가속기 카드에 탑재
SK하이닉스, LLM 특화된 'AiMX' 개발…'라마3 70B' 활용해 성능 시연도

[서울=뉴스핌] 김정인 기자 = 인공지능(AI) 시대가 도래하면서 데이터 처리 속도와 전력 효율이 중요해진 가운데 '프로세스 인 메모리(PIM)' 기술이 주목받고 있다. 삼성전자와 SK하이닉스는 PIM을 '차세대 AI 솔루션'으로 삼고 기술 개발에 박차를 가하고 있다.

◆ PIM, 데이터 처리 속도와 전력 효율 극대화

25일 업계에 따르면 삼성전자와 SK하이닉스는 현재 PIM 기술을 AI, 데이터센터, 고성능컴퓨팅(HPC) 분야를 대상으로 시험적 적용을 실시하고 있다. 양사는 테스트를 통해 기술 안정성이 입증되면 본격적으로 상용화를 시작할 전망이다.

PIM은 데이터가 저장된 메모리 자체에서 데이터를 처리해, CPU와 메모리 간의 불필요한 데이터 이동을 줄이고 처리 속도를 높이는 기술이다. 즉, 메모리 내에 간단한 연산 유닛을 두고 데이터를 처리한 후에 그 결과만을 CPU에 전달하거나, 아예 필요한 연산을 메모리 내에서 끝내버리는 방식이다. 이렇게 하면 병목 현상을 줄이고, 전력 효율성을 크게 향상시킬 수 있다.

삼성전자와 SK하이닉스는 PIM을 '차세대 AI 솔루션'으로 삼고 기술 개발에 힘을 쏟고 있다. 사진은 MS코파일럿이 시각화한 PIM 솔루션의 모습. [사진=MS코파일럿]

PIM은 특히 대량의 데이터를 빠르게 처리해야 하는 AI 연산, 딥러닝, 데이터베이스 처리 등의 분야에서 큰 이점을 가지고 있다. 이러한 응용 분야에서는 데이터의 이동보다 처리 자체가 중요한데, PIM은 이를 효율적으로 수행할 수 있다.

◆ HBM, GDDR6 등 다양한 제품군에 탑재…AI, HPC, 데이터센터 테스트 진행

삼성전자와 SK하이닉스는 PIM 기술 개발에서도 활발한 연구를 이어가고 있다.

삼성전자는 2021년 D램을 여러 겹으로 쌓는 AI가속기용 메모리 반도체인 고대역폭메모리(HBM)에 PIM을 결합한 HBM-PIM을 업계 최초로 개발했다. HBM-PIM은 기존의 HBM 인터페이스와 호환성을 유지하면서, 연산 기능을 추가해 기존 시스템에 쉽게 통합될 수 있다는 장점이 있다. 이를 통해 다양한 시스템에서 쉽게 적용될 수 있다. 현재는 다양한 고객들과 협력해 HBM-PIM 기술을 시험하고, AI와 HPC 분야에서 실질적인 성능 향상을 확인하는 단계다.

또 2022년에는 HBM3 기반 PIM 개발을 마쳤다. 지난해에는 AMD의 GPU인 'MI-100' 가속기 카드에 HBM-PIM 메모리를 탑재하기도 했다. 또 LPDDR5 및 GDDR6 메모리에도 PIM 기능을 확장해 모바일 기기나 그래픽 처리 장치에서도 PIM 기술을 활용할 수 있도록 개발 중이다.

SK하이닉스는 2022년 처음으로 PIM 개발 성과와 해당 기술이 적용된 첫 제품인 'GDDR6-AiM'을 선보였다. 이 기술은 고속 메모리인 GDDR6에 PIM 기능을 추가해 메모리 내에서 연산을 처리함으로써 데이터 전송 병목을 줄이고 성능과 전력 효율성을 향상시키는 데 중점을 뒀다.

지난해엔 AI 연산 가속을 위한 메모리 솔루션 'AiMX'을 개발했다. 이는 AiMX는 GDDR6-AiM 여러 개를 탑재한 PCle 가속기 카드 형태의 솔루션으로 대규모언어모델(LLM)에 특화된 가속기 카드 제품이다. 회사는 이달 초 미국 캘리포니아주 새너제이에서 열린 'AI 하드웨어 & 엣지 AI 서밋 2024'에서 최신 LLM인 '라마(Llama)3 70B'를 활용해 AiMX의 성능을 시연하기도 했다.

kji01@newspim.com

CES 2025 참관단 모집

[뉴스핌 베스트 기사]

사진
코스트코, 한국 순이익 67% 미국 본사로 [서울=뉴스핌] 남라다 기자 = 미국계 창고형 할인점 코스트코가 한국에서 거둔 연간 순이익의 60% 이상을 배당금으로 챙긴 것으로 나타났다. 19일 코스트코 한국 법인인 코스트코코리아가 공시한 감사보고서에 따르면 이 회사는 이번 회계연도(2023년 9월∼2024년 8월) 영업이익이 2186억원으로 집계됐다. 지난 회계연도보다 16%가량 늘어난 수준이다. 미국 대형 유통 업체 코스트코 매장 앞에 생필품을 구매하려는 소비자들이 대기 중이다. [사진=로이터 뉴스핌] 같은 기간 매출은 6조5301억원으로 8%가량 증가했고 당기순이익은 58% 급증한 2240억원을 기록했다. 이번 회계연도 코스트코코리아의 배당금은 1500억원으로, 당기순이익의 67%에 이른다. 지난 회계연도에서도 코스트코코리아는 당기순이익(1416억원)을 뛰어넘는 2000억원(배당 성향 141.2%)의 배당금을 지급한 바 있다. 코스트코코리아는 미국 본사인 코스트코 홀세일 인터내셔널이 100% 지분을 보유하고 있다. 서울, 인천, 경기 등 전국에 19개 매장을 운영하고 있으며, 임직원 수는 7351명이다. 미국 본사가 챙기는 배당금은 1000억원이 넘지만, 정작 한국 기여도는 낮은 수준에 불과하다. 이번 회계연도 코스트코코리아의 기부액은 12억2000만원으로 지난 회계연도(11억8000만원)보다 3.5% 증가하는 데 그쳤다. 미국 본사가 가져갈 배당액의 1%에도 못 미치는 액수다. nrd@newspim.com  2024-11-19 14:32
사진
해임이라더니…김용만 김가네 회장 복귀 [서울=뉴스핌] 전미옥 기자 = 성범죄 혐의로 입건된 분식프랜차이즈 '김가네'의 김용만 회장이 대표이사직에서 해임됐다가 다시 복귀했다. 18일 업계에 따르면 김용만 회장은 지난 8일 아들인 김정현 대표를 해임하고 대표이사직에 올랐다. 김 회장의 아내인 박은희씨도 사내이사 등록이 말소됐다. 해당 내용은 지난 11일 등기가 완료됐다. 김가네 김용만 회장. [사진= 뉴스핌DB] 김 회장은 직원 성범죄 사건으로 인해 지난 3월 대표이사 자리에서 물러나고 아들인 김정현씨가 대표이사를 지냈다. 그런데 최근 아들인 김 전 대표와 아내 박씨와 김 회장 간 경영권 분쟁이 촉발되면서 스스로 대표이사직에 다시 오른 것으로 관측된다. 김 회장은 김가네 지분 99%를 소유하고 있다. 이에 대해 김가네 관계자는 "아직 정리가 되지 않아 드릴 말씀이 없다"고 말했다.  앞서 김용만 회장은 지난 7월 준강간치상과 업무상 위력 등에 의한 추행(성폭력처벌법 위반) 혐의로 입건돼 경찰의 조사를 받고 있다. 또한 김 회장은 사내 경리 담당 직원을 통해 회사명의 계좌에서 수억 원 상당을 자신을 대리하는 법무법인 계좌로 빼돌렸다는 횡령 의혹도 받고 있다. 이번 사건은 김 회장과 이혼소송을 진행 중인 아내인 박 씨의 고발로 알려졌다. romeok@newspim.com 2024-11-18 16:59
안다쇼핑
Top으로 이동