전체기사 최신뉴스 GAM 라씨로
뉴스핌 채널 추가
뉴스핌 채널 추가 안내
산업 생활경제

[김정호의 4차혁명 오딧세이] 인공지능과 GPU

기사입력 : 2019년09월09일 08:00

최종수정 : 2019년09월09일 08:00

김정호 교수.

엔비디아 스토리

컴퓨터 구조에서 대표적으로 사용되는 반도체로는 계산 장치인 프로세서(Processor)와 메모리(Memory)가 있다. 그중에서 프로세서로는 개인용 컴퓨터에 많이 사용되는 CPU(Central Processing Unit)가 있고, 스마트폰에는 주로 AP(Application Processor)가 사용되고, 컴퓨터 그래픽 카드에는 GPU(Graphic Process Unit)가 사용된다.

이러한 프로세서 중에서 인공지능 계산을 위한 병렬처리에는 GPU가 가장 많이 사용된다. GPU 내부에는 계산기(Arithmetic Logic Unit, ALU) 코어의 개수가 수천 개 혹은 수만 개에 이른다. 그래서 동시 병렬 계산이 용이하다. 이러한 이유로 인공지능 계산에 GPU가 가장 유용한 프로세서가 된다.

이러한 배경으로 대표적인 GPU 회사인 엔비디아(NVidia)의 성장이 두드러진다. 최근에 GPU는 가상화폐 채굴에 쓰이기도 해서 한때 품절이 나기도 했다. 여기에 그치지 않고 자율주행 자동차의 인공지능 처리에도 GPU가 사용될 전망이다. 그 때문에 지난 10년간 엔비디아의 주가는 꾸준히 상승하고 있다. 이래저래 CPU, AP보다 GPU의 계속된 성장이 기대된다.

2019년 방문한 실리콘밸리의 엔비디아 신사옥 내부. [출처=KAIST]

필자의 연구실에서는 지난 10여년간 GPU와 디램이 3차원적으로 결합한 HBM(High Bandwidth Memory) 모듈을 설계하는 연구를 진행해왔다. 그 과정에서 국내의 삼성전자, SK하이닉스뿐만 아니라 엔비디아와 협력을 지속해 왔다.

HBM에서는 기존의 모듈과는 달리 실리콘 기판을 배선으로 사용해 GPU와 디램 사이의 연결선 개수를 대폭으로 늘린다. 더 빨리 많은 수의 병저렬 계산을 하기 위해서 고안됐다. 이 HBM 모듈은 주로 인공지능 서버에 사용하고 있으며, 그 가격은 1000만원에 가깝다.

이렇게 비용이 많이 드는 것이 단점이지만, 인공지능 시대를 맞아 수요는 계속 증가할 것으로 생각한다. 이러한 이유로 필자의 연구실 졸업생이 엔비디아에 여러 명 진출했다. 대학원 학생들이 인턴으로도 엔비니아에 파견 나가기도 한다.

2019년 방문한 엔비디아에서의 기술 교류 미팅. [출처=KAIST]

인공지능의 기본은 행렬 수학

인공지능에서 지능신경망인 DNN(Deep Neural Network)의 입력은 디지털 데이터이다. 그리고 데이터 입력은 일정 수의 데이터 묶음 형태로 표현된다. 이러한 디지털 데이터의 묶음을 수학 용어로 벡터(Vector)라고 한다.

예를 들어 카메라 이미지 화소점인 픽셀(Pixel) 하나에는 RGB(Red, Green, Blue) 세 가지 색깔의 배합과 밝기가 표현된다. 그러면 이미 4가지 요소를 갖는 벡터가 된다. 거기에 더해 화면 속의 위치 정보가 x, y로 들어가면 6열 벡터가 된다. 언어를 입력 벡터로 쓴다면 그 벡터 크기가 수백만개도 된다. 단어의 개수가 그만큼 많다.

이러한 입력 벡터를 다른 형태로 변환할 필요가 생긴다. 이때 벡터와 행렬(Matrix) 곱셈이 필요하다. 예를 들어 그래픽 처리에서 위치 정보가 포함된 벡터의 좌표를 변환하려고 한다면, 이 벡터에 행렬을 곱하면 된다.

보는 관찰자의 위치를 3차원으로 바꾼다면 새로운 좌표에서 다시 위치를 잡기 위해서 데이터 벡터에 좌표 변환을 하게 되는데, 이때 벡터에 좌표 변환 3x3 행렬을 곱하게 된다.

마찬가지로 인공지능 판단이나 예측에도 벡터와 행렬 계산이 사용된다. DNN에서는 입력이 데이터 벡터가 되고, 그 벡터 신호에 입력층(Input layer), 은닉층(Hidden layer), 출력층(Output layer)으로 지나가면서 계속 행렬 곱셈이 일어난다. 이러한 과정을 전전파 학습(Forward Propagation Training)이라고 한다.

거꾸로 최종 정답과의 차이를 확인하고 반대 방향으로 행렬을 곱해가면서 네트워크를 교정해 가는 과정을 역전파 학습(Backward Propagation Training)이라고 한다.

이처럼 학습과정에서 행렬계산이 수없이 일어난다. 그래서 인공지능 계산에서 가장 빈번히 일어나는 컴퓨터 계산이 행렬 곱셈과 덧셈이다. 그리고 이러한 병렬 계산에 GPU가 가장 적합한 프로세서 구조이다.

인공지능 학습과 판단에 필요한 행렬 계산식들. [출처=KAIST]

인공지능을 위한 GPU 구조

이와 같은 행렬 계산은 하나하나 순차적으로 일어나지 않고 동시에 병렬로 한다. 이렇게 동시에 병렬로 계산하는 방법으로는 컴퓨터를 병렬로 연결해서 수행하는 방법이 있다. 초기 구글 알파고에서 쓰인 방법이다.

그러나 이러한 병렬 계산을 위해서는 컴퓨터끼리 데이터를 주고받아야 한다. 컴퓨터끼리 케이블로 연결돼야 한다. 이러면 데이터를 컴퓨터 간에 이동하는 데 시간이 걸린다. GPU는 반도체 프로세서 내부에서 병렬 계산을 하므로 빠르고 효율적이다.

엔비디아 GPU의 경우, 내부에서 80여개의 SM(Streaming Multiprocessor)이 병렬 계산을 나누어서 한다. 그 SM 속에는 32개의 중간 크기의 계산블록(Warp)이 있고, 각 Warp에는 64개의 계산 코어(Thread)가 있다.

그래서 GPU 내에는 전체적으로 80x64x32=16만3840개의 병렬 계산 코어가 있다. 이들이 동시에 병렬 계산을 한다. 앞으로는 계산 코어의 개수가 100배 이상 증가할 것으로 예상한다. 모두 행렬 계산을 빠르고 효율적으로 하기 위함이다.

GPU에도 단점은 있다. 코어가 많기 때문에 코어 주변에 계산 결과를 임시로 저장하는 캐쉬(Cash) 메모리가 한정돼 있다. 그래서 매번 계산 결과를 낼 때마다 외부의 디램에 저장하고 다시 읽어 와야 하는 번거로움이 있다. GPU 외부 메모리인 디램의 성능이 지원해줘야 한다. GPU의 성능을 위해서는 디램의 성능도 같이 좋아져야 한다.

마지막으로 GPU의 어려운 점은 계산량이 너무 많아서 프로세서에서 열이 많이 발생하고, 그 결과 반도체 온도가 올라간다는 점이다. 그러면 프로세서의 계산 능력이 급속히 감소한다. 그래서 반도체 냉각 기술이 중요해지고 있다.

이처럼 GPU는 더욱 병렬화되고, 메모리와도 병렬화되며, 냉각 기술을 위한 혁신이 계속될 전망이다. 4차 산업혁명이 진행되면서 GPU의 수요와 기술 발전은 더욱 심화할 전망이다.

최신 엔비디아 GPU의 내부 구조도. [출처=KAIST]

 

[김정호 카이스트 전기 및 전자공학과 교수] joungho@kaist.ac.kr

[뉴스핌 베스트 기사]

사진
공모주 시장 '훈풍' 불자...IPO 재수생들 몸값 낮춰 '재도전' [서울=뉴스핌] 이윤애 기자 = 새해 들어 기업공개(IPO) 시장에 훈풍이 불고 있다. 지난달 상장한 기업들이 잇따라 '따상(시초가를 공모가의 두 배에 형성한 뒤 상한가 직행)'에 성공하고 수요예측에서 흥행에 성공하는 사례들이 나오면서 분위기가 반전됐다. 이에 지난해 기업공개(IPO)를 완주하지 못하고 공모를 철회했던 기업들이 재도전에 나서고 있다. 공모가를 낮추고 유통 가능 물량을 줄여 투자 매력을 높이고 있다. ◆ 미래반도체·오브젠, 잇따라 따상 성공에 기대감 ↑ 2일 금융투자업계에 따르면 IPO 시장에서 예상을 깨고 연이어 흥행에 성공하면서 모처럼 활기를 띄고 있다. 일각에서는 투자심리가 회복된 것 아니냐는 기대도 나온다. 지난달 27일과 30일 상장한 반도체 유통기업 미래반도체와 마케팅 솔루션업체 오브젠이 잇따라 '따상'에 성공했다. 따상은 시초가가 공모가의 2배로 형성되고 주가가 상한가에 오르는 것을 말한다. 특히 오브젠은 앞서 기관 투자가를 대상으로 실시한 수요예측에서 흥행에 실패했던 기업이다. 수요예측 경쟁률이 98 대 1에 불과했으며, 그 결과 공모가가 희망가(1만8000~2만4000원)의 하단인 1만8000원으로 결정한 바 있다. 청약 경쟁률도 6대 1였다. 때문에 '따상' 성공을 놓고 금융투자업계에서는 투자심리 회복에 따른 영향이라는 해석이 나온다. 유아용품 제조업체 꿈비는 지난달 26~27일 기관투자가를 상대로 수요예측을 실시한 결과 공모가를 희망가 상단(4500원)보다 11.1% 높은 5000원으로 확정했다. 희망 가격을 넘어서 공모가를 결정한 경우는 지난해 7월 새빗켐 이후 반년 만이다. 수요예측에서도 1590개 기관이 참여해 1547.1 대 1의 경쟁률을 기록했다. ◆ IPO 재수생들 "나도 흥행 성공할까"... IPO 공모 절차 돌입  이 같은 분위기를 타고 지난해 눈물을 머금고 공모를 철회했던 IPO 재수생들도 재도전에 나섰다. 통신용 반도체 설계 전문기업 자람테크놀로지와 임상시험 수탁기관 바이오인프라, 2차전지 소재업체 제이오 등이 지난달 금융위원회에 증권신고서를 제출하고 공모 절차에 돌입했다. 자람테크놀로지와 바이오인프라는 지난달 19일 금융위원회에 증권신고서를 제출했다. 자람테크놀로지는 이번이 세 번째 도전이다. 지난해 10월과 11월 두 차례 증권신고서를 제출했지만 증시 부진에 따른 투자심리 악화로 자진 철회했다. 오는 3월 말까지 코스닥시장에 상장을 하지 않으면 상장 예비심사 등의 상장 절차를 다시 밟아야 하는 상황이다. [사진=게티이미지뱅크] 자람테크놀로지는 오는 15∼16일 기관 투자자 대상 수요 예측 거쳐 공모가를 확정한 뒤 같은 달 22∼23일 일반 공모 청약을 진행할 예정이다. 자람테크놀로지는 이번 증권신고서에서 공모가격 밴드를 기존 1만8000~2만2000원에서 1만6000~2만원으로 내렸다. 공모가 기준 시가총액도 1287억~1601억원에서 992억~1240억원으로 낮췄다. 공모주식 수도 기존 100만주에서 93만주로 줄이고, 구주매출을 없애면서 전량 신주발행으로 바꿨다. 지난해 11월 상장을 철회했던 바이오인프라도 마찬가지다. 희망 공모가 밴드를 기존 2만3000~2만6000원에서 1만8000~2만1000원으로 낮췄다. 또한 공모 주식 수를 기존보다 35% 줄이고, 기업가치를 기존 1186억~1341억원에서 863억~1007억원으로 낮췄다. 오는 13~14일 기관투자자 대상 수요예측을 거쳐 20~21일 이틀간 일반투자자 대상 청약을 실시한다. 제이오 역시 지난해 11월 코스닥 상장에 도전했다가 실패한 재수생이다. 특히 제이오는 최근 급속히 성장중인 전기차에 들어가는 2차전지용 탄소나노튜브(CNT)를 지난 2006년 국내 최초로 대량생산에 성공했다. 때문에 지난해 상장 철회에 시장에서 충격이 컸다. 당시 제이오는 "수요예측을 실시했지만 회사 가치를 적절히 평가받기 어려운 측면 등 제반 여건을 고려해 대표 주관회사 동의로 잔여 일정을 취소한다"고 밝혔다. 재도전에 나선 이번에는 희망 공모가 밴드를 기존 1만5000~1만8000원에서 상단과 하단을 각각 5000원씩 낮춘 1만~1만3000원으로 제시했다. 전날부터 이날까지 기관투자자 대상 수요예측 및 7~8일 일반투자자 대상 청약을 계획하고 있다. 그외에도 이번 달에 샌즈랩, 이노진, 오아시스, 나노팀, 블루포인트파트너스 등이 상장에 나선다. 이경준 혁신IB혁신자산운용 대표는 "아직까지는 투자심리가 완전히 회복됐다기 보다는 개선되는 중이고, 기업들은 다시 한 번 도전해 보는 상황"이라면서 "각 종목별로 규모, 실적, 업종에 따라 흥행 성공 여부가 갈릴 것"이라고 내다봤다. 이어 지난해 수요예측에 실패했지만 최근 따상에 성공한 오브젠과 관련 "네이버클라우드가 2대 주주이고, 시가총액도 적어 흥행에 실패할 수 없는 종목이었다"면서 "오브젠의 따상을 수요예측 흥행에 실패했거나 상장 철회했던 다른 기업들의 흥행 기대 지표로 삼기는 어려울 것"이라고 덧붙였다. yunyun@newspim.com 2023-02-02 15:18
사진
'난방비 폭탄' 피하는 3가지 꿀팁…외출할 때는? [세종=뉴스핌] 이태성 기자 = 지난달 있었던 '난방비 폭탄' 논란이 2월과 3월 고지서도 반복될 가능성이 크다. 하지만 난방비를 절약하는 방법을 제대로 알지 못해 손해를 보는 경우도 적지 않다. 난방비 절감 방법에 시민들의 관심이 쏠리면서 2일 산업통상자원부와 한국에너지공단 등은 각사의 홈페이지를 통해 난방비 절감법 홍보에 나섰다. 다음은 소개된 난방요금 절약 방법이다. ◆ 작은 공간은 짧고 강하게…창문·틈새 막으면 2~3℃ 상승 겨울철 실내 난방온도를 1℃ 낮게 설정하면 7%의 에너지소비량이 절감된다. 온수 온도로 난방을 조절할 경우 55℃ 내외로 가동해야 겨울철 실내 적정온도를 유지할 수 있다. 10평(33㎡)대의 작은 공간의 경우 보일러 온도를 최대한 높여 따뜻하게 만든 뒤 점차 온도를 낮추는 것이 효율적이다. [서울=뉴스핌] 조민교 기자 = 서울 양천구에 사는 조모씨가 31일 도시가스 앱을 통해 받은 2월 가스요금 청구서. 조씨 제공 2023.02.01 mkyo94@newspim.com 보일러와 함께 가습기를 틀면 수증기에 의해 실내 습도가 높아지는데 공기순환이 빨라지며 열을 오래 간직할 수 있다. 또한 난방으로 인한 건조함도 개선된다. 창문이나 문 틈새로 난방열이 새어나가지 않게 관리하는 것도 중요하다. 창문 표면에 에어캡을 부착하거나 두꺼운 커튼을 치면 효과적이다. 창문 틈에 문풍지를 부착하고 바닥에 러그나 매트를 깔아 체온을 보호하는 방법도 있다. 공간의 열을 새어나가지 않게만 해도 실내 온도를 약 2~3℃ 높일 수 있다. 환기 시에는 난방을 약하게 줄이고 창문을 너무 오래 열어놓으면 결로의 원인이 될 수 있으니 주의해야 한다. 1회 환기시간은 5~10분이 적당하다. 난방 설비를 사용한 지 오래됐다면 전문업체를 불러 배관 청소를 하는 것도 하나의 방법이다. 한국건설기술연구원에 따르면 배관 청소로 난방 효율을 5% 이상 개선시킬 수 있다. ◆ 외출 시에도 완전히 끄지 말고 보일러 청소·교체도 방법 난방 유형에 따른 절약 방법도 각각 다르다. 개별난방의 경우 단열성능이 좋은 건물은 외출 시 보일러를 끄지 말고 '외출 모드'로 설정하거나 실내 온도를 약하게 유지하는 것이 좋다. 난방비 절감과 더불어 배관 동파를 예방할 수도 있다. 창문에 에어캡(뽁뽁이)를 부착하는 모습 [사진=산업통상자원부] 2023.02.02 victory@newspim.com 온도조절기는 꺼짐·잠금 상태에서도 미세한 열공급이 이뤄지므로 단열 성능이 좋은 건물에서는 사용하지 않는 방의 분배기 밸브를 잠그는 것이 좋다. 열 효율이 저하된 노후 보일러를 고효율 보일러로 교체하면 난방비 절약과 함께 안전에도 도움이 된다. 에너지소비효율 4등급에서 1등급으로 교체 시 10%이상 효율이 증가한다. 보일러 난방을 위해 순환되는 난방수가 너무 오래됐거나, 오염된 경우 교체해야 한다. 열 효율이 개선될 뿐만 아니라 보일러의 수명 연장에도 도움이 된다. 보일러 내부는 전문업체에 의뢰해 적어도 연 2회, 보일러 배관은 3~4년에 1회 청소하는 것이 좋다. ◆ 지역난방은 천천히 조금씩 온도 올려야 지역난방의 경우 겨울철 온도조절기의 전원을 끄지 않는 것이 중요하다. 일상적인 외출 시에는 평상시 온도보다 2~3℃ 낮게 설정하고 3일 이상 장기간 외출 시에는 외출모드로 설정한다. 지역난방은 연속난방시스템으로 실내온도를 일정하게 유지하는 것이 바람직하다. 실내 온도를 20℃로 설정한 뒤 춥다고 느낄 때마다 온도를 0.5~1℃씩 천천히 상승시켜야 한다. [자료=산업통상자원부] 2023.02.02 victory@newspim.com 보통 싱크대 밑에 있는 난방온수 분배기의 수동밸브를 조절할 수도 있다. 각 방마다 필요한 만큼씩 밸브를 조절하고 사용하지 않는 방은 방문을 닫아 열 손실을 막아야 한다. 중앙난방은 입주민보다는 관리자의 역할이 중요하다. 전문기관을 통해 배기가스 일산화탄소(CO)와 산소(O2) 값을 측정하고 적정 공기비를 조정한다. 공기량이 많으면 손실열량이 증가하고, 연료량이 많으면 매연이 발생할 수 있기 때문에 1.1~1.2로 적정 공기비를 유지해야 한다. 주기적인 세관을 통하여 전열면의 그을음과 스케일을 제거하고, 배관에서의 열손실을 방지하기 위한 보온도 필요하다. 연수기 작동과 수질 상태를 주기적으로 점검하는 것도 중요하다. 한편 국회에선 난방비 대란을 수습하기 위해 추경을 편성해야 한다는 주장이 나오기도 했다. 난방비 지원 대상을 취약계층뿐만 아니라 전 국민(또는 80%)으로 확대해야 한다는 게 주된 내용이다. 그러나 정부는 취약계층에 대한 난방비 지원 확대 대책만 내놓았을 뿐 중산층으로의 지원 범위 확대는 아직까지 조심스러운 입장이라, 난방비 부담을 호소하는 시민들의 목소리는 한동안 계속될 것으로 보인다. victory@newspim.com 2023-02-02 10:23
안다쇼핑
Top으로 이동