HBM이 뭐길래

“차세대 고대역폭메모리(HBM)인 HBM4(6세대 HBM)에서는 절대 작년의 과오를 되풀이하지 않겠습니다.” 삼성전자 반도체 사업을 이끄는 전영현 디바이스솔루션(DS)부문장(부회장)은 19일 경기 수원컨벤션센터에서 열린 삼성전자 정기 주주총회에서 “이르면 2분기, 늦어도 하반기부터는 HBM3E(5세대 HBM) 12단 제품 생산을 고객 수요에 맞춰 확대할 계획”이라며 이같이 말했다.
-2025년 3월 20일 자 한국경제신문-
최근 열린 삼성전자 주주총회의 ‘화두’는 HBM이었습니다. 최근 삼성전자가 HBM 분야에서 경쟁사 SK하이닉스에 뒤처지면서 사상 처음으로 양사의 연간 실적(영업이익)이 역전되기도 했지요.
인공지능(AI) 산업의 개화로 처리해야 할 데이터의 양이 폭발적으로 증가하는 가운데 이를 처리할 수 있는 반도체로 주목받는 것이 HBM입니다. HBM의 가능성을 일찍 엿본 SK하이닉스가 개발 경쟁에서 앞서나가면서 부동의 메모리 반도체 1위로 여겨지던 삼성이 후발 주자로 추격에 나서는 이례적 모습이 나타나고 있는데요, 오늘은 최근 반도체 시장과 우리 경제를 이해하는 데 필수 상식이 된 HBM에 대해 알아보겠습니다.
HBM은 AI에 필수적 반도체 기술로 꼽힙니다. ‘고대역폭메모리(High Bandwidth Memory)’라는 이름에서 알 수 있듯 HBM은 대역폭이 넓은 메모리 반도체를 의미합니다. 쉽게 이야기하면 데이터가 오가는 길이 기존엔 왕복 2차선 샛길이었다면 HBM에선 16차선 고속도로가 된다고 보면 이해하기 쉽습니다.
먼저 컴퓨터의 ‘두뇌’라 할 수 있는 반도체는 기능에 따라 메모리(memory) 반도체와 비(非)메모리 반도체로 나뉩니다. 메모리 반도체는 정보의 저장, 비메모리 반도체는 연산을 담당합니다. 쉽게 말해 비메모리는 ‘얼마나 머리가 좋은가’를, 메모리는 ‘얼마나 잘 기억하나’ 또는 ‘얼마나 빠르게 움직이나’를 좌우한다고 할 수 있죠.
중앙처리장치(CPU)나 그래픽처리장치(GPU) 같은 비메모리 반도체가 데이터를 연산하면 이를 실제로 처리 및 저장하는 기능을 메모리 반도체가 담당합니다. HBM은 메모리 반도체의 일종인 D램의 한 종류입니다.
D램은 CPU와 GPU에서 쏟아지는 데이터를 단기적으로 저장하고, 처리하는 역할을 합니다. 그리고 이렇게 들어온 데이터를 장기 기억으로 쌓아두는 역할은 또 다른 메모리 반도체인 낸드플래시가 하게 되지요. D램은 어디선가 온 데이터를 받을 것인지를 결정하는 ‘문(door)’의 여닫이 역할을, 낸드플래시는 데이터를 쌓아두는 창고 역할을 하는 것입니다.
HBM은 D램 중간중간에 일종의 ‘데이터 도로’인 실리콘관통전극(TSV)를 만들어 데이터처리 속도를 비약적으로 끌어올린 게 핵심입니다. 기존의 D램은 도로가 32~64개라면 HBM은 1024개를 넘어갑니다. 이런 D램 여러 개를 수직으로 쌓아 올리고, 이를 GPU 등 비메모리 반도체 옆에 붙입니다. HBM은 길은 넓히고, 거리는 짧게 해 데이터가 메모리와 GPU 사이를 빠르게 오갈 수 있도록 하는 것이지요.
노키아에 따르면 AI 산업의 성장으로 유무선 전체 데이터 트래픽이 2022년부터 2030년까지 연평균 22~25% 성장해 2030년엔 월평균 2443~3109엑사바이트(1EB=10억 기가바이트)에 달할 전망입니다. 이처럼 빠르게 늘어나는 데이터를 처리하기 위한 해답으로 메모리 분야에서 제시된 것이 바로 HBM입니다.
최근 반도체 산업에서 벌어지는 수많은 이슈는 결국 누가 더 빠른 HBM을 더 효율적으로 만드느냐로 집약됩니다. 현재 양산 중인 5세대 HBM은 스택당 대역폭이 1280기가바이트/초(GB/초)로, 2013년에 나온 1세대 HBM(128GB/초)의 10배에 달합니다. 최대 4개의 D램을 쌓은 1세대와 달리 5세대에선 12개(12단)를 쌓아 올리죠. 데이터처리 속도를 5세대보다 2배 이상 높인 6세대 HBM을 만들기 위한 경쟁이 삼성전자와 SK하이닉스, 미국 마이크론 등 메모리 업체 사이에서 벌어지고 있습니다.
누가 미세한 고속도로(TSV)를 더 많이, 잘 뚫고 칩을 연결하느냐, CPU나 GPU와 최대한 가까이 붙이면서도 발열 문제를 잡을 수 있는 소재와 공정 기술의 혁신을 이뤄내느냐에 따라 반도체 시장의 구도가 완전히 달라질 수 있습니다.NIE 포인트

2. AI 시대에 왜 HBM이 필요한지 생각해보자.
3. 차세대 HBM 개발 경쟁이 어떻게 진행되고 있는지 알아보자.