HBM

 

 

안녕하십니까.

이번 포스트에서는 HBM에 대해서 알아보도록 하겠습니다.

---

1) HBM(High Bandwidth Memory)이란?

: 고대역폭 메모리 반도체, 즉 말 그대로 넓은 대역폭을 가진 메모리 반도체 입니다.

 

---

2) HBM 등장 배경

 

현재까지도 대부분의 컴퓨터는 폰 노이만 구조*를 기반으로 합니다.

 

그러나 폰 노이만 구조의 문제가 있는데, 바로 병목 현상(Bottleneck)입니다.

병목 현상이란 연산장치 (CPU)와 메모리 간의 데이터 전송이 지연되는 현상입니다.

 

병목 현상을 해결하기 위한 방법은 다음과 같은 것들이 있습니다.

①  전송 속도 증가

②  대역폭 증가

 

AI 시대에는 처리해야 할 데이터 양이 폭발적으로 증가하면서, 기존 메모리 반도체의 한계를 극복하기 위해 HBM이 등장했습니다.

이름 그대로 고대역폭 메모리 반도체인 HBM은 특히 병목 현상을 효과적으로 해소하는 데 최적화된 반도체입니다.

 

※ 폰 노이만 구조 : 각 로직 반도체가 개별 하부 메모리 시스템을 가지고 있는 구조

---

3) HBM 구조

DRAM 칩을 수직으로 적층합니다.

이때 패키징 공정에서 TSV 기술을 통해 각 층의 DRAM 칩을 전기적으로 연결합니다.

→ TSV 기술에 대해서는 패키징 공정 포스트에 자세하게 설명해두었으니 참고하시면 좋을 것 같습니다.

 

현재 HBM 개발이 지속되면서, 특히 삼성전자와 SK 하이닉스는 서로 다른 패키징 기술을 적용하고 있습니다.

삼성전자는 TC-NCF(Thermal Compression - Non-Conductive Film)* 방식을, 

SK하이닉스는 MR-MUF(Mess  Reflow - Molded UnderFill)* 방식을 사용하고 있습니다.

 

 

※ TC-NCF : 칩과 칩 사이 비전도성 필름(NCF)으로 연걸하는 공정

※ MR-MUF : 칩과 칩 사이 공간을 EMC 물질로 채워 붙이는 공정

 

---

4) HBM 특징

1. 빠른 데이터 전송 속도

: 메모리와 프로세서 간 데이터 이동을 빠르게 하여 시스템의 전반적인 처리 속도를 향상합니다.

 

2. 높은 대역폭

: 많은 데이터를 동시에 처리할 수 있기 때문에 병목 현상을 줄입니다.

 

3. 높은 용량

: DRAM 여러 개를 수직으로 적층하기 때문에 높은 용량을 제공해 대규모 데이터셋을 효율적으로 저장하고 처리할 수 있습니다.

 

---

5) 세대별 HBM

기본적으로 현재 HBM은 4단, 8단, 12단의 적층 구조를 사용합니다.

 

①  HBM1

: 4단 DRAM 다이 스택으로, 스택당 최대 용량은 4GB(4 Die × 1GB), 8채널 × 128 bit 스택

즉, 하나의 스택(Stack)에 4개의 다이(Die, 즉 Chip)이 수직으로 적층되어 있는 것입니다.

스택당 대역폭은 최대 128GB/s 입니다.

 

②  HBM2

: 4단/8단 DRAM 다이 스택으로, 스택당 최대 용량은 8GB(8 Die × 1GB), 8채널 × 128 bit 스택

스택당 대역폭은 최대 256GB/s 입니다.

 

③  HBM2E

: 8단 DRAM 다이 스택으로, 스택당 최대 용량은 16GB(8 Die × 2GB), 8채널 × 128 bit 스택

스택당 대역폭은 최대 461GB/s 입니다.

 

④  HBM3

: 8단/12단 DRAM 다이 스택으로, 스택당 최대 용량은 24GB(12 Die × 2GB), 16채널 × 64 bit 스택

스택당 대역폭은 최대 819GB/s 입니다.

 

⑤  HBM3E

: 12단 DRAM 다이 스택으로, 스택당 최대 용량은 36GB(12 Die × 3GB), 16채널 × 64 bit 스택

그러나 현재 16단 제품의 개발 중에 있습니다. 따라서 이 경우 스택당 최대 용량은 48GB(16 Die × 3GB)입니다.

스택당 대역폭은 최대 1.2TB/s 입니다.

 

⑥  HBM4

: 16단 DRAM 다이 스택으로, 스택당 최대 용량은 64GB(16 Die × 4GB), 32채널 × 64 bit 스택

현재 메모리 반도체 기업 3사가 모두 집중하고 있는 것이 HBM4 개발입니다.

HBM3E의 경우 12단의 제품이 주를 이루었다면, 16단 HBM3E를 시작으로 HBM4부터는 16단 적층이 시장의 표준으로 자리잡을 것으로 보고 있습니다.

스택당 대역폭은 최대 2TB/s 입니다.

 

또한, 여기서 주목해야 할 지점은 HBM4 개발 과정에서 SK하이닉스는 1b DRAM을  계속해서 사용하고, 삼성전자는 1c DRAM을 사용할 계획이라는 것입니다.

---

 

 

이번 포스트는 여기서 마무리 하도록 하겠습니다.

읽어주셔서 감사합니다.

 

내용에 오류가 있거나 의문이 드시는 부분이 있다면 댓글 남겨주세요!