용어사전

HBM3E 12 H

 

삼성전자가 업계 최초로 개발한 36GB(기가바이트) 용량의 5세대 HBM(High Bandwidth Memory), 즉 HBM3E 12H(12단 적층) D램을 지칭한다.

2024년 2월 27일 개발 성공을 발표했다.

이 기술은 24Gb(기가비트) D램 칩을 TSV(Through-Silicon Via, 실리콘 관통 전극) 기술을 통해 12단까지 적층하여, 업계에서 가장 큰 용량인 36GB HBM3E를 실현하였다.

HBM3E 12H는 초당 최대 1,280GB의 대역폭과 현재 최대 용량인 36GB를 제공하며, 이는 성능과 용량 모두 이전 세대인 HBM3(4세대 HBM) 8H(8단 적층) 대비 50% 이상 개선된 결과이다. 이 제품은 1,024개의 입출력 통로(I/O)에서 초당 최대 10Gb의 속도를 지원하여, 초당 최대 1,280GB를 처리할 수 있으며, 이는 초당 30GB 용량의 UHD 영화 약 40편을 업(다운)로드 할 수 있는 속도와 동일하다. 성능은 고객사 모의 환경 기반의 내부 평가 결과에 따른 것으로, 실제 환경에 따라 달라질 수 있다.

삼성전자는 Advanced TC NCF(Termal Compression Non Conductive Film, 열압착 비전도성 접착 필름) 기술을 적용하여 12H 제품을 8H 제품과 동일한 높이로 구현하였다. 이 기술은 HBM 적층수 증가 및 칩 두께 감소에 따른 휘어짐 현상을 최소화하는데 유리하다. 또한, NCF 소재 두께를 지속적으로 낮춤으로써 업계 최소 칩 간 간격인 ‘7마이크로미터(um)’를 구현하였다. 이를 통해 HBM3 8H 대비 20% 이상 향상된 수직 집적도를 실현하였다.

칩과 칩 사이를 접합하는 공정에서 신호 특성이 필요한 곳은 작은 범프를, 열 방출 특성이 필요한 곳에는 큰 범프를 목적에 맞게 적용하여 열 특성을 강화하고 수율을 극대화하였다. NCF로 코팅하고 칩을 접합하여 범프 사이즈를 다양하게 하면서 동시에 공극 없이 적층하는 업계 최고 수준의 기술력을 선보였다.

HBM3E 12H는 AI 서비스의 고도화로 데이터 처리량이 급증하는 상황에서 AI 플랫폼을 활용하는 다양한 기업에게 최적의 솔루션을 제공할 것으로 기대된다. 성능과 용량이 증가한 이 제품을 사용함으로써 GPU 사용량을 줄이고, 기업이 총 소유 비용(TCO)을 절감할 수 있으며, 리소스 관리를 더 유연하게 할 수 있는 장점을 제공한다. 예를 들어, 서버 시스템에 HBM3E 12H를 적용할 경우 HBM3 8H를 탑재할 때보다 평균 34% AI 학습 훈련 속도가 향상되며, 추론의 경우 최대 11.5배 많은 AI 사용자 서비스가 가능할 것으로 예상된다.

삼성전자는 24년 상반기 중 양산을 시작할 예정이다.

관련어

• 참조어HBM3E