용어사전

H200

[NVIDIA H200 Tensor Core GPU]

엔비디아가 개발한 차세대 고성능 GPU로, 생성형 AI 및 대규모 언어 모델(LLM) 연산에 특화된 병렬 처리 장치.
HBM3e 메모리를 최초로 탑재한 GPU로, 기존 H100 대비 추론 속도와 메모리 대역폭이 대폭 향상되었다.

H200은 2024년 기준 엔비디아의 플래그십 GPU로, 초거대 AI 모델과 고성능 컴퓨팅(HPC) 환경에 최적화된 구조를 갖추고 있다. 업계 최초로 고속 메모리 규격인 HBM3e를 탑재하여 대역폭과 용량 모두에서 기존 H100을 능가하며, 특히 LLM과 생성형 AI 모델의 추론 속도를 최대 2배까지 향상시킨다.

한국 정부는 2025년 하반기부터 H200 및 B200 GPU 총 1만 장을 도입해 국가 AI 컴퓨팅 센터를 구축하고, 이를 통해 산학연 연구기관에 연산 자원을 제공할 계획이다. 본격적인 서비스는 2025년 10월부터 시작될 예정이다.

관련어

• 참조어국가 AI 컴퓨팅 센터, H20, H100