용어사전

LPU

[Language Processing Unit]

"언어 처리 장치"를 뜻하는 LPU는 미국 AI 반도체 기업 그록(Groq)이 설계하고 삼성전자가 위탁 생산하는 '거대언어모델(LLM) 추론 전용' 반도체다.

기존 GPU가 고대역폭메모리(HBM)와 데이터를 주고받으며 발생하는 고질적인 병목 현상을 해결하기 위해, 칩 내부에 초고속 SRAM을 배치하여 데이터 처리 속도를 혁신적으로 높였다.

2026년 3월 16일 미국에서공개된 'Groq 3 LPU'는 초당 150TB(테라바이트) 수준의 내부 대역폭을 구현하며, 최신 HBM4 기반 GPU보다 약 7배 빠른 압도적인 메모리 처리 능력을 입증했다.

이 칩은 엔비디아의 차세대 가속기 시스템인 '베라 루빈(Vera Rubin)'에 탑재될 예정이며, 이는 범용 연산(GPU)과 특화 추론(LPU)이 결합된 새로운 AI 서버 표준의 등장을 의미한다.

LPU는 HBM 시장을 완전히 대체하기보다는, 초단위 응답이 필수적인 실시간 AI 서비스(자율주행, 실시간 번역 등)에서 지연 시간(Latency)을 최소화하는 특화 엔진으로 자리 잡고 있다.

결국 LPU는 설계 기업 그록과 생산 기지인 삼성전자의 전략적 협력을 상징하며, AI 반도체 패권이 '학습' 중심에서 '효율적 추론' 중심으로 이동하고 있음을 보여주는 핵심 지표다.

관련어

• 참조어베라 루빈