용어사전

소형언어모델

[small Language Model, sLLM]

수천억 개 이상의 매개변수(파라미터)를 사용하는 거대언어모델(LLM)과 달리, 상대적으로 적은 규모의 파라미터로 경량화·효율화를 추구한 인공지능(AI) 언어 모델이다. 일반적으로 수십억 개 수준의 파라미터를 기반으로 하며, 특정 업무에 최적화해 비용 효율과 응답 속도를 높인 것이 특징이다.

LLM이 대규모 GPU 인프라와 막대한 연산 자원을 요구하는 반면, 소형언어모델은 상대적으로 낮은 사양의 서버나 모바일 기기에서도 구동이 가능하다. 이에 따라 클라우드 연결 없이 스마트폰·PC·자동차·로봇 등 디바이스 내부에서 직접 실행되는 온디바이스 AI의 핵심 기술로 주목받고 있다. 개인정보를 외부 서버로 보내지 않아도 돼 보안성과 지연시간(latency) 측면에서도 유리하다.

최근 AI 산업의 흐름이 단순한 모델 규모 경쟁에서 실용성과 비용 효율 중심으로 이동하면서 소형언어모델의 중요성이 커지고 있다. 마이크로소프트의 Phi 시리즈, 구글의 Gemma, 메타의 Llama 기반 경량 모델 등이 대표 사례로 꼽힌다.

관련어

• 참조어온디바이스 AI, 양자금융