용어사전

TOPS

[Tera Operations Per Second]

TOPS는 ‘초당 몇 조 번의 연산을 처리할 수 있는가’를 나타내는 단위로, 인공지능 칩(NPU)의 성능을 측정할 때 사용된다. 주로 스마트폰, 노트북 등 소비자 기기에 탑재되는 AI 칩의 연산 능력을 보여주는 지표로 활용된다.

기술적으로는 정수 기반 연산 성능을 뜻하며, MAC(Multiply-Accumulate, 곱하고 더하기) 연산을 기준으로 측정된다. 계산 방식은 ‘MAC 연산기 수 × 작동 주파수 × 2 ÷ 1조’ 형태이며, 연산은 대부분 딥러닝 모델의 학습과 추론 과정에서 수행된다.

TOPS는 GPU 성능을 나타내는 단위인 TFLOPS(테라플롭스)와는 다르다. TFLOPS가 주로 부동소수점 연산을 기반으로 하는 반면, TOPS는 정수 연산을 중심으로 설계된 NPU에 적합한 측정 방식이다.

단, TOPS는 이상적인 이론값에 가깝기 때문에 실제 성능과는 차이가 있을 수 있다. 각 제조사마다 연산 방식이나 정밀도(INT8, FP16 등)에 따라 기준이 다르기 때문에 단순 비교는 어려운 편이다.

최근 주요 제조사들의 공개 수치를 보면, AMD AI 300 칩셋은 최대 50TOPS, 인텔 코어 울트라 200V는 48TOPS, 퀄컴 스냅드래곤 X 엘리트는 45TOPS에 달한다. 하지만 이 수치만으로 실사용 성능을 단정하기보다는, 실제 응용 시 효율성과 활용성까지 함께 고려하는 것이 중요하다.