용어사전

온디바이스 AI

[on-device AI]

온디바이스 AI(On-Device AI)는 스마트폰, PC, 웨어러블 기기 등 디지털 기기 내부에서 AI 모델을 직접 구동해 연산을 수행하는 기술이다.

클라우드 서버로 데이터를 전송하지 않고 기기 내에서 처리되기 때문에 실시간 응답이 가능하며, 네트워크 연결이 없어도 작동한다.

개인정보가 외부 서버로 전달되지 않아 보안성과 프라이버시 측면에서 강점을 가진다. 고성능 NPU(신경망처리장치)와 경량화된 AI 모델(프루닝, 양자화 등)이 기술적 기반을 이룬다.

특히 얼굴 인식, 음성 인식, 사진·영상 보정·생성 기능이 필요한 스마트폰, 건강관리·운동 추적·수면 분석 기능이 중심인 웨어러블 기기, 상태 모니터링 및 이상 감지가 요구되는 IoT 기기 등 다양한 분야에 활용되고 있다.

생성형 AI 시대에 들어, 클라우드 기반 AI보다 비용·속도·보안·프라이버시 면에서 우위를 보이는 차세대 AI 구현 방식으로 각광받고 있다.

관련어

• 참조어섀도 AI, 소형언어모델, AIDV, AI 풀스택