소프트웨어·AI

온디바이스 AI

On-device AI

서버로 데이터를 보내지 않고 기기 안에서 직접 AI 연산을 처리하는 방식입니다. 응답이 빠르고 사생활 보호에 유리합니다.

온디바이스 AI는 인공지능 모델을 기기 내부에서 실행하는 방식입니다. 사진 보정, 통화 실시간 번역, 문장 요약 같은 작업을 서버에 보내지 않고 직접 처리합니다. 애플은 Apple Intelligence, 삼성은 Galaxy AI라는 이름으로 이런 기능을 묶어 부릅니다.

이점은 세 가지입니다. 네트워크를 거치지 않아 응답이 빠르고, 비행기 모드처럼 통신이 없는 상태에서도 동작하며, 개인 데이터가 기기 밖으로 나가지 않아 사생활 보호에 유리합니다. 이 때문에 칩 안에 AI 연산 전용부를 얼마나 크게 넣는지가 최근 신제품의 주요 경쟁 지점이 되었습니다.

한계도 분명합니다. 기기에 넣을 수 있는 모델 크기가 메모리와 전력에 묶여 있어, 복잡한 작업은 여전히 서버 모델을 씁니다. 그래서 실제 제품은 간단한 작업은 기기에서, 무거운 작업은 서버에서 처리하는 혼합 방식을 쓰며, 어떤 기능이 어느 쪽에서 도는지가 기능 제공 국가와 지원 기기 범위를 가르는 경우가 많습니다.

이 용어가 등장한 까봄 기사

29건

이 밖에 17건이 더 있습니다.

관련 용어

이 용어가 등장한 까봄 기사