엣지 AI 이란
에지 디바이스에서의 인공지능
엣지 AI——클라우드 통신 없이 에지 디바이스(스마트폰, IoT, 카메라)에서 직접 머신러닝 알고리즘을 실행하는 기술.
장점
- 낮은 지연 — 네트워크 지연 없는 즉각적인 처리
- 프라이버시 — 데이터가 디바이스를 떠나지 않음
- 자율성 — 인터넷 연결 없이 작동
- 대역폭 절약 — 대용량 데이터 전송 불필요
- 신뢰성 — 클라우드 서비스로부터 독립
기술 및 칩
- Apple Neural Engine — iPhone 및 Mac에 탑재
- Google Tensor — Pixel 스마트폰에 탑재
- Qualcomm AI Engine — 모바일 프로세서에 탑재
- NVIDIA Jetson — 산업용 솔루션
- Intel Movidius — 컴퓨터 비전용
- Coral Edge TPU — Google
프레임워크
- TensorFlow Lite — 모바일 및 IoT 디바이스
- Core ML — Apple 생태계
- ONNX Runtime — 크로스 플랫폼
- PyTorch Mobile — 모바일 애플리케이션
응용 분야
- 스마트 카메라 — 얼굴 및 객체 인식
- 음성 어시스턴트 — 로컬 음성 인식
- 자율 주행 차량 — 실시간 의사결정
- 제조업 — 제조 품질 관리
- 의료 — 웨어러블 진단 기기