Edge AI là gì
Trí tuệ nhân tạo trên thiết bị biên
Edge AI — công nghệ chạy thuật toán học máy trực tiếp trên thiết bị biên (điện thoại thông minh, IoT, camera) mà không cần giao tiếp với đám mây.
Ưu điểm
- Độ trễ thấp — xử lý tức thì không có độ trễ mạng
- Quyền riêng tư — dữ liệu không rời khỏi thiết bị
- Tự chủ — hoạt động không cần kết nối internet
- Tiết kiệm băng thông — không truyền dữ liệu lớn
- Độ tin cậy — độc lập với dịch vụ đám mây
Công nghệ và chip
- Apple Neural Engine — trong iPhone và Mac
- Google Tensor — trong điện thoại Pixel
- Qualcomm AI Engine — trong bộ xử lý di động
- NVIDIA Jetson — cho giải pháp công nghiệp
- Intel Movidius — cho thị giác máy tính
- Coral Edge TPU — từ Google
Framework
- TensorFlow Lite — thiết bị di động và IoT
- Core ML — hệ sinh thái Apple
- ONNX Runtime — đa nền tảng
- PyTorch Mobile — ứng dụng di động
Ứng dụng
- Camera thông minh — nhận dạng khuôn mặt và vật thể
- Trợ lý giọng nói — nhận dạng giọng nói cục bộ
- Xe tự lái — ra quyết định thời gian thực
- Công nghiệp — kiểm soát chất lượng trong sản xuất
- Y tế — thiết bị chẩn đoán đeo được