Trí tuệ nhân tạo
Học chuyển giao là gì
Chuyển giao kiến thức từ nhiệm vụ này sang nhiệm vụ khác
Học chuyển giao — kỹ thuật ML sử dụng mô hình được huấn luyện trên một nhiệm vụ làm điểm khởi đầu để giải quyết nhiệm vụ khác.
Các loại Học chuyển giao
- Trích xuất đặc trưng — đóng băng mô hình cơ sở, chỉ huấn luyện các lớp trên
- Tinh chỉnh — huấn luyện bổ sung một phần hoặc tất cả các lớp
- Thích ứng miền — thích ứng với miền dữ liệu mới
- Học đa nhiệm — huấn luyện đồng thời nhiều nhiệm vụ
Ưu điểm
- Ít dữ liệu hơn — không cần tập dữ liệu khổng lồ cho nhiệm vụ mới
- Huấn luyện nhanh hơn — không bắt đầu từ đầu
- Chất lượng tốt hơn — tận dụng kiến thức từ tập dữ liệu lớn
- Tiết kiệm tài nguyên — ít tính toán cho huấn luyện
Mô hình tiền huấn luyện phổ biến
- Hình ảnh — ResNet, VGG, EfficientNet, CLIP
- Văn bản — BERT, GPT, T5, LLaMA
- Âm thanh — Wav2Vec, Whisper
- Đa phương thức — CLIP, BLIP, Flamingo
Ứng dụng kinh doanh
- Phân loại hình ảnh — chuyển từ ImageNet sang dữ liệu doanh nghiệp
- Nhiệm vụ NLP — chuyển từ BERT sang miền cụ thể
- Y tế — chuyển mô hình chung sang hình ảnh y tế
- Startup — khởi động ML nhanh mà không cần tập dữ liệu lớn