คืออะไร Transfer Learning
การถ่ายโอนความรู้จากงานหนึ่งไปยังอีกงานหนึ่ง
Transfer Learning — เทคนิค ML ที่ใช้โมเดลที่ฝึกบนงานหนึ่งเป็นจุดเริ่มต้นสำหรับการแก้ปัญหางานอื่น
ประเภทของ Transfer Learning
- Feature extraction — ตรึงโมเดลพื้นฐาน ฝึกเฉพาะเลเยอร์บน
- Fine-tuning — การฝึกเพิ่มเติมบางส่วนหรือทุกเลเยอร์
- Domain adaptation — ปรับให้เข้ากับโดเมนข้อมูลใหม่
- Multi-task learning — ฝึกหลายงานพร้อมกัน
ข้อดี
- ข้อมูลน้อยลง — ไม่ต้องใช้ชุดข้อมูลขนาดใหญ่สำหรับงานใหม่
- ฝึกเร็วขึ้น — ไม่ต้องเริ่มจากศูนย์
- คุณภาพดีขึ้น — ใช้ประโยชน์จากความรู้ของชุดข้อมูลขนาดใหญ่
- ประหยัดทรัพยากร — การคำนวณน้อยลงสำหรับการฝึก
โมเดลที่ฝึกไว้ก่อนยอดนิยม
- ภาพ — ResNet, VGG, EfficientNet, CLIP
- ข้อความ — BERT, GPT, T5, LLaMA
- เสียง — Wav2Vec, Whisper
- หลายโหมด — CLIP, BLIP, Flamingo
การประยุกต์ใช้ทางธุรกิจ
- การจำแนกภาพ — ถ่ายโอนจาก ImageNet ไปยังข้อมูลองค์กร
- งาน NLP — ถ่ายโอนจาก BERT ไปยังโดเมนเฉพาะ
- สุขภาพ — ถ่ายโอนโมเดลทั่วไปไปยังภาพทางการแพทย์
- สตาร์ทอัพ — เปิดตัว ML รวดเร็วโดยไม่ต้องมีชุดข้อมูลขนาดใหญ่