Vad är Överföringslärning
Överföring av kunskap från en uppgift till en annan
Överföringslärning — en ML-teknik där en modell tränad på en uppgift används som utgångspunkt för att lösa en annan uppgift.
Typer av Överföringslärning
- Funktionsextraktion — frysa basmodellen, träna endast övre lager
- Finjustering — ytterligare träning av del av eller alla lager
- Domänanpassning — anpassning till ny datadomän
- Multitask-lärning — träning på flera uppgifter samtidigt
Fördelar
- Mindre data — ingen enorm dataset behövs för ny uppgift
- Snabbare träning — börjar inte från noll
- Bättre kvalitet — utnyttja kunskap från stor dataset
- Resursbesparingar — färre beräkningar för träning
Populära Förtränade Modeller
- Bilder — ResNet, VGG, EfficientNet, CLIP
- Text — BERT, GPT, T5, LLaMA
- Ljud — Wav2Vec, Whisper
- Multimodal — CLIP, BLIP, Flamingo
Affärstillämpningar
- Bildklassificering — överföring från ImageNet till företagsdata
- NLP-uppgifter — överföring från BERT till specifik domän
- Hälsovård — överföra generell modell till medicinska bilder
- Startups — snabb ML-start utan stora dataset