Künstliche Intelligenz
Was ist Transfer Learning
Übertragung von Wissen von einer Aufgabe auf eine andere
Transfer Learning — eine ML-Technik, bei der ein auf einer Aufgabe trainiertes Modell als Ausgangspunkt für die Lösung einer anderen Aufgabe verwendet wird.
Arten des Transfer Learning
- Feature-Extraktion — Einfrieren des Basismodells, Training nur der oberen Schichten
- Feinabstimmung — zusätzliches Training einiger oder aller Schichten
- Domänenanpassung — Anpassung an eine neue Datendomäne
- Multi-Task-Learning — gleichzeitiges Training auf mehreren Aufgaben
Vorteile
- Weniger Daten — kein riesiger Datensatz für neue Aufgabe nötig
- Schnelleres Training — nicht bei Null beginnen
- Bessere Qualität — Nutzung von Wissen aus großem Datensatz
- Ressourceneinsparung — weniger Berechnungen für Training
Beliebte vortrainierte Modelle
- Bilder — ResNet, VGG, EfficientNet, CLIP
- Text — BERT, GPT, T5, LLaMA
- Audio — Wav2Vec, Whisper
- Multimodal — CLIP, BLIP, Flamingo
Geschäftsanwendungen
- Bildklassifizierung — Transfer von ImageNet auf Unternehmensdaten
- NLP-Aufgaben — Transfer von BERT auf spezifische Domäne
- Gesundheitswesen — Transfer allgemeines Modell auf medizinische Bilder
- Startups — schneller ML-Start ohne große Datensätze