Kunstig intelligens
Hva er Overføringslæring
Overføring av kunnskap fra en oppgave til en annen
Overføringslæring — en ML-teknikk der en modell trent på én oppgave brukes som utgangspunkt for å løse en annen oppgave.
Typer Overføringslæring
- Funksjonsekstraksjon — fryse basismodellen, trene kun øvre lag
- Finjustering — ekstra trening av deler av eller alle lag
- Domenetilpasning — tilpasning til nytt datadomene
- Multitask-læring — trening på flere oppgaver samtidig
Fordeler
- Mindre data — ingen enorm datasett nødvendig for ny oppgave
- Raskere trening — starter ikke fra null
- Bedre kvalitet — utnytter kunnskap fra stort datasett
- Ressursbesparelser — færre beregninger for trening
Populære Forhåndstrente Modeller
- Bilder — ResNet, VGG, EfficientNet, CLIP
- Tekst — BERT, GPT, T5, LLaMA
- Lyd — Wav2Vec, Whisper
- Multimodal — CLIP, BLIP, Flamingo
Forretningsanvendelser
- Bildeklassifisering — overføring fra ImageNet til bedriftsdata
- NLP-oppgaver — overføring fra BERT til spesifikt domene
- Helsevesen — overføre generell modell til medisinske bilder
- Startups — rask ML-start uten store datasett