Mikä on Siirto-oppiminen
Tiedon siirtäminen tehtävästä toiseen
Siirto-oppiminen — ML-tekniikka, jossa yhdessä tehtävässä koulutettu malli toimii lähtökohtana toisen tehtävän ratkaisulle.
Siirto-oppimisen tyypit
- Ominaisuuksien poiminta — perusmallin jäädyttäminen, vain ylempien kerrosten koulutus
- Hienosäätö — osan tai kaikkien kerrosten lisäkoulutus
- Toimialueen sopeutuminen — sopeutuminen uuteen datadomeeniin
- Monitehtäväoppiminen — koulutus useissa tehtävissä samanaikaisesti
Edut
- Vähemmän dataa — ei tarvita valtavaa datasettiä uuteen tehtävään
- Nopeampi koulutus — ei aloiteta nollasta
- Parempi laatu — hyödynnetään suuren datasetin tietoa
- Resurssisäästöt — vähemmän laskentaa koulutukseen
Suositut Esikoulutetut Mallit
- Kuvat — ResNet, VGG, EfficientNet, CLIP
- Teksti — BERT, GPT, T5, LLaMA
- Ääni — Wav2Vec, Whisper
- Multimodaalinen — CLIP, BLIP, Flamingo
Liiketoimintasovellukset
- Kuvaluokittelu — siirto ImageNetistä yrityksen dataan
- NLP-tehtävät — siirto BERTistä tiettyyn toimialaan
- Terveydenhuolto — yleisen mallin siirto lääketieteellisiin kuviin
- Startupit — nopea ML-käynnistys ilman suuria datasettejä