Takk for at du sendte din henvendelse! En av våre teammedlemmer vil kontakte deg straks.
Takk for at du sendte din bestilling! En av våre teammedlemmer vil kontakte deg straks.
Kursplan
Innføring i parameter-effektiv finjustering (PEFT)
- Motivasjon og begrensninger ved full finjustering
- Presentasjon av PEFT: mål og fordeler
- Driftsbruk og anvendelser i industrien
LoRA (Low-Rank Adaptation)
- Konseptet og intuisjonen bak LoRA
- Implementasjon av LoRA ved bruk av Hugging Face og PyTorch
- Hånd på hjul: Finjustering av en modell med LoRA
Adapter Tuning
- Hvordan adaptermoduler fungerer
- Integrering med transformer-baserte modeller
- Hånd på hjul: Bruk av Adapter Tuning på en transformermodell
Prefix Tuning
- Bruk av myke prompts for finjustering
- Styrker og begrensninger sammenlignet med LoRA og adaptere
- Hånd på hjul: Prefix Tuning på en LLM-oppgave
Utvikling og sammenligning av PEFT-metoder
- Måleverdier for å vurdere ytelse og effektivitet
- Avveininger i opplæringshastighet, minnebruk og nøyaktighet
- Benchmarking-eksperimenter og tolkning av resultater
Drift av finjusterte modeller
- Lagring og lasting av finjusterte modeller
- Betraktninger for drift av PEFT-baserte modeller
- Integrering i applikasjoner og prosesser
Beste praksis og utvidelser
- Kombinering av PEFT med kvantisering og destillasjon
- Bruk i miljøer med få ressurser og fler-til-språk
- Tidsskrift og aktive forskningsemner
Krav
- Forståelse for grunnleggende maskinlæringsprinsipper
- Erfarig med store språkmodeller (LLMs)
- Kjennskap til Python og PyTorch
Publikum
- Dataforskere
- AI-ingeniører
14 Timer
