Open Source Model Ops: Selvhosting, finjustering og styring med Devstral- og Mistral-modeller Treningskurs

Innføring til Devstral- og Mistral-modeller

• Oppsummering av Mistral sine modeller med åpen kildekode
• Apache-2.0-lisensiering og innføring i næringslivet
• Devstrals rolle i koding og agentiske arbeidsflyter

Selvhosting av Mistral- og Devstral-modeller

• Miljøforberedelse og valg av infrastruktur
• Kontainerisering og utplassering med Docker/Kubernetes
• Skaleringsbetraktninger for produksjonsbruk

Finjusteringsteknikker

• Overvåket finjustering vs. parametereffektiv justering
• Forberedelse og rensing av datasets
• Eksempler på domespesifikk tilpasning

Model Ops og versjonering

• Beste praksis for livssyklusstyring av modeller
• Strategier for versjonering og tilbakerulling av modeller
• CI/CD-piperlinjer for ML-modeller

Styring og samsvar

• Sikkerhetsbetraktninger for utplassering med åpen kildekode
• Overvåking og revisbarhet i næringslivskontekster
• Samsvarsrammeverk og praksis for ansvarlig AI

Overvåking og observabilitet

• Sporing av modelldrift og nøyaktighetsforringelse
• Måling for inferanse-ytelse
• Advarsels- og responsarbeidsflyter

Kasusstudier og beste praksis

• Bransjebrukstilfeller for innføring av Mistral og Devstral
• Å balansere kostnad, ytelse og kontroll
• Lekser lært fra åpen kildekode Model Ops

Oppsummering og neste steg