Kursplan
Introduksjon til produksjonsdistribusjon
- Sentrale utfordringer ved distribusjon av finjusterte modeller
- Forskjeller mellom utviklings- og produksjonsmiljøer
- Verktøy og plattformer for modelldistribusjon
Forbereder modeller for distribusjon
- Eksportere modeller i standardformater (ONNX, TensorFlow SavedModel, etc.)
- Optimalisering av modeller for ventetid og gjennomstrømning
- Testing av modeller på kantsaker og data fra den virkelige verden
Containerisering for modellimplementering
- Introduksjon til Docker
- Opprette Docker bilder for ML-modeller
- Beste praksis for containersikkerhet og effektivitet
Skalering av distribusjoner med Kubernetes
- Introduksjon til Kubernetes for AI-arbeidsbelastninger
- Sette opp Kubernetes klynger for modellhosting
- Lastbalansering og horisontal skalering
Modellovervåking og vedlikehold
- Implementere overvåking med Prometheus og Grafana
- Automatisert logging for feilsporing og ytelse
- Omskolering av rørledninger for modelldrift og oppdateringer
Sikre sikkerhet i produksjonen
- Sikring av API-er for modellslutning
- Autentiserings- og autorisasjonsmekanismer
- Ta tak i bekymringer om personvern
Kasusstudier og praktiske laboratorier
- Utplassering av en sentimentanalysemodell
- Skalering av en maskinoversettelsestjeneste
- Implementere overvåking for bildeklassifiseringsmodeller
Sammendrag og neste trinn
Krav
- God forståelse for arbeidsflyter for maskinlæring
- Erfaring med finjustering av ML-modeller
- Kjennskap til DevOps eller MLOps prinsipper
Publikum
- DevOps ingeniører
- MLOps utøvere
- AI-distribusjonsspesialister
Referanser (3)
Craig var ekstremt engasjert i opplæringen, alltid sikrede at vi holdt fokus, tilpasset eksemplene til våre daglige aktiviteter og ga alltid et svar når vi spurte, selv om informasjonen ikke var inkludert i presentasjonen.
Ecaterina Ioana Nicoale - BOOKING HOLDINGS ROMANIA SRL
Kurs - DevOps Foundation®
Maskinoversatt
Høy nivå av engasjement og kunnskap hos treneren
Jacek - Softsystem
Kurs - DevOps Engineering Foundation (DOEF)®
Maskinoversatt
reelle livseksabler
Maria - Fundacja PTA
Kurs - Mastering Make: Advanced Workflow Automation and Optimization
Maskinoversatt