CI/CD for AI: Automatisering av Docker-basert modellbygging og utlevering Treningskurs

Innføring til CI/CD for AI-arbeidsflyter

• Unike utfordringer ved leveringsrørledninger for AI-modeller
• Sammenligning av tradisjonell DevOps og MLOps-prosesser
• Kjernekomponenter i automatisert modellutlevering

Containerisering av AI-modeller med Docker

• Design av effektive Dockerfiler for ML-inferens
• Administrering av avhengigheter og modellartefakter
• Bygging av sikre og optimerte bilder

Oppsett av CI/CD-rørledninger

• Verktøyvalg for CI/CD og deres økosystemer
• Bygging av rørledninger for automatisert modellpakking
• Validering av rørledninger med automatiserte sjekker

Testing av AI-modeller i CI

• Automatisering av dataintegritetssjekker
• Enhetstester og integrasjonstester for modelltjenester
• Validering av ytelse og regresjon

Automatisert utlevering av Docker-baserte AI-tjenester

• Utlevering av AI-containere til sky miljøer
• Implementering av blå-grønn og canary-rulleringer
• Tilbakeslagsstrategier for mislykkede utleveringer

Administrering av modellversjoner og artefakter

• Bruk av registre for versjonskontroll av modeller og containere
• Merking, signering og fremming av bilder
• Kordinering av modelloppdateringer tversigjennom tjenester

Overvåking og observabilitet i CI/CD for AI

• Sporing av rørlednings- og modellprestering
• Varsler for mislykkede bygginger eller modelldrift
• Sporing av inferensadferd tversigjennom miljøer

Skalering av CI/CD-rørledninger for AI-systemer

• Parallelisering av bygginger for store modeller
• Optimering av beregnings- og lagringsressurser
• Integrasjon av distribuerte og fjerntliggende kjørende

Oppsummering og neste steg