Takk for at du sendte din henvendelse! En av våre teammedlemmer vil kontakte deg straks.
Takk for at du sendte din bestilling! En av våre teammedlemmer vil kontakte deg straks.
Varighet 14 timer
Kursplan
Introduksjon til AI-inferens med Docker
- Forståelse av AI-inferensarbeidslast
- Fordeler med kontainerisert inferens
- Utleggningsscenarier og begrensninger
Bygge AI-inferenskонтainere
- Velge basisbilder og rammeverk
- Emballasjering av forhåndsopplærte modeller
- Strukturere inferenskode for kontainerkjøring
Sikring av kontainerbaserte AI-tjenester
- Minimere kontainerangrepsflate
- Administrasjon av hemmeligheter og følsomme filer
- Sikker nettverksdrift og strategier for API-eksponering
Bærbare utleggningsteknikker
- Optimalisering av bilder for bærbarhet
- Sikre forutsigbare kjøreomgivelser
- Administrasjon av avhengigheter tvers gjennom plattformer
Lokalt utleggning og testing
- Kjøring av tjenester lokalt med Docker
- Felsøking i inferenskонтainere
- Testing av ytelse og pålitelighet
Utleggning på tjenere og sky-VM-er
- Tilpasning av containere til fjerne miljøer
- Konfigurering av sikker tjeneradgang
- Utleggning av inferens-API-er på sky-VM-er
Bruk av Docker Compose for multiservice AI-systemer
- Orkestrering av inferens med støttende komponenter
- Administrasjon av miljøvariabler og konfigurasjoner
- Skalering av mikrotjenester med Compose
Overvåking og vedlikehold av AI-inferenstjenester
- Logging og tilnærminger til synlighet
- Deteksjon av feil i inferenspiper
- Oppdatering og versjonering av modeller i produksjon
Oppsummering og neste steg
Krav
- Forståelse for grunnleggende maskinlæringskonsepter
- Erfaring med Python eller backend-utvikling
- Kjennskap til grunnleggende kontainerkonsepter
Målgruppe
- Utviklere
- Backend-ingeniører
- Lag som ruller ut AI-tjenester
Referanser (2)
Som jeg sa tidligere, var dette for en person som meg (uten erfaring) en bro inn til forståelse av funksjoner og verktøy i disse programmene og verktøyene.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Kurs - Docker and Kubernetes
Maskinoversatt
et flerlaget, strukturert kursprogram.
Bert Paelinckx - Cube SoftwareSolutions
Kurs - Introduction to Docker
Maskinoversatt