Takk for at du sendte din henvendelse! En av våre teammedlemmer vil kontakte deg straks.
Takk for at du sendte din bestilling! En av våre teammedlemmer vil kontakte deg straks.
Kursplan
Innføring i AI-inferens med Docker
- Forståelse av AI-inferensarbeidsbelastninger
- Fordeler ved containerbasert inferens
- Distribusjonsscenarier og begrensninger
Bygging av AI-inferens-containere
- Valg av baseavbilder og rammeverk
- Pakking av forhåndstrente modeller
- Strukturering av inferenskode for containerkjøring
Sikring av containerbaserte AI-tjenester
- Minimering av angrepsflaten til containere
- Håndtering av hemmeligheter og sensitive filer
- Sikker nettverkskonfigurasjon og strategier for API-eksponering
Portable distribusjonsteknikker
- Optimering av avbilder for bærbarhet
- Sikring av forutsigbare kjøremiljøer
- Håndtering av avhengigheter på tvers av plattformer
Lokal distribusjon og testing
- Kjøring av tjenester lokalt med Docker
- Feilsøking av inferens-containere
- Testing av ytelse og pålitelighet
Distribusjon på servere og sky-VM-er
- Tilpasning av containere for eksterne miljøer
- Konfigurasjon av sikker tilgang til servere
- Distribusjon av inferens-API-er på sky-VM-er
Bruk av Docker Compose for flertjeneste-AI-systemer
- Orkestrering av inferens med støttende komponenter
- Håndtering av miljøvariabler og konfigurasjoner
- Skalering av mikrotjenester med Compose
Monitorering og vedlikehold av AI-inferenstjenester
- Innlogging- og synlighetsmetoder
- Oppdaging av feil i inferenspipelines
- Oppdatering og versjonering av modeller i produksjon
Oppsummering og neste steg
Krav
- Forståelse av grunnleggende maskinlæringskonsepter
- Erfaring med Python eller bakendutvikling
- Kunnskap om grunnleggende containerbegreper
Målgruppe
- Utvecklere
- Bakendingingeniører
- Team som distribuerer AI-tjenester
14 Timer
Referanser (3)
Hvordan treneren effektivt overfører kunnskap
Vu Thoai Le - Reply Polska sp. z o. o.
Kurs - Certified Kubernetes Administrator (CKA) - exam preparation
Maskinoversatt
instruktøren hadde mye kunnskap og tålmodighet å dele med oss
Bogdan Olaru
Kurs - Introduction to Docker
Maskinoversatt
Kunnskappen og utbytten med Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Kurs - Docker and Kubernetes
Maskinoversatt