Takk for at du sendte din henvendelse! En av våre teammedlemmer vil kontakte deg straks.
Takk for at du sendte din bestilling! En av våre teammedlemmer vil kontakte deg straks.
Varighet 21 timer
Kursplan
Introduksjon til GPU-akselerert containerisering
- Forståelse av bruken av GPU i dyrelæringsarbeidsflyter
- Hvordan Docker støtter GPU-baserte arbeidslast
- Nøkkelfaktorer for ytelse
Installasjon og konfigurasjon av NVIDIA Container Toolkit
- Oppsett av drivere og CUDA-kompatibilitet
- Verifisering av GPU-tilgang inne i containere
- Konfigurasjon av runtime-miljøet
Bygging av GPU-aktive Docker-bilder
- Bruk av CUDA-basisbilder
- Pakking av KI-rammeverk i GPU-klare containere
- Administrasjon av avhengigheter for trening og inferens
Kjøring av GPU-akselererte KI-arbeidslast
- Kjøring av treningsjobber ved bruk av GPU
- Administrasjon av fler-GPU-arbeidslast
- Overvåking av GPU-utnyttelse
Optimalisering av ytelse og resursallokering
- Begrensning og isolasjon av GPU-ressurser
- Optimalisering av minne, batch-størrelser og enhetsplassering
- Ytelsesjustering og diagnostikk
Containerisert inferens og modellservering
- Bygging av containere klare for inferens
- Servering av arbeidslast med høy belastning på GPU
- Integrasjon av modellkjører og API-er
Skalering av GPU-arbeidslast med Docker
- Strategier for distribuert GPU-trening
- Skalering av inferens-mikrotjenester
- Koordinering av fler-container KI-systemer
Sikkerhet og pålitelighet for GPU-aktive containere
- Sikre trygg GPU-tilgang i delt miljømøer
- Betoning av containerbilder
- Administrasjon av oppdateringer, versjoner og kompatibilitet
Oppsummering og neste steg
Krav
- Forståelse av grunninger for dyrelæring
- Erfaring med Python og vanlige KI-rammeverk
- Kjennskap til grunnleggende containerkonsepter
Targetgruppe
- Dyrelæringsingeniører
- Forskning- og utviklingsteam
- KI-modelltrenere
Referanser (2)
Som jeg sa tidligere, var dette for en person som meg (uten erfaring) en bro inn til forståelse av funksjoner og verktøy i disse programmene og verktøyene.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Kurs - Docker and Kubernetes
Maskinoversatt
et flerlaget, strukturert kursprogram.
Bert Paelinckx - Cube SoftwareSolutions
Kurs - Introduction to Docker
Maskinoversatt