Kursplan
Introduksjon til GPU-akselerert containerisering
- Forståelse av GPU-bruk i dyp læring arbeidsflytter
- Hvordan Docker støtter GPU-baserte arbeidsbelastninger
- Nyansatte ytelsesovervegheter
Installasjon og konfigurasjon av NVIDIA Container Toolkit
- Oppsett av drivere og CUDA-kompatibilitet
- Validering av GPU-tilgang inne i kontainer
- Konfigurasjon av kjøretidsmiljø
Bygge GPU-aktiverede Docker-bilder
- Bruk av CUDA-grunnbilder
- Pakking AI-rammeverk i GPU-klar kontainer
- Administrasjon av avhengigheter for trening og inferens
Kjøre GPU-akselererte AI-arbeidsbelastninger
- Eksekvere treningstjenester ved hjelp av GPUs
- Administrere multi-GPU arbeidsbelastninger
- Overvåke GPU-bruk
Optimalisering av ytelse og ressursallokering
- Begrense og isolere GPU-ressurser
- Optimalisere minne, batchstørrelser og enhetsplassering
- Ytelsesoptimalisering og diagnosering
Containerisert inferens og modelllevering
- Bygge inferensklare kontainer
- Levering av høybelasted arbeidsbelastninger på GPUs
- Integrere modellkjørere og APIer
Skalering av GPU-arbeidsbelastninger med Docker
- Strategier for distribuert GPU-trening
- Skalere inferens-mikrotjenester
- Koordinering av multi-kontainer AI-systemer
Sikkerhet og pålitelighet for GPU-aktiverede kontainer
- Sikre trygg GPU-tilgang i delt miljø
- Styrke containerbilder
- Administrere oppdateringer, versjoner og kompatibilitet
Oppsummering og neste trinn
Krav
- En forståelse av grunnleggende konsepter i dyp læring
- Erfaring med Python og vanlige AI-rammeverk
- Familiaritet med grunnleggende containeriseringkonsepter
Målgruppe
- Dyp læring ingeniører
- Forskning og utviklingsteam
- AI-modell trener
Referanser (5)
Han forklarte alt, ikke bare k8s-begreper.
Stefan Voinea - EMAG IT Research S.R.L
Kurs - Certified Kubernetes Application Developer (CKAD) - exam preparation
Maskinoversatt
Dybden av trenerens kunnskaper
Grant Miller - BMW
Kurs - Certified Kubernetes Administrator (CKA) - exam preparation
Maskinoversatt
Veldig informativt og rett frem. Praktisk trening
Gil Matias - FINEOS
Kurs - Introduction to Docker
Maskinoversatt
Utmerket innhold
Alan Kavanagh - FINEOS Corporation Ltd
Kurs - Docker from Basic to Advanced
Maskinoversatt
Labber og tekniske diskusjoner.
Dinesh Panchal - AXA XL
Kurs - Advanced Docker
Maskinoversatt