Ta kontakt

Kursplan

Innføring i GPU-akselerert containerisering

  • Forståelse av GPU-bruk i dyp læring-arbeidsflyter
  • Hvordan Docker støtter GPU-baserte arbeidsbelastninger
  • Viktige ytningshensyn

Installasjon og konfigurering av NVIDIA Container Toolkit

  • Oppsett av drivere og CUDA-kompatibilitet
  • Validering av GPU-tilgang inne i containere
  • Konfigurering av kjørmiljøet

Bygging av Docker-bilder med GPU-støtte

  • Bruk av CUDA-basisbilder
  • Pakking av KI-rammeverk i GPU-klare containere
  • Administrering av avhengigheter for opplæring og inferens

Kjøring av GPU-akselererte KI-arbeidsbelastninger

  • Kjøring av opplæringsjobber ved hjelp av GPU-er
  • Administrering av arbeidsbelastninger med flere GPU-er
  • Overvåking av GPU-utnyttelse

Optimalisering av ytelse og ressursallokering

  • Begrensning og isolasjon av GPU-ressurser
  • Optimalisering av minne, partistørrelser og enhetsplassering
  • Ytelsesjustering og diagnostikk

Containert inferens og modellservering

  • Bygging av containere klare for inferens
  • Servering av høyt lastede arbeidsbelastninger på GPU-er
  • Integrasjon av modellkjører og API-er

Skalering av GPU-arbeidsbelastninger med Docker

  • Strategier for distribuert GPU-trening
  • Skalering av inferens-mikrotjenester
  • Koordinering av fler-containers KI-systemer

Sikkerhet og pålitelighet for containere med GPU-støtte

  • Sikre trygg GPU-tilgang i felles miljøer
  • Forsikring av containerbilder
  • Administrering av oppdateringer, versjoner og kompatibilitet

Sammendrag og neste steg

Krav

  • Forståelse av grunnleggende prinsipper for dyp læring
  • Erfaring med Python og vanlige KI-rammeverk
  • Kjennskap til grunnleggende begreper innen containerisering

Targetgruppe

  • Ingeniører innen dyp læring
  • Team for forskning og utvikling
  • Trenere av KI-modeller
 21 Timer

Antall deltakere


Pris per deltaker

Referanser (3)

Kommende kurs

Relaterte kategorier