Ta kontakt
 Varighet 21 timer

Kursplan

Introduksjon til GPU-akselerert containerisering

  • Forståelse av bruken av GPU i dyrelæringsarbeidsflyter
  • Hvordan Docker støtter GPU-baserte arbeidslast
  • Nøkkelfaktorer for ytelse

Installasjon og konfigurasjon av NVIDIA Container Toolkit

  • Oppsett av drivere og CUDA-kompatibilitet
  • Verifisering av GPU-tilgang inne i containere
  • Konfigurasjon av runtime-miljøet

Bygging av GPU-aktive Docker-bilder

  • Bruk av CUDA-basisbilder
  • Pakking av KI-rammeverk i GPU-klare containere
  • Administrasjon av avhengigheter for trening og inferens

Kjøring av GPU-akselererte KI-arbeidslast

  • Kjøring av treningsjobber ved bruk av GPU
  • Administrasjon av fler-GPU-arbeidslast
  • Overvåking av GPU-utnyttelse

Optimalisering av ytelse og resursallokering

  • Begrensning og isolasjon av GPU-ressurser
  • Optimalisering av minne, batch-størrelser og enhetsplassering
  • Ytelsesjustering og diagnostikk

Containerisert inferens og modellservering

  • Bygging av containere klare for inferens
  • Servering av arbeidslast med høy belastning på GPU
  • Integrasjon av modellkjører og API-er

Skalering av GPU-arbeidslast med Docker

  • Strategier for distribuert GPU-trening
  • Skalering av inferens-mikrotjenester
  • Koordinering av fler-container KI-systemer

Sikkerhet og pålitelighet for GPU-aktive containere

  • Sikre trygg GPU-tilgang i delt miljømøer
  • Betoning av containerbilder
  • Administrasjon av oppdateringer, versjoner og kompatibilitet

Oppsummering og neste steg

Krav

  • Forståelse av grunninger for dyrelæring
  • Erfaring med Python og vanlige KI-rammeverk
  • Kjennskap til grunnleggende containerkonsepter

Targetgruppe

  • Dyrelæringsingeniører
  • Forskning- og utviklingsteam
  • KI-modelltrenere

Antall deltakere


Pris per deltaker

Referanser (2)

Kommende kurs

Relaterte kategorier