Ta kontakt

Kursplan

Innføring i AI-inferens med Docker

  • Forståelse av AI-inferensarbeidsbelastninger
  • Fordeler ved containerbasert inferens
  • Distribusjonsscenarier og begrensninger

Bygging av AI-inferens-containere

  • Valg av baseavbilder og rammeverk
  • Pakking av forhåndstrente modeller
  • Strukturering av inferenskode for containerkjøring

Sikring av containerbaserte AI-tjenester

  • Minimering av angrepsflaten til containere
  • Håndtering av hemmeligheter og sensitive filer
  • Sikker nettverkskonfigurasjon og strategier for API-eksponering

Portable distribusjonsteknikker

  • Optimering av avbilder for bærbarhet
  • Sikring av forutsigbare kjøremiljøer
  • Håndtering av avhengigheter på tvers av plattformer

Lokal distribusjon og testing

  • Kjøring av tjenester lokalt med Docker
  • Feilsøking av inferens-containere
  • Testing av ytelse og pålitelighet

Distribusjon på servere og sky-VM-er

  • Tilpasning av containere for eksterne miljøer
  • Konfigurasjon av sikker tilgang til servere
  • Distribusjon av inferens-API-er på sky-VM-er

Bruk av Docker Compose for flertjeneste-AI-systemer

  • Orkestrering av inferens med støttende komponenter
  • Håndtering av miljøvariabler og konfigurasjoner
  • Skalering av mikrotjenester med Compose

Monitorering og vedlikehold av AI-inferenstjenester

  • Innlogging- og synlighetsmetoder
  • Oppdaging av feil i inferenspipelines
  • Oppdatering og versjonering av modeller i produksjon

Oppsummering og neste steg

Krav

  • Forståelse av grunnleggende maskinlæringskonsepter
  • Erfaring med Python eller bakendutvikling
  • Kunnskap om grunnleggende containerbegreper

Målgruppe

  • Utvecklere
  • Bakendingingeniører
  • Team som distribuerer AI-tjenester
 14 Timer

Antall deltakere


Pris per deltaker

Referanser (3)

Kommende kurs

Relaterte kategorier