Ta kontakt
 Varighet 14 timer

Kursplan

Introduksjon til AI-inferens med Docker

  • Forståelse av AI-inferensarbeidslast
  • Fordeler med kontainerisert inferens
  • Utleggningsscenarier og begrensninger

Bygge AI-inferenskонтainere

  • Velge basisbilder og rammeverk
  • Emballasjering av forhåndsopplærte modeller
  • Strukturere inferenskode for kontainerkjøring

Sikring av kontainerbaserte AI-tjenester

  • Minimere kontainerangrepsflate
  • Administrasjon av hemmeligheter og følsomme filer
  • Sikker nettverksdrift og strategier for API-eksponering

Bærbare utleggningsteknikker

  • Optimalisering av bilder for bærbarhet
  • Sikre forutsigbare kjøreomgivelser
  • Administrasjon av avhengigheter tvers gjennom plattformer

Lokalt utleggning og testing

  • Kjøring av tjenester lokalt med Docker
  • Felsøking i inferenskонтainere
  • Testing av ytelse og pålitelighet

Utleggning på tjenere og sky-VM-er

  • Tilpasning av containere til fjerne miljøer
  • Konfigurering av sikker tjeneradgang
  • Utleggning av inferens-API-er på sky-VM-er

Bruk av Docker Compose for multiservice AI-systemer

  • Orkestrering av inferens med støttende komponenter
  • Administrasjon av miljøvariabler og konfigurasjoner
  • Skalering av mikrotjenester med Compose

Overvåking og vedlikehold av AI-inferenstjenester

  • Logging og tilnærminger til synlighet
  • Deteksjon av feil i inferenspiper
  • Oppdatering og versjonering av modeller i produksjon

Oppsummering og neste steg

Krav

  • Forståelse for grunnleggende maskinlæringskonsepter
  • Erfaring med Python eller backend-utvikling
  • Kjennskap til grunnleggende kontainerkonsepter

Målgruppe

  • Utviklere
  • Backend-ingeniører
  • Lag som ruller ut AI-tjenester

Antall deltakere


Pris per deltaker

Referanser (2)

Kommende kurs

Relaterte kategorier