Ta kontakt

Kursplan

Grunnleggende i Hybrid AI-deployment

  • Forståelse av hybrid-, sky- og kantdeployingsmodeller
  • Karakteristikker for AI-arbeidsbelastninger og infrastrukturbegrensninger
  • Valg av rett deploy-topologi

Containerisering av AI-arbeidsbelastninger med Docker

  • Bygging av GPU- og CPU-inferens-containere
  • Håndtering av sikre images og registre
  • Implementering av reproduksjonbare miljøer for AI

Distribusjon av AI-tjenester til skybaserte miljøer

  • Kjøring av inferens på AWS, Azure og GCP via Docker
  • Utplassering av sky-basert regnekraft for modellservering
  • Sikring av skybaserte AI-endepunkter

Teknikker for kant- og on-premise-deployement

  • Kjøring av AI på IoT-enheter, gateways og mikroservrar
  • Lette kjerneløyper for kantmiljøer
  • Håndtering av intermitterende tilkobling og lokal persistens

Hybridnettverk og sikker tilkobling

  • Sikre tunneller mellom kant og sky
  • Sertifikater, hemmeligheter og tokenbasert tilgang
  • Prestasjonsoptimalisering for lav-latens inferens

Orkestrering av distribuerte AI-deployments

  • Bruk av K3s, K8s eller lette orkestreringsløsninger for hybride oppsett
  • Tjenetedekning og arbeidsbelastningsplanlegging
  • Automatisering av utbredelsesstrategier over flere steder

Monitoring og observabilitet over miljøer

  • Sporing av inferensprestasjon på tvers av steder
  • Sammenhengende loggføring for hybride AI-systemer
  • Feiloppdagelse og automatisert gjenopprettning

Skalering og optimalisering av hybride AI-systemer

  • Skalering av kantkluster og sky-noder
  • Optimalisering av båndbreddebruk og capping
  • Balance av beregningskraft mellom sky og kant

Oppsummering og neste skritt

Krav

  • Forkjennskap til containerisering
  • Erfaring med Linux-kommandolinje-operasjoner
  • Kjent med arbeidsflyter for distribusjon av AI-modeller

Målgruppe

  • Arkitekter for infrastruktur
  • Tillitssikringingeniører (SREs)
  • Kant- og IoT-utviklere
 21 Timer

Antall deltakere


Pris per deltaker

Referanser (3)

Kommende kurs

Relaterte kategorier