Ta kontakt
 Varighet 21 timer

Kursplan

Grunnlag for hybride AI-implementeringer

  • Forståelse av hybride, sky- og kantimplementeringsmodeller
  • Karakteristikker ved AI-belastninger og infrastrukturelle begrensninger
  • Velge riktig implementeringstoppologi

Containerisering av AI-belastninger med Docker

  • Oppbygging av GPU- og CPU-inferansecontainere
  • Administrering av sikre bilder og registreringsenheter
  • Implementering av reproduserbare miljøer for AI

Implementering av AI-tjenester i skyområder

  • Kjøre inferanse i AWS, Azure og GCP via Docker
  • Tilrettelegging av skyberegning for modellservering
  • Sikring av skybaserte AI-endepunkter

Teknikk for kant- og lokal implementering

  • Kjøre AI på IoT-enheter, gateways og mikroservere
  • Lette kjørerammeverk for kantmiljøer
  • Administrering av intermitterende tilkobling og lokal lagring

Hybride nettverk og sikker tilkobling

  • Sikker tunneling mellom kant og sky
  • Sertifikater, hemmeligheter og tokenbasert tilgang
  • Ytelsesjustering for lavtidsinferanse

Orkestrering av distribuerte AI-implementeringer

  • Bruk av K3s, K8s eller lette orkestrering for hybride oppsett
  • Tjenestedekking og tidsplanlegging av belastninger
  • Automatisering av rulleringsstrategier for flerområder

Overvåking og observerbarhet over miljøer

  • Sporing av inferanseprestasjoner over ulike steder
  • entralisert logging for hybride AI-systemer
  • Feildeteksjon og automatisk gjenoppretting

Skalering og optimalisering av hybride AI-systemer

  • Skalering av kantkluster og skyknuter
  • Optimalisering av båndbreddebruk og melleminn
  • Avbalansering av beregningsbelastning mellom sky og kant

Oppsummering og neste trinn

Krav

  • Kunnskap om containerisjonskonsepter
  • Erfaring med Linux-kommandolinjeverktøy
  • Kjennskap til arbeidsflyter for implementering av AI-modeller

Målgruppe

  • Infrastrukturarkitekter
  • Site Reliability Engineers (SRE-er)
  • Utviklere for kant- og IoT-løsninger

Antall deltakere


Pris per deltaker

Referanser (2)

Kommende kurs

Relaterte kategorier