Takk for at du sendte din henvendelse! En av våre teammedlemmer vil kontakte deg straks.
Takk for at du sendte din bestilling! En av våre teammedlemmer vil kontakte deg straks.
Kursplan
Grunnleggende i Hybrid AI-deployment
- Forståelse av hybrid-, sky- og kantdeployingsmodeller
- Karakteristikker for AI-arbeidsbelastninger og infrastrukturbegrensninger
- Valg av rett deploy-topologi
Containerisering av AI-arbeidsbelastninger med Docker
- Bygging av GPU- og CPU-inferens-containere
- Håndtering av sikre images og registre
- Implementering av reproduksjonbare miljøer for AI
Distribusjon av AI-tjenester til skybaserte miljøer
- Kjøring av inferens på AWS, Azure og GCP via Docker
- Utplassering av sky-basert regnekraft for modellservering
- Sikring av skybaserte AI-endepunkter
Teknikker for kant- og on-premise-deployement
- Kjøring av AI på IoT-enheter, gateways og mikroservrar
- Lette kjerneløyper for kantmiljøer
- Håndtering av intermitterende tilkobling og lokal persistens
Hybridnettverk og sikker tilkobling
- Sikre tunneller mellom kant og sky
- Sertifikater, hemmeligheter og tokenbasert tilgang
- Prestasjonsoptimalisering for lav-latens inferens
Orkestrering av distribuerte AI-deployments
- Bruk av K3s, K8s eller lette orkestreringsløsninger for hybride oppsett
- Tjenetedekning og arbeidsbelastningsplanlegging
- Automatisering av utbredelsesstrategier over flere steder
Monitoring og observabilitet over miljøer
- Sporing av inferensprestasjon på tvers av steder
- Sammenhengende loggføring for hybride AI-systemer
- Feiloppdagelse og automatisert gjenopprettning
Skalering og optimalisering av hybride AI-systemer
- Skalering av kantkluster og sky-noder
- Optimalisering av båndbreddebruk og capping
- Balance av beregningskraft mellom sky og kant
Oppsummering og neste skritt
Krav
- Forkjennskap til containerisering
- Erfaring med Linux-kommandolinje-operasjoner
- Kjent med arbeidsflyter for distribusjon av AI-modeller
Målgruppe
- Arkitekter for infrastruktur
- Tillitssikringingeniører (SREs)
- Kant- og IoT-utviklere
21 Timer
Referanser (3)
Hvordan treneren effektivt overfører kunnskap
Vu Thoai Le - Reply Polska sp. z o. o.
Kurs - Certified Kubernetes Administrator (CKA) - exam preparation
Maskinoversatt
instruktøren hadde mye kunnskap og tålmodighet å dele med oss
Bogdan Olaru
Kurs - Introduction to Docker
Maskinoversatt
Kunnskappen og utbytten med Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Kurs - Docker and Kubernetes
Maskinoversatt