Ta kontakt

Kursplan

Introduksjon til Huawei CloudMatrix

  • CloudMatrix-økosystemet og utplasseringsflyt
  • Støttede modeller, formater og utplasseringsmoduser
  • Typiske brukstilfeller og støttede prosessorer

Forberedelse av modeller for utplassering

  • Eksport av modeller fra treningsverktøy (MindSpore, TensorFlow, PyTorch)
  • Bruk av ATC (Ascend Tensor Compiler) for formatkonvertering
  • Statisk vs dynamisk modellform

Utplassering til CloudMatrix

  • Oppretting av tjenester og registrering av modeller
  • Utplassering av inferansetjenester via UI eller CLI
  • Routing, autentisering og tilgangskontroll

Servering av inferanseforespørsler

  • Batch- vs sanntids-inferanseflyter
  • Pipeliner for datapreprosesserings- og etterbehandlingsprosesser
  • Kalling av CloudMatrix-tjenester fra eksterne applikasjoner

Overvåking og ytelsesjustering

  • Utplasseringslogger og sporing av forespørsler
  • Skalering av ressurser og lastbalansering
  • Justering av responsetid og optimalisering av gjennomstrømning

Integrering med verktøy for bedrifter

  • Kobling av CloudMatrix med OBS og ModelArts
  • Bruk av arbeidsflyter og modellversjonering
  • CI/CD for modellutplassering og tilbakestillinger

End-to-end inferansepipe

  • Utplassering av en komplett pipe for bildeklassifisering
  • Benchmarking og validering av nøyaktighet
  • Simulering av failover og systemvarsler

Oppsummering og neste steg

Krav

  • Forståelse av arbeidsganger for KI-modelltrening
  • Erfaring med Python-baserte ML-rammeverk
  • Grunnleggende kjennskap til konseptene for cloud-utplassering

Målgruppe

  • AIOps-team
  • Maskininlæringsingeniører
  • Spesialister for cloud-utplassering som jobber med Huawei-infrastruktur
 21 Timer

Antall deltakere


Pris per deltaker

Referanser (2)

Kommende kurs

Relaterte kategorier