Kursplan

Introduksjon til Huawei CloudMatrix

  • CloudMatrix økosystem og distribusjonsflyt
  • Støttede modeller, formater og distribusjonsmodus
  • Typiske bruksområder og støttede chipsett

Forberedelse av modeller for distribusjon

  • Eksportering av modeller fra treningsverktøy (MindSpore, TensorFlow, PyTorch)
  • Bruk av ATC (Ascend Tensor Compiler) for formatering av omforming
  • Statiske vs dynamiske formmodeller

Distribusjon til CloudMatrix

  • Opprettelse av tjenester og modellregistrering
  • Distribusjon av inferenstjenester via UI eller CLI
  • Ruting, autentisering og tilgangskontroll

Tjeneste av inferensforespørsler

  • Batch- vs sanstidsinferensflyter
  • Dataforbehandling og etterbehandlingsrørledninger
  • Kalling av CloudMatrix tjenester fra eksterne applikasjoner

Overvåking og ytelsestuning

  • Distribusjonslogger og forespørselssporing
  • Ressurseskalering og lasthåndtering
  • Latensjustering og gjennomstrømningsoptimering

Integrering med bedriftsverktøy

  • Tilkobling av CloudMatrix med OBS og ModelArts
  • Bruk av arbeidsflyter og modellversjonering
  • CI/CD for modelldistribusjon og tilbakestilling

Helhetsinferensrørledning

  • Distribusjon av en fullstendig bildeklassifiseringsrørledning
  • Benchmarking og validering av nøyaktighet
  • Simulering av feilovergang og systemvarsler

Oppsummering og neste skritt

Krav

  • Forståelse av AI-modelltreningsarbeidsflyter
  • Erfaring med Python-baserte ML-rammeverk
  • Grundleggende kjennskap til cloud-deploymentskonsepter

Målgruppe

  • AI-operasjonsteam
  • Maskinlæringsingeniører
  • Cloud-deploymentspesialister som arbeider med Huawei-infrastruktur
 21 timer

Antall deltakere


Price per participant

Testimonials (1)

Upcoming Courses

Related Categories