AI Inference og Deployering med CloudMatrix Treningskurs
CloudMatrix er Huaweis enhetlige plattform for utvikling og distribusjon av AI, som er designet for å støtte skalerbare, produksjonskvalitetsinferenspipeliner.
Denne instruktørledede, levende opplæringen (online eller på stedet) er rettet mot AI-profesjonelle på begynnernivå til mellomnivå som ønsker å distribuere og overvåke AI-modeller ved hjelp av CloudMatrix plattformen med CANN og MindSpore-integrering.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Bruke CloudMatrix for modellpakking, distribusjon og levertjeneste.
- Konvertere og optimalisere modeller for Ascend-chipsett.
- Opprette pipelines for sanntids- og batch-inferensoppgaver.
- Overvåke distribusjoner og justere ytelse i produksjonsmiljøer.
Kursets format
- Interaktiv forelesning og diskusjon.
- Hånds-på bruk av CloudMatrix med virkelige distribusjonsscenarier.
- Veiledede øvelser som fokuserer på konvertering, optimalisering og skalerbarhet.
Tilpasningsalternativer for kurs
- For å be om en tilpasset opplæring for dette kurset basert på din AI-infrastruktur eller sky-miljø, kontakt oss for å avtale.
Kursplan
Innføring i Huawei CloudMatrix
- CloudMatrix økosystem og deploymentsflyt
- Støttede modeller, formater og deploymentsmodi
- Typiske brukstilfeller og støttede chipsett
Forberedelse av modeller for deployment
- Modelleksport fra treningsverktøy (MindSpore, TensorFlow, PyTorch)
- Bruk av ATC (Ascend Tensor Compiler) for formatkonvertering
- Statiske vs dynamiske formmodeller
Deployment til CloudMatrix
- Opprettelse av tjenester og modellregistrering
- Deployment av inferensetjenester via UI eller CLI
- Routing, autentisering og tilgangskontroll
Tjenesting av inferensforespørsler
- Batch vs. sanntidsinferensflyt
- Databehandlings- og etterbehandlingsrørledninger
- Kalling av CloudMatrix tjenester fra eksterne applikasjoner
Overvåking og ytelsestilpasning
- Deploymentslogger og sporing av forespørsler
- Ressurseskalering og lastbalansering
- Latensjustering og gjennomstrømningsoptimering
Integrasjon med bedriftsverktøy
- Kopling av CloudMatrix med OBS og ModelArts
- Bruk av arbeidsflyt og modellversjonering
- CI/CD for modelldeployment og tilbakestilling
End-to-end inferensrørledning
- Deployment av en fullstendig bildeklassifikasjonsrørledning
- Benchmarking og validering av nøyaktighet
- Simulering av feilover og systemvarsler
Oppsummering og neste steg
Krav
- Forståelse av AI-modelltreningsarbeidsflyt
- Erfaring med Python-baserte ML-rammeverk
- Grunnleggende kjennskap til skyløsningskonsepter
Målgruppe
- AI-operasjonsteam
- Maskinlæringsingeniører
- Spesialister i skyløsningsutplassering som arbeider med Huawei-infrastruktur
Open Training Courses require 5+ participants.
AI Inference og Deployering med CloudMatrix Treningskurs - Booking
AI Inference og Deployering med CloudMatrix Treningskurs - Enquiry
AI Inference og Deployering med CloudMatrix - Consultancy Enquiry
Consultancy Enquiry
Testimonials (1)
Trinn for trinn opplæring med mange øvelser. Det var som en workshop, og jeg er veldig glad for det.
Ireneusz - Inter Cars S.A.
Kurs - Intelligent Applications Fundamentals
Machine Translated
Upcoming Courses
Relaterte kurs
Utvikling av AI-applikasjoner med Huawei Ascend og CANN
21 timerHuawei Ascend er en familie av AI-prosessorer designet for høyytelse inferens og trening.
Denne instruktørledede, live-opplæringen (online eller på stedet) er rettet mot mellomnivå AI-ingeniører og datavitere som ønsker å utvikle og optimalisere neuronnettverkmodeller ved hjelp av Huaweis Ascend-plattform og CANN verktøykasse.
Ved slutten av denne opplæringen vil deltakerne være i stand til å:
- Opprette og konfigurere CANN utviklingsmiljø.
- Utvikle AI-applikasjoner ved hjelp av MindSpore og CloudMatrix arbeidsflyter.
- Optimalisere ytelse på Ascend NPU-er ved hjelp av tilpassede operatører og tiling.
- Distribuere modeller til kant- eller sky-omgivelser.
Formatet på kurset
- Interaktiv forelesning og diskusjon.
- Håndverklig bruk av Huawei Ascend og CANN verktøykasse i prøveapplikasjoner.
- Veiledede øvelser med fokus på modellbygging, trening og distribusjon.
Tilpasningsalternativer for kurset
- For å be om en tilpasset opplæring for dette kurset basert på din infrastruktur eller datamengder, ta kontakt med oss for å avtale.
Deploying AI Models with CANN og Ascend AI-prosessorer
14 timerCANN (Regningsarkitektur for Neural Networks) er Huaweis AI-regningsstabel for å implementere og optimalisere AI-modeller på Ascend AI-prosessorer.
Denne instruktørledede, live-treningen (online eller på stedet) er rettet mot AI-utviklere og ingeniører på mellomnivå som ønsker å effektivt implementere trente AI-modeller på Huawei Ascend-hardware ved hjelp av CANN-verktøykassen og verktøy som MindSpore, TensorFlow, eller PyTorch.
Ved avslutningen av denne treningen vil deltakerne være i stand til å:
- Forstå CANN-arkitekturen og dens rolle i AI-implementeringspipeline.
- Konvertere og tilpasse modeller fra populære rammeverk til Ascend-kompatible formater.
- Bruke verktøy som ATC, OM modellkonvertering og MindSpore for kant- og skyinferens.
- Diagnostisere implementeringsproblemer og optimalisere ytelse på Ascend-hardware.
Format på kurset
- Interaktiv forelesning og demonstrasjon.
- Hånds-på labarbeid ved bruk av CANN-verktøy og Ascend-simulatorer eller enheter.
- Praktiske implementeringsscenarier basert på virkelige AI-modeller.
Tilhørende valgmuligheter for kurset
- For å be om et tilpasset treningskurs for dette kurset, vennligst kontakt oss for å avtale.
AI Engineering Fundamentals
14 timerDenne instruktørlede, live treningen på Norge (online eller på stedet) er rettet mot AI-ingeniører og softwareutviklere på begynnernivå til mellomnivå som ønsker å få en grunnleggende forståelse av prinsipper og praksiser innen AI-ingeniørfag.
Ved slutten av denne treningen vil deltakerne kunne:
- Forstå kjernen i konsepter og teknologier bak AI og maskinlæring.
- Implementere grunnleggende maskinlæringsmodeller ved hjelp av TensorFlow og PyTorch.
- Bruke AI-teknikker til å løse praktiske problemer innen softwareutvikling.
- Håndtere og vedlikeholde AI-prosjekter ved å bruke beste praksiser innen AI-ingeniørfag.
- Gjenkjenne de etiske implikasjoner og ansvarene som er involvert i utvikling av AI-systemer.
GPU Programming på Biren AI Acceleratorer
21 timerBiren AI-akseleratorer er høyytelsesorienterte GPUs designet for AI- og HPC-laster med støtte for stort volum trenings- og inferensarbeid.
Dette ledede, live-treningen (online eller på stedet) er rettet mot mellomnivå- og avanserte utviklere som ønsker å programmere og optimalisere applikasjoner ved hjelp av Biren sitt proprietære GPU-stakk, med praktiske sammenligninger med CUDA-baserte miljøer.
Til slutt vil deltakerne kunne:
- Forstå Biren GPU-arkitektur og minnehierarki.
- Opprette utviklingsmiljø og bruke Biren sitt programmeringsmodell.
- Oversette og optimalisere CUDA-stilkode for Biren-plattformer.
- Bruke prestasjonsjustering og feilsøkingsmetoder.
Format på kurset
- Interaktiv forelesning og diskusjon.
- Hender-på bruk av Biren SDK i eksempler på GPU-laster.
- Guidede øvelser fokusert på porting og prestasjonsjustering.
Muligheter for tilpassing av kurset
- For å be om tilpasset trening for dette kurset basert på din applikasjonsstakk eller integrasjonsbehov, ta kontakt med oss for å avtale.
Bygg Intelligent Applications med AI og ML
28 timerDenne instruktørledede, liveopplæringen i Norge (online eller på stedet) er rettet mot AI-fagfolk på middels nivå til avansert nivå.
programvareutviklere som ønsker å bygge intelligente applikasjoner ved hjelp av AI og ML.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå de avanserte konseptene og teknologiene bak AI og ML.
- Analyser og visualiser data for å informere AI/ML-modellutvikling.
- Bygg, tren og distribuer AI/ML-modeller effektivt.
- Lag intelligente applikasjoner som kan løse problemer i den virkelige verden.
- Evaluer de etiske implikasjonene av AI-applikasjoner i ulike bransjer.
Introduksjon til CANN for AI-rammeverkutviklere
7 timerCANN (Compute Architecture for Neural Networks) er Huaweis AI-beregningssverktøy som brukes til å kompilere, optimalisere og distribuere AI-modeller på Ascend AI-prosessorer.
Dette instruktørledede, live-trainingen (online eller på stedet) er rettet mot AI-utviklere på begynnernivå som ønsker å forstå hvordan CANN passer inn i modelllevesyklusen fra trening til distribusjon, og hvordan det fungerer sammen med rammeverk som MindSpore, TensorFlow, og PyTorch.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå formålet og arkitekturen til CANN verktøysettet.
- Opprette en utviklingsmiljø med CANN og MindSpore.
- Konvertere og distribuere en enkel AI-modell til Ascend-hardware.
- Oppnå grunnleggende kunnskap for fremtidige CANN optimaliserings- eller integreringsprosjekter.
Format på kurset
- Interaktiv forelesning og diskusjon.
- Hånds-på-lab med enkel modelldistribusjon.
- Trinn-for-trinn gjennomgang av CANN verktøykjeden og integrasjonspunkter.
Tilpasningsmuligheter for kurset
- For å be om tilpasset opplæring for dette kurset, vennligst kontakt oss for å avtale.
CANN for Edge AI Deployment
14 timerHuaweis Ascend CANN-verktøykasse muliggjør kraftig AI-inferens på edge-enheter som Ascend 310. CANN gir essensielle verktøy for å kompilere, optimere og deploye modeller der beregningskraft og minne er begrenset.
Denne instruktørlede live-treningen (online eller på sted) er rettet mot AI-utviklere og integratorer på mellomnivå som ønsker å deploye og optimere modeller på Ascend-edge-enheter ved hjelp av CANN-verktøykjeden.
Ved avslutningen av denne treningen vil deltakerne kunne:
- Forberede og konvertere AI-modeller for Ascend 310 ved hjelp av CANN-verktøy.
- Bygge lette inferens-pipelines ved hjelp av MindSpore Lite og AscendCL.
- Optimerer modellytelse for begrensede beregnings- og minne-miljøer.
- Deployere og overvåke AI-applikasjoner i virkelige edge-brukstilfeller.
Formatet på kurset
- Interaktiv forelesning og demonstrasjon.
- Hånds-på-laboratorium med edge-spesifikke modeller og scenarier.
- Live-deployereksempler på virtuell eller fysisk edge-hardware.
Kurskustomiseringsalternativer
- For å be om en tilpasset trening for dette kurset, vennligst kontakt oss for å avtale.
Forståelse av Huaweis AI-regneark: Fra CANN til MindSpore
14 timerHuaweis AI-stakk — fra lavnivå-CANN SDK til høy-nivå MindSpore-rammeverket — tilbyr et tett integrert AI-utviklings- og distribusjonsmiljø som er optimalisert for Ascend-hardware.
Denne instruktørledede, live-treningen (online eller på stedet) er rettet mot tekniske fagfolk på begynnernivå til mellomnivå som ønsker å forstå hvordan CANN og MindSpore-komponentene samarbeider for å støtte AI-livssyklushåndtering og infrastrukturbeslutninger.
Ved kursets slutt vil deltakerne kunne:
- Forstå den lagdelte arkitekturen i Huaweis AI-beregningsstakk.
- Identifisere hvordan CANN støtter modelloptimalisering og distribusjon på hardwarenivå.
- Vurdere MindSpore-rammeverket og verktøykjeden i forhold til alternativene i industrien.
- Plassere Huaweis AI-stakk i bedrifts- eller cloud/on-prem-miljøer.
Kursformat
- Interaktiv forelesning og diskusjon.
- Live systemdemonstrasjoner og tilfellebaserte gjennomganger.
- Valgfrie veiledede laboratorier på modellflyt fra MindSpore til CANN.
Tilpasningsmuligheter for kurs
- For å be om en tilpasset trening for dette kurset, vennligst kontakt oss for å ordne.
Optimering av Neural Network Ytelse med CANN SDK
14 timerCANN SDK (Compute Architecture for Neural Networks) er Huaweis grunnlag for AI-regning som lar utviklere finjustere og optimalisere ytelsen til nydelte nevrale nettverk på Ascend AI-prosessorer.
Denne instruktørledede, live-treningen (online eller på sted) er rettet mot avanserte AI-utviklere og systemingeniører som ønsker å optimalisere inferensytelse ved hjelp av CANN’s avanserte verktøyoppsett, inkludert Graph Engine, TIK, og utvikling av tilpassede operatører.
Ved slutten av denne treningen vil deltakerne være i stand til å:
- Forstå CANN’s kjørbararkitektur og ytelseslivssyklus.
- Bruk profileringsverktøy og Graph Engine for ytelsesanalyse og optimalisering.
- Opprette og optimalisere tilpassede operatører ved hjelp av TIK og TVM.
- Løse hukommelsesflaskhalser og forbedre modellgjennomstrømning.
Kursformat
- Interaktiv forelesning og diskusjon.
- Pratiske laboratorier med sanstidsprofilering og operatørjustering.
- Optimaliseringsøvelser ved bruk av ekstremtilfeller for innsetting.
Tilpassingsmuligheter for kurset
- For å be om en tilpasset trening for dette kurset, vennligst kontakt oss for å avtale.
SDK for Ascend og NLP-rørledninger
14 timerCANN SDK (Compute Architecture for Neural Networks) gir kraftige verktøy for distribusjon og optimering av sanntids AI-applikasjoner innen bildebehandling og NLP, spesielt på Huawei Ascend-hardware.
Denne instruktørledede liveopplæringen (online eller på stedet) er rettet mot AI-praktikanter på mellomnivå som ønsker å bygge, distribuere og optimalisere bilde- og språkmodeller ved hjelp av CANN SDK for produksjonsbruk.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Distribuerre og optimalisere CV- og NLP-modeller ved hjelp av CANN og AscendCL.
- Bruke CANN-verktøy til å konvertere modeller og integrere dem i levende rørledninger.
- Optimalisere inferensytelse for oppgaver som oppdagelse, klassifisering og meningsanalyse.
- Bygge sanntids CV/NLP-rørledninger for distribuering på kanten eller i skybaserte scenarier.
Kursformat
- Interaktiv forelesning og demonstrasjon.
- Hånds-på-laboratorium med modelldistribusjon og ytelsesprofilering.
- Levende rørledningsdesign ved bruk av ekte CV- og NLP-brukstilfeller.
Tilpassingsmuligheter for kurset
- For å be om en tilpasset opplæring for dette kurset, vennligst kontakt oss for å avtale.
Bygging av Tilpassede AI-Operatorer med CANN TIK og TVM
14 timerCANN TIK (Tensor Instruction Kernel) og Apache TVM gjør det mulig å optimere og tilpasse AI-modelloperatører for Huawei Ascend maskinvare.
Denne opplæringskurset ledet av instruktør (online eller på stedet) er rettet mot systemutviklere på avansert nivå som ønsker å bygge, distribuere og justere egendefinerte operatører for AI-modeller ved hjelp av CANN’s TIK-programmeringsmodell og TVM-kompilatorintegrasjon.
Ved avslutning av denne opplæringen vil deltakerne kunne:
- Skrive og teste egendefinerte AI-operatører ved hjelp av TIK DSL for Ascend-prosessorer.
- Integrere egendefinerte operatører i CANN køringsmiljø og utførelsesgraf.
- Bruke TVM for operatørplanlegging, autotuning og benchmarking.
- Feilsøke og optimere instruksjonsnivåprestasjon for egendefinerte beregningsmønstre.
Kursform
- Interaktiv forelesning og demonstrasjon.
- Praktisk programmering av operatører ved hjelp av TIK- og TVM-pipeliner.
- Testing og justering på Ascend-maskinvare eller simuleringer.
Tilpassingsmuligheter for kurset
- For å be om et tilpasset opplæringskurs for dette kurset, vennligst kontakt oss for å avtale.
Overføre CUDA-applikasjoner til kinesiske GPU-arkitekturer
21 timerKinesiske GPU-arkitekturer som Huawei Ascend, Biren, og Cambricon MLUs tilbyr CUDA-alternativer tilpasset for lokale AI- og HPC-marked.
Denne instruktørledede, live-trening (online eller på stedet) er rettet mot avanserte GPU-programmerere og infrastrukturspesialister som ønsker å migrere og optimalisere eksisterende CUDA-applikasjoner for deployering på kinesiske hardwarplattformer.
Ved slutten av denne treningen vil deltakerne kunne:
- Vurdere kompatibiliteten til eksisterende CUDA-arbeidsbelastninger med kinesiske chip-alternativer.
- Flytte CUDA-kodebaser til Huawei CANN, Biren SDK, og Cambricon BANGPy-miljøer.
- Sammenligne ytelse og identifisere optimaliseringspunkter over plattformer.
- Behandle praktiske utfordringer med kryssarkitekturstøtte og deployering.
Kursets format
- Interaktiv forelesning og diskusjon.
- Praktiske kodeoversettings- og ytelsessammenligningslaboratorier.
- Veiledede øvelser fokusert på fler-GPU-tilpasningsstrategier.
Tilpasningsmuligheter for kurset
- For å be om en tilpasset trening for dette kurset basert på din plattform eller CUDA-prosjekt, vennligst kontakt oss for å avtale.
Intelligent Applications Fundamentals
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot IT-fagfolk på nybegynnernivå som ønsker å få en grunnleggende forståelse av intelligente applikasjoner og hvordan de kan brukes i ulike bransjer.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå historien, prinsippene og virkningen av kunstig intelligens.
- Identifiser og bruk forskjellige maskinlæringsalgoritmer.
- Administrer og analyser data effektivt for AI-applikasjoner.
- Gjenkjenne de praktiske anvendelsene og begrensningene til AI i forskjellige sektorer.
- Diskuter de etiske hensyn og samfunnsmessige implikasjoner av AI-teknologi.
Intelligent Applications Avansert
21 timerDenne instruktørledede, liveopplæringen i Norge (online eller på stedet) er rettet mot dataforskere, ingeniører og AI-utøvere på middels til avansert nivå som ønsker å mestre detaljene med intelligente applikasjoner og utnytte dem til å løse komplekse, problemer i den virkelige verden.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Implementere og analysere dyplæringsarkitekturer.
- Bruk maskinlæring i stor skala i et distribuert datamiljø.
- Design og utfør forsterkende læringsmodeller for beslutningstaking.
- Utvikle sofistikerte NLP-systemer for språkforståelse.
- Bruk datasynsteknikker for bilde- og videoanalyse.
- Ta tak i etiske hensyn ved utvikling og distribusjon av AI-systemer.
Performance Optimization on Ascend, Biren, and Cambricon
21 timerAscend, Biren og Cambricon er ledende AI-hardwareplattformer i Kina, og hver av dem tilbyr unike akselerasjon- og profileringverktøy for AI-belastninger på produksjonsnivå.
Denne instruktørledede, live-utdanningen (online eller på stedet) er rettet mot avanserte AI-infrastruktur- og ytelsesingeniører som ønsker å optimalisere modellinferens og treningarbeidsflyter over flere kinesiske AI-chipplattformer.
Ved slutten av denne utdanningen vil deltakerne kunne:
- Benkmark-modeller på Ascend, Biren og Cambricon-plattformer.
- Identifisere systemflaskehalser og minne-/beregningsineffektiviteter.
- Bruke grafnivå-, kjerne-nivå- og operatørnivå-optimaliseringer.
- Tune deploymentsrørledninger for å forbedre gjennomstrømning og latens.
Kursformat
- Interaktiv forelesning og diskusjon.
- Prøving av profilering- og optimaliseringsverktøy på hver plattform.
- Veiledede øvelser som fokuserer på praktisk tuning.
Kursets tilpasningsmuligheter
- For å be om en tilpasset utdanning for dette kurset basert på din ytelsesmiljø eller modelltype, vennligst kontakt oss for å ordne.