Ta kontakt

Kursplan

Innføring til Cambricon og MLU-arkitektur

  • Oversikt over Cambricons AI-chipportefølje
  • MLU-arkitektur og instruksjonspipeline
  • Støttede modelltyper og bruksområder

Installasjon av utviklingsverktøykjetten

  • Installasjon av BANGPy og Neuware SDK
  • Miljøoppsett for Python og C++
  • Modellkompatibilitet og forbehandling

Modellutvikling med BANGPy

  • Tensor-struktur og formstyring
  • Konstruksjon av beregningsgrafer
  • Støtte for tilpassede operasjoner i BANGPy

Distribusjon med Neuware kjøre miljø

  • Konvertering og lasting av modeller
  • Kontroll av kjøring og inferens
  • Distribusjonspraksis for kant og datasenter

Ytelsesoptimalisering

  • Minneavbildning og lagtilpasning
  • Kjøringsspor og profilering
  • Vanlige flaskehalser og løsninger

Integrasjon av MLU i applikasjoner

  • Bruk av Neuware API-er for applikasjonsintegrasjon
  • Strøming og flerbmodellstøtte
  • Hybrid CPU-MLU inferensscenarier

Prosjekt og brukskasjer fra start til slutt

  • Lab: Distribusjon av en visjon- eller NLP-modell
  • Kantinferens med BANGPy-integrasjon
  • Testing av nøyaktighet og gjennomstrømning

Oppsummering og neste trinn

Krav

  • Forståelse for maskinlæringsmodell-strukturer
  • Erfaring med Python og/eller C++
  • Kjennskap til konsepter for modelldistribusjon og akselerasjon

Målgruppe

  • Ingeniører innen innebygd AI
  • ML-ingeniører som distribuerer til kant eller datasenter
  • Utviklere som jobber med kinesisk AI-infrastruktur
 21 Timer

Antall deltakere


Pris per deltaker

Referanser (1)

Kommende kurs

Relaterte kategorier