Kursplan

Introduksjon til Cambricon og MLU-arkitektur

  • Oversikt over Cambricons AI-chip-portfølje
  • MLU-arkitektur og instruksjonsrørledning
  • Støttede modelltyper og brukstilfeller

Installering av Utviklingsverktøykjeden

  • Installering av BANGPy og Neuware SDK
  • Miljøoppsett for Python og C++
  • Modellkompatibilitet og forhåndsbehandling

Modellutvikling med BANGPy

  • Tensorstruktur og formhåndtering
  • Bygging av beregningsgraf
  • Støtte for egendefinerte operasjoner i BANGPy

Utplassering med Neuware Runtime

  • Konvertering og lasting av modeller
  • Kjøring og kontroll av inferens
  • Utplasseringspraksis for kant og datasenter

Ytelsesoptimering

  • Hukommelseskartlegging og lagstilling
  • Kjøringssporing og profilering
  • Vanlige flaskehalser og løsninger

Integrering av MLU i Applikasjoner

  • Bruk av Neuware API-er for applikasjonsintegrering
  • Strømming og støtte for flere modeller
  • Hybride CPU-MLU-inferensscenarier

End-to-End Prosjekt og Use Case

  • Lab: Utplassering av syns- eller NLP-modell
  • Kantinferens med BANGPy-integrering
  • Testing av nøyaktighet og gjennomstrømning

Oppsummering og Neste Skritt

Krav

  • En forståelse av maskinlæringsmodellstrukturer
  • Erfaring med Python og/eller C++
  • Kjennskap med modellimplementering og akselerasjonskonsepter

Målgruppe

  • Utviklere av innbydde AI
  • ML-ingeniører som implementerer til kant eller datasenter
  • Utviklere som jobber med kinesisk AI-infrastruktur
 21 timer

Antall deltakere


Price per participant

Upcoming Courses

Related Categories