Ta kontakt

Kursplan

Innføring i kant-AI og Nano Banana

  • Kjennetegn ved kant-AI-ressurskrevende arbeidsprosesser
  • Nano Bananas arkitektur og evner
  • Sammenligning av utplasseringsstrategier for kant vs. sky

Forberedelse av modeller for kantutplassering

  • Modellvalg og vurdering av grunnlinje
  • Overveielser vedrørende avhengigheter og kompatibilitet
  • Eksport av modeller for videre optimalisering

Modellkomprimeringsteknikker

  • Knippingstrategier (pruning) og strukturell sparsomhet
  • Vektdeling og reduksjon av parametere
  • Vurdering av virkningene av komprimering

Kvantisering for ytelse ved kanten

  • Metoder for posttrening kvantisering (post-training quantization)
  • Arbeidsflyter for kvantiseringssensitiv trening (quantization-aware training)
  • INT8, FP16 og tilnærminger med blandet presisjon (mixed-precision)

Akselerering med Nano Banana

  • Bruk av Nano Banana-akseleratorer
  • Integrasjon av ONNX og maskinvarebakender
  • Benchmarking av akselerert inferanse

Utplassering på kantenheter

  • Integrasjon av modeller i innebygd eller mobilsoftware
  • Konfigurasjon og overvåking under kjøring (runtime)
  • Feilsøking av utplasseringsproblemer

Ytelsesprofiling og avveiningsanalyse

  • Latens, gjennomstrømning (throughput) og termiske begrensninger
  • Avveininger mellom nøyaktighet og ytelse
  • Iterative optimaliseringsstrategier

Bærepraksis for vedlikehold av kant-AI-systemer

  • Versjonering og kontinuerlige oppdateringer
  • Modell tilbakeslag (rollback) og kompatiblehetsforvaltning
  • Hensyn til sikkerhet og integritet

Sammenfattelse og neste steg

Krav

  • Kunnskap om maskinlæringsarbeidsflyter
  • Erfaring med modellutvikling basert på Python
  • Kjennskap til neural nettverksarkitekturer

Målgruppe

  • ML-ingeniører
  • Dataforskere
  • MLOps-utøvere
 14 Timer

Antall deltakere


Pris per deltaker

Referanser (1)

Kommende kurs

Relaterte kategorier