Kursplan
Introduksjon til optimering av Edge AI
- Oversikt over Edge AI og dens utfordringer
- Betydningen av modelloptimerings for enheter på kanten
- Casestudier av optimerte AI-modeller i Edge-applikasjoner
Modellkomprimeringsteknikker
- Introduksjon til modellkomprimering
- Teknikker for å redusere modellstørrelse
- Øvinger for modellkomprimering
Kvanti-metoder
- Oversikt over kvantisering og dens fordeler
- Typer av kvantisering (etter treningskvantisering, kvantiseringsbevisst treningskvantisering)
- Øvinger for modellkvantisering
Trimming og andre optimeringsmetoder
- Introduksjon til trimming
- Metoder for å trimme AI-modeller
- Andre optimeringsmetoder (f.eks. kunnskapsdestillasjon)
- Øvinger for modelltrimming og -optimering
Deployering av optimerte modeller på enheter på kanten
- Forberedelse av miljøet for enheter på kanten
- Deployering og testing av optimerte modeller
- Feilsøking av deployeringsproblemer
- Øvinger for modelldeployering
Verktøy og rammeverk for optimering
- Oversikt over verktøy og rammeverk (f.eks. TensorFlow Lite, ONNX)
- Bruk av TensorFlow Lite for modelloptimering
- Øvinger med optimeringsverktøy
Virkelige applikasjoner og casestudier
- Gjennomgang av vellykkede Edge AI-optimeringprosjekter
- Diskusjon av industrispesifikke brukstilfeller
- Øving i å bygge og optimere en virkelig applikasjon
Oppsummering og neste steg
Krav
- En forståelse av AI og maskinlæringskonsepter
- Erfaring med utvikling av AI-modeller
- Grunnleggende programmeringsferdigheter (Python anbefales)
Målgruppe
- AI-utviklere
- Maskinlæringsingeniører
- Systemarkitekter
Referanser (2)
ML-økosystemet omfatter ikke bare MLFlow, men også Optuna, Hyperopt, Docker og Docker Compose
Guillaume GAUTIER - OLEA MEDICAL
Kurs - MLflow
Maskinoversatt
Jeg nyttet på å delta i Kubeflow-treningen, som ble holdt pa nätet. Denne treningen gjorde det mulig for meg å fest igjen kunnskapen min om AWS-tjenester, K8s og alle devOps-verktøyene rundt Kubeflow, som er de nødvendige grunnlagene for å tilnærme seg emnet på riktig måte. Jeg ønsker å takke Malawski Marcin for hans tålmodighet og profesjonale innstilling når det gjelder trening og råd om beste praksis. Malawski tilnærmer seg emnet fra ulike vinkler, med ulike distribusjonsverktøy som Ansible, EKS kubectl, Terraform. Nå er jeg helt overbevist om at jeg går inn i det riktige anvendelsesfeltet.
Guillaume Gautier - OLEA MEDICAL | Improved diagnosis for life TM
Kurs - Kubeflow
Maskinoversatt