Kursplan
Introduksjon til optimering av Edge AI
- Oversikt over Edge AI og dens utfordringer
- Betydningen av modelloptimerings for enheter på kanten
- Casestudier av optimerte AI-modeller i Edge-applikasjoner
Modellkomprimeringsteknikker
- Introduksjon til modellkomprimering
- Teknikker for å redusere modellstørrelse
- Øvinger for modellkomprimering
Kvanti-metoder
- Oversikt over kvantisering og dens fordeler
- Typer av kvantisering (etter treningskvantisering, kvantiseringsbevisst treningskvantisering)
- Øvinger for modellkvantisering
Trimming og andre optimeringsmetoder
- Introduksjon til trimming
- Metoder for å trimme AI-modeller
- Andre optimeringsmetoder (f.eks. kunnskapsdestillasjon)
- Øvinger for modelltrimming og -optimering
Deployering av optimerte modeller på enheter på kanten
- Forberedelse av miljøet for enheter på kanten
- Deployering og testing av optimerte modeller
- Feilsøking av deployeringsproblemer
- Øvinger for modelldeployering
Verktøy og rammeverk for optimering
- Oversikt over verktøy og rammeverk (f.eks. TensorFlow Lite, ONNX)
- Bruk av TensorFlow Lite for modelloptimering
- Øvinger med optimeringsverktøy
Virkelige applikasjoner og casestudier
- Gjennomgang av vellykkede Edge AI-optimeringprosjekter
- Diskusjon av industrispesifikke brukstilfeller
- Øving i å bygge og optimere en virkelig applikasjon
Oppsummering og neste steg
Krav
- En forståelse av AI og maskinlæringskonsepter
- Erfaring med utvikling av AI-modeller
- Grunnleggende programmeringsferdigheter (Python anbefales)
Målgruppe
- AI-utviklere
- Maskinlæringsingeniører
- Systemarkitekter
Testimonials (2)
the ML ecosystem not only MLFlow but Optuna, hyperops, docker , docker-compose
Guillaume GAUTIER - OLEA MEDICAL
Kurs - MLflow
I enjoyed participating in the Kubeflow training, which was held remotely. This training allowed me to consolidate my knowledge for AWS services, K8s, all the devOps tools around Kubeflow which are the necessary bases to properly tackle the subject. I wanted to thank Malawski Marcin for his patience and professionalism for training and advice on best practices. Malawski approaches the subject from different angles, different deployment tools Ansible, EKS kubectl, Terraform. Now I am definitely convinced that I am going into the right field of application.