Kursplan
Introduksjon til modelloptimalisering og utplassering
- Oversikt over DeepSeek-modeller og utplasseringsutfordringer
- Forståelse av modell-effektivitet: hastighet versus nøyaktighet
- Viktige ytelsesmålinger for AI-modeller
Optimalisering av DeepSeek-modeller for ytelse
- Teknikker for å redusere inferensforsinkelse
- Modellkvantisering og beskjæringstrategier
- Bruk av optimerede biblioteker for DeepSeek-modeller
Implementering av MLOps for DeepSeek-modeller
- Versjonskontroll og modellsporing
- Automatisering av modelltrening og utplassering
- CI/CD-pipelines for AI-applikasjoner
Utplassering av DeepSeek-modeller i sky- og lokalt miljø
- Valg av riktig infrastruktur for utplassering
- Utplassering med Docker og Kubernetes
- Håndtering av API-tilgang og autentisering
Skalering og overvåking av AI-utplasseringer
- Lastbalanseringstrategier for AI-tjenester
- Overvåking av modelldrift og ytelsesforringelse
- Implementering av automatisk skalering for AI-applikasjoner
Sikring av sikkerhet og etterlevelse i AI-utplasseringer
- Håndtering av databeskyttelse i AI-arbeidsflyter
- Overholdelse av foretaksreguleringer for AI
- Beste praksis for sikre AI-utplasseringer
Fremtidige trender og optimaliseringsstrategier for AI
- Fremgang innenfor optimaliseringsteknikker for AI-modeller
- Oppkommende trender innen MLOps og AI-infrastruktur
- Oppbygging av en AI-utplasseringsroadmap
Oppsummering og neste skritt
Krav
- Erfaring med utplassering av AI-modeller og skyinfrastruktur
- God kjennskap til et programmeringsspråk (f.eks. Python, Java, C++)
- Forståelse for MLOps og optimalisering av modellprestasjoner
Målgruppe
- AI-ingeniører som optimaliserer og utplasserer DeepSeek-modeller
- Datavitenskapsfolk som jobber med AI-ytelsesjustering
- Maskinlæringsspesialister som administrerer skybaserte AI-systemer
Referanser (2)
ML-økosystemet omfatter ikke bare MLFlow, men også Optuna, Hyperopt, Docker og Docker Compose
Guillaume GAUTIER - OLEA MEDICAL
Kurs - MLflow
Maskinoversatt
Jeg nyttet på å delta i Kubeflow-treningen, som ble holdt pa nätet. Denne treningen gjorde det mulig for meg å fest igjen kunnskapen min om AWS-tjenester, K8s og alle devOps-verktøyene rundt Kubeflow, som er de nødvendige grunnlagene for å tilnærme seg emnet på riktig måte. Jeg ønsker å takke Malawski Marcin for hans tålmodighet og profesjonale innstilling når det gjelder trening og råd om beste praksis. Malawski tilnærmer seg emnet fra ulike vinkler, med ulike distribusjonsverktøy som Ansible, EKS kubectl, Terraform. Nå er jeg helt overbevist om at jeg går inn i det riktige anvendelsesfeltet.
Guillaume Gautier - OLEA MEDICAL | Improved diagnosis for life TM
Kurs - Kubeflow
Maskinoversatt
