Kursplan
Introduksjon til modelloptimalisering og -implementering
- Oversikt over DeepSeek modeller og implementeringsutfordringer
- Forstå modelleffektivitet: hastighet vs. nøyaktighet
- Nøkkelytelsesmålinger for AI-modeller
Optimalisere DeepSeek modeller for ytelse
- Teknikker for å redusere inferenslatens
- Modellkvantisering og beskjæringsstrategier
- Bruker optimaliserte biblioteker for DeepSeek modeller
Implementering av MLOps for DeepSeek modeller
- Versjonskontroll og modellsporing
- Automatisering av omskolering og utrulling av modeller
- CI/CD-rørledninger for AI-applikasjoner
Distribuere DeepSeek modeller i sky- og lokale miljøer
- Velge riktig infrastruktur for utrulling
- Utplassering med Docker og Kubernetes
- Administrere API-tilgang og autentisering
Skalering og overvåking av AI-implementeringer
- Lastbalanseringsstrategier for AI-tjenester
- Overvåking av modelldrift og ytelsesforringelse
- Implementering av automatisk skalering for AI-applikasjoner
Sikre sikkerhet og samsvar i AI-implementeringer
- Administrere datavern i AI-arbeidsflyter
- Overholdelse av virksomhetens AI-forskrifter
- Beste praksis for sikker AI-implementering
Fremtidige trender og AI-optimaliseringsstrategier
- Fremskritt i AI-modelloptimeringsteknikker
- Nye trender i MLOps og AI-infrastruktur
- Bygge et veikart for AI-distribusjon
Sammendrag og neste trinn
Krav
- Erfaring med implementering av AI-modeller og skyinfrastruktur
- Ferdigheter i et programmeringsspråk (f.eks. Python, Java, C++)
- Forståelse av MLOps og modellytelsesoptimering
Publikum
- AI-ingeniører optimaliserer og distribuerer DeepSeek-modeller
- Dataforskere jobber med AI-ytelsestilpasning
- Maskinlæringsspesialister som administrerer skybaserte AI-systemer
Referanser (2)
ML-økosystemet omfatter ikke bare MLFlow, men også Optuna, Hyperopt, Docker og Docker Compose
Guillaume GAUTIER - OLEA MEDICAL
Kurs - MLflow
Maskinoversatt
Jeg nyttet på å delta i Kubeflow-treningen, som ble holdt pa nätet. Denne treningen gjorde det mulig for meg å fest igjen kunnskapen min om AWS-tjenester, K8s og alle devOps-verktøyene rundt Kubeflow, som er de nødvendige grunnlagene for å tilnærme seg emnet på riktig måte. Jeg ønsker å takke Malawski Marcin for hans tålmodighet og profesjonale innstilling når det gjelder trening og råd om beste praksis. Malawski tilnærmer seg emnet fra ulike vinkler, med ulike distribusjonsverktøy som Ansible, EKS kubectl, Terraform. Nå er jeg helt overbevist om at jeg går inn i det riktige anvendelsesfeltet.
Guillaume Gautier - OLEA MEDICAL | Improved diagnosis for life TM
Kurs - Kubeflow
Maskinoversatt