Ta kontakt

Kursplan

Introduksjon til Ollama for LLM-distribusjon

  • Oversikt over Ollamas evner
  • Fordelene med lokal AI-modell-distribusjon
  • Sammenligning med skybaserte AI-hosting-løsninger

Sette opp distribusjonsmiljøet

  • Installere Ollama og nødvendige avhengigheter
  • Konfigurere maskinvare og GPU-akselerasjon
  • Dockerisering av Ollama for skalerbar distribusjon

Distribusjon av LLM med Ollama

  • Lasting og håndtering av AI-modeller
  • Distribusjon av Llama 3, DeepSeek, Mistral og andre modeller
  • Opprettelse av API-er og sluttpunkter for AI-modelltilgang

Optimalisering av LLM- ytelse

  • Finjustering av modeller for effektivitet
  • Minsk latens og forbedre svarhastigheter
  • Håndtere minne og ressursallokering

Integrasjon av Ollama i AI-arbeidsflyter

  • Tilkobling av Ollama til applikasjoner og tjenester
  • Automatisering av AI-drevne prosesser
  • Bruk av Ollama i edge computing-miljøer

Overvåking og vedlikehold

  • Oppfølging av ytelse og feilsøking
  • Oppdatering og håndtering av AI-modeller
  • Sikring av sikkerhet og etterlevelse i AI-distribusjoner

Skalering av AI-modell-distribusjoner

  • Beste praksis for håndtering av høye belastninger
  • Skalering av Ollama for enterprise-brukstilfeller
  • Fremtidige fremskritt i lokal AI-modell-distribusjon

Oppsummering og neste steg

Krav

  • Grunnleggende erfaring med maskinlæring og AI-modeller
  • Kjent med kommandolinjegrensesnitt og scripting
  • Forståelse for distribusjonsmiljøer (lokalt, edge, cloud)

Målgruppe

  • AI-ingeniører som optimerer lokale og skybaserte AI-distribusjoner
  • ML-eksperter som distribuerer og finjusterer LLM
  • DevOps-spesialister som håndterer integrasjon av AI-modeller
 14 Timer

Antall deltakere


Pris per deltaker

Kommende kurs

Relaterte kategorier