Ta kontakt

Kursplan

Grunnleggende om sikker lokal AI

  • Hva lokal og på egen infrastruktur-utvikling av AI betyr i regulerte miljøer
  • Sky-AI versus intern distribusjon for sensitive arbeidsbelastninger
  • Vanlige bedriftsanvendelser for private assistenter og støtte til arbeidsflyter
  • Komponentene i en sikker lokal AI-arkitektur

Ollama og grunnleggende om åpne modeller

  • Hvordan Ollama passer inn i et lokalt utviklingsstakk
  • Hente, kjøre og administrere modeller lokalt
  • Velge modeller basert på størrelse, kvalitet, maskinvare og lisens
  • Tilpasse modellopsjoner til praktiske bedriftsoppgaver

Forberede miljøet på egen infrastruktur

  • Forberedelse av vert, arbeidsstasjon og server
  • Installere og konfigurere Ollama for lokal inferens
  • Bruk av containere og intern utviklingsverktøy
  • Verifisere API-tilgang og grunnleggende operativ beredskap

Arbeide effektivt med lokale modeller

  • Kjøre prompts og forme utdata med systeminstruksjoner
  • Gjenbruke maler for konsistente bedriftsoppgaver
  • Administrere modellversjoner og interne artefakter
  • Enkel ytelsesoptimalisering for CPU- og GPU-distribusjon

Bygge praktiske agente arbeidsflyter

  • Hva som gjør en arbeidsflyt til en agentic i et kontrollert miljø
  • Enkle mønstre for planlegging, verktøybruk og responssløyfer
  • Designe oppgavefokuserte assistenter for intern drift
  • Legge til menneskelig gjennomgang, fallback-logikk og feilhåndtering

Private hentebaserte arbeidsflyter

  • Grunnleggende om retrieval-augmented generation for intern tilgang til kunnskap
  • Forberede dokumenter for chunking, indeksering og søk
  • Koble et lokalt vektorlager til en Ollama-basert applikasjon
  • Forbedre relevans og svar-kvalitet med bedre hente-mønstre

Sikkerhet, styring og compliance-praksis

  • Grenser for databehandling og personvernhensyn
  • Tilgangskontroll, logging og støtte til revisjon
  • Safe prompts, utdata-kontroller og guardrails
  • Styringskontrollpunkter for regulert distribusjon og drift

Mønstre for bedriftsintegrasjon

  • Eksponere lokale AI-evner gjennom interne API-er
  • Integre assistenter med interne applikasjoner og tjenester
  • Støtte opp om brukstilfeller for assistent, batch og automatisering av arbeidsflyter
  • Holde løsningene innenfor kontrollerte nettverks-grenser

Evaluering av lokale AI-løsninger

  • Vurdere kvalitet, pålitelighet og konsistens
  • Teste mot bedrifts-, policy- og sikkerhetskrav
  • Sammenligne modellopsjoner for spesifikke bedriftsoppgaver
  • Etablere en praktisk forbedringssyklus for interne team

Praktisk implementerings-lab

  • Bygge en privat assistent med Ollama og en åpen modell
  • Legge til henting over godkjente interne dokumenter
  • Introdusere enkle agente handlinger og sikkerhetskontroller
  • Gi gjennomgang av distribusjon, drift og styringskontrollpunkter

Adopsjonsplanlegging og neste steg

  • Gi gjennomgang av viktige design- og distribusjonsbeslutninger
  • Identifisere vanlige fellinger i regulerte AI-prosjekter
  • Planlegge pilot-tilfeller og tilpasning blant interessenter
  • Definere en kartleggelse for sikker innføring av lokal AI

Krav

  • Grunnleggende forståelse av AI-konsepter og programvareutvikling
  • Kunnskap om kommandolinjeverktøy, containere eller lokale utviklingsmiljøer
  • Gründleggende erfaring med scripting eller programmering

Målgruppe

  • Utviklere og tekniske team som bygger private AI-løsninger på intern infrastruktur
  • Sikkerhets-, compliance- og platformprofesjonelle som støtter AI i regulerte miljøer
  • Tekniske ledere innen finans, helsevesen, offentlig sektor og forsvar som vurderer innføring av AI på egen infrastruktur
 21 Timer

Antall deltakere


Pris per deltaker

Kommende kurs

Relaterte kategorier