Ta kontakt

Kursplan

OVERSIKT OVER LLM-ARKITEKTUR OG ANGREPSFLATE

  • Hvordan LLMer bygges, deployeres og tilgangsgis via API
  • Hovedkomponenter i LLM-applikasjonsstakker (f.eks. prompts, agenter, hukommelse, API)
  • Hvor og hvordan sikkerhetsproblemer oppstår i virkelige bruksområder

PROMPT-INJEKSJON OG JAILBREAK-ANGREP

  • Hva er prompt-injeksjon og hvorfor det er farlig
  • Direkte og indirekte prompt-injeksjonsscenarioer
  • Jailbreak-teknikker for å omgå sikkerhetsfilter
  • Oppdagelses- og dempingstiltak

DATALEKKASJ OG PRIVATISKSROSISKKO

  • Utilsiktet eksponering av data gjennom svar
  • PII-lekkasjer og misbruk av modellhukommelse
  • Design av privatlivsbevisste prompts og retrieval-augmented generation (RAG)

LLM OUTPUT-FILTRERING OG BESKYTTELSE

  • Bruk av Guardrails AI for innholdsfiltrering og validering
  • Definisjon av output-skjemaer og begrensninger
  • Overvåking og logging av usikre utdata

MENNESKE-I-LØKKE OG ARBEIDSFLØSMETODER

  • Hvor og når man skal introdusere menneskelig tilsyn
  • Godkjenningskøer, terskelverdier for scoring, fallback-håndtering
  • Tillit-kalibrering og rollen til forklarebarhet

SIKRE LLM-APPS DESIGNMØNSTRE

  • Minste privilegier og sandboxing for API-kall og agenter
  • Hastighetsbegrensning, throttling og misoppdagelse
  • Robust kjedning med LangChain og prompt-isolasjon

KOMPLIANS, LOGGING OG STYRING

  • Sikre at LLM-utdata kan revideres
  • Vedlikehold av sporbarhet og prompt/versjonskontroll
  • Justering mot interne sikkerhetspolicyer og regulatoriske behov

OPPsummering og neste steg

Krav

  • En forståelse av store språkmodeller og prompt-baserte grensesnitt
  • Erfaring med å bygge LLM-applikasjoner ved hjelp av Python
  • Bekjentskap med API-integrasjoner og skybaserte deployeringer

Målgruppe

  • AI-utviklere
  • Applikasjons- og løsningsarkitekter
  • Tekniske produktledere som jobber med LLM-verktøy
 14 Timer

Antall deltakere


Pris per deltaker

Kommende kurs

Relaterte kategorier