Takk for at du sendte din henvendelse! En av våre teammedlemmer vil kontakte deg straks.
Takk for at du sendte din bestilling! En av våre teammedlemmer vil kontakte deg straks.
Kursplan
Trusselbildet innen AI
- Hvorfor AI-sikkerhet er annerledes: ikke-determinisme, u-transparent resonnering, prompt som angrepsflate.
- Anfallstaksonomi: treningsfase vs. inferensfase vs. forsyningskjedeangrep.
- ML-motstandermodellen: hvem som angriper AI-systemer og hvorfor.
OWASP Top 10 for LLM-applikasjoner
- Prompt-injeksjon: direkte og indirekte anfallsvektorer.
- Usikker håndtering av output og kryss-plugin forespørselsfalskning.
- Gifting av treningsdata og sårbarheter i forsyningskjeden.
- Modellavvisningstjeneste (DoS), avsløring av sensitiv informasjon og overdreven agency.
- Håndarbeid-lab: å utnytte hver OWASP-kategori mot en testapplikasjon.
Prompt-injeksjon og redtesting av jailbreak
- Taksonomi for injeksjonsteknikker: direkte, indirekte, multi-turn og multi-modell.
- Automatisert redtesting med Giskard, Garak og egne fuzzing-verktøy.
- Klassifisering av jailbreak og evaluering av forsvar.
- Bygge en red-testing-harness for kontinuerlig sikker testing av LLM.
Anfall og forsvar på modellnivå
- Modelllekstraksjon: stjele modellvekter og funksjonalitet via API-forespørsler.
- Medlemsinferens: avgjøre om data var med i treningssettet.
- Adversarielle eksempler: perturbasjoner som forvirrer klassifiserere og embeddings.
- Datagifting: korrupte treningsdata for å innføre bakdører eller degradere ytelse.
Sikkerhetskontroller for input og output
- Sanitisering av input utover tradisjonelle web-forsvar.
- Filtrering av output: giftighet, PII-utslipp, hallusinasjon av kodekjøring.
- Guardrails som sikkerhetsinfrastruktur: NeMo, Guardrails AI og egne retningslinjer.
- Tvang av strukturert output som en sikkerhetsgrense.
Sikkerhet i AI-forsyningskjeden
- Modellopphav: verifisere modellautentisitet og integritet.
- Avhengighetsskanning for ML-rammeverk og modelformater.
- Sikker modellservering: sandkasser, nettverksisolering og prinsippet om minst privilegium.
- Vurdering av fine-tuned og fellesskapsmodeller for innbygd malware.
Operasjonell sikkerhet for AI-systemer
- Tilgangskontroll for modell-sluttpunkter, vektorlagre og agentverktøy.
- Auditloggføring for hver modellinteraksjon og beslutning.
- Hendelsesrespons for AI-spesifikke brudd: når modellen selv er kompromittert.
- Kontinuerlig sikker testing i CI/CD for ML-pipelines.
Bygge et AI-sikkerhetsprogram
- Sikkerhetsmodellen for modenhet og veiskjæring innen AI-sikkerhet.
- Integrere AI-sikkerhet i eksisterende AppSec- og skyssikkerhetsprogrammer.
- Styringsrammeverk og framvoksende regelverk for AI-systemer.
- Lage og vedlikeholde en organisatorisk AI-sikkerhetsspillbok.
Krav
- Erfaring med å distribuere ML-modeller eller LLM-applikasjoner i produksjon.
- Kunnskap om sikkerhetskonsekter, inkludert autentisering, autorisasjon og trusselvurdering.
- Python-ferdigheter for øvelser innen adversariell testing.
Målgruppe
- Sikkerhetsingeniører som utvider sitt fokus til AI/ML-sikkerhetsoverflater.
- ML-ingeniører ansvarlige for modelltrygghet og robusthet.
- Rødtester-medlemmer som legger til AI-systemer i sin testescope.
14 Timer
