Takk for at du sendte din henvendelse! En av våre teammedlemmer vil kontakte deg straks.
Takk for at du sendte din bestilling! En av våre teammedlemmer vil kontakte deg straks.
Varighet 21 timer
Kursplan
Grunnlag: Trusselmodeller for agilit AI
- Typer av trusler for agilit AI: misbruk, eskalering, datalukkasje og leverandørkjederisiko
- Fiendebilder og angreperevner spesifikke for autonome agenter
- Kartlegging av eiendeler, tillitens grenser og viktige kontrollpunkter for agenter
Styring, retningslinjer og risikoforvaltning
- Styringsrammer for agilesystemer (roller, ansvar, godkjenningsporter)
- Retningslinjedesign: godkjent bruk, eskaleringsregler, datahåndtering og revisjonsdyktighet
- Oversikt over samsvar og innsamling av bevis for revisjoner
Ikke-menneskelig identitet og autentisering for agenter
- Design av identiteter for agenter: tjenestekonti, JWT og kortlevde credentials
- Mønstre for minst mulig tilgang og just-in-time-credentials
- Identitetssykluser, rotasjon, delegering og revokasjonstrategier
Tilgangsstyring, hemmeligheter og datasikkerhet
- Fine-kornede tilgangsstyringsmodeller og evnebaserede mønstre for agenter
- Hemmelighetsstyring, kryptering under transport og i hvile, og dataminimering
- Beskyttelse av sensitive kunnskapstkilder og PII mot upåskt agenttilgang
Observability, revisjon og hendelsesrespons
- Design av telemetri for agentoppførsel: intensitetssporing, kommandologger og opprinnelse
- SIEM-integrasjon, varslingsterskler og forensisk klarhet
- Håndbok og spills for agentrelaterte hendelser og inneslutning
Red-teaming av agilesystemer
- Planlegging av red-teamøvelser: omfang, regler for deltakelse og sikker failover
- Fiendtige teknikker: prompt-injeksjon, verktøymisbruk, kjede av tanker-manipulering og API-misbruk
- Gjennomføring av kontrollerte angrep og måling av utsetthet og impact
Herdning og mitisering
- Ingeniørkontroller: respons-throttling, evnegating og sandboxing
- Retningslinje- og orkestreringskontroller: godkjenningsfløyer, menneske-i-sløyfen og styringskroker
- Modell- og promptnivå forsvar: inputvalidering, normalisering og outputfilter
Operasjonalisering av trygge agentimplementeringer
- Implementeringsmønstre: staging, canary og progresiv rullering for agenter
- Endringskontroll, testpiper og sikkerhetskontroll før implementering
- Kryssfunksjonell styring: sikkerhet, juridisk, produkt og drifts spill
Avslutningsøvelse: Red-team / Blue-team øvelse
- Gjennomfør et simulert red-team angrep mot en sandboxet agentmiljø
- Forsvar, deteksjon og retting som blue team ved bruk av kontroller og telemetri
- Presenter funn, rettingsplan og oppdateringer av retningslinjer
Oppsummering og neste steg
Krav
- Solid bakgrunn i sikkerhetsingeniøring, systemadministrasjon eller skydrift
- Kjennskap til AI/ML-konsepter og oppførsel for store språkmodeller (LLM)
- Erfaring med identitet og tilgangsstyring (IAM) og sikker systemdesign
Publikum
- Sikkerhetsingeniører og red-teamer
- AI-drifts- og plattformingeniører
- Samsvarsoffiserer og risikoforvaltere
- Ingeniørledere ansvarlige for agentimplementeringer
Referanser (1)
inventariering og identifisering av de ulike risikoutsettelsene innenfor KI
Gary Cook - Cybersecurity and Information Technology Risk Division
Kurs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Maskinoversatt
