Takk for at du sendte din henvendelse! En av våre teammedlemmer vil kontakte deg straks.
Takk for at du sendte din bestilling! En av våre teammedlemmer vil kontakte deg straks.
Kursplan
Grunnlag: Trusselmodeller for agentic AI
- Typer av agentic trusler: misbruk, eskalering, datalekkasje og leverandørkjedepisikor
- Motstandsprofiler og angreperevner spesifikke for autonome agenter
- Kartlegging av aktiver, tillitsgrenser og kritiske kontrollpunkter for agenter
Styring, politikk og risikostyring
- Styringsrammer for agentic systemer (roller, ansvarsområder, godkjenningsporter)
- Polittkdesign: akseptabel bruk, eskaleringsregler, datahåndtering og auditbarhet
- Komplianseoverveielser og innsamling av bevis for audits
Ikke-menneskelig identitet og autentisering for agenter
- Design av identiteter for agenter: tjenestekonti, JWT og kortlevde kredensialer
- Minst-priviligert tilgangsmodeller og just-in-time-kredensialer
- Identitetslevessyklus, rotasjon, delegering og revokesjonsstrategier
Tilgangskontroll, hemmeligheter og datasikkerhet
- Finkornede tilgangskontrollmodeller og kapabilitetsbaserte mønstre for agenter
- Hemmelighetsadministrasjon, kryptering i transit og hvile, og dataminimalisering
- Beskyttelse av sensitive kunnskapskilder og PII fra uautorisert agenttilgang
Observabilitet, auditering og incident response
- Design av telemetri for agentoppførsel: intensitetssporing, kommandologger og proveniens
- SIEM-integrasjon, varselstærsker og forensisk beredskap
- Runbooks og playbooks for agentrelaterte hendelser og containement
Red-teaming av agentic systemer
- Planlegging av red-team-øvelser: omfang, regelsett for engasjement og sikker failover
- Motstandsteknikker: prompt injeksjon, verktøymisbruk, chain-of-thought manipulasjon og API-misbruk
- Gjennomføring av kontrollerte angrep og måling av eksponering og impact
Hardening og mottiltak
- Ingeniørkontroller: responsdemping, kapabilitetsporting og sandboksing
- Politikk- og orkestreringskontroller: godkjenningsflyt, human-in-the-loop og styringskroker
- Modell- og promptnivå forsvar: inputvalidering, kanonisering og outputfiltre
Operasjonalisering av sikre agentimplementeringer
- Implementeringsmønstre: staging, canary og gradvis utroling for agenter
- Endringskontroll, testpipelines og før-deploy sikkerhetskontroller
- Tverrfaglig styring: sikkerhet, juridisk, produkt og driftsplaybooks
Capstone: Red-team / Blue-team øvelse
- Utføre et simulert red-team angrep mot en sandboksede agentmiljø
- Forsvare, oppdage og rette opp som blue team ved hjelp av kontroller og telemetri
- Presentere funn, rettelser og politikkoppdateringer
Oppsummering og neste steg
Krav
- Solid bakgrunn i sikkerhetsingeniørarbeid, systemadministrasjon eller skydrift
- Kjennskap til AI/ML-konsepter og oppførsel til store språkkraftverk (LLM)
- Erfaring med identitet og tilgangsstyring (IAM) og sikker systemdesign
Målgruppe
- Sikkerhetsingeniører og red-team-medlemmer
- AI-drifts- og plattformingeniører
- Komplianseoffiserer og risikostyrere
- Tekniske ledere ansvarlige for agentimplementeringer
21 Timer
Referanser (1)
inventariering og identifisering av de ulike risikoutsettelsene innenfor KI
Gary Cook - Cybersecurity and Information Technology Risk Division
Kurs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Maskinoversatt
