Kursplan

Grunnleggende: Truselmodeller for Agensbasert AI

  • Typer agensbaserte trusler: misbruk, eskalering, datautløsel og kjedeverk-risikoer
  • Adversarprofiler og angriperkapasiteter spesifikke for autonome agenter
  • Kartlegging av ressurser, tillitsgrenser og kritiske kontrollpunkter for agenter

Styring, Retningslinjer og Risikostyring

  • Styringsrammer for agensbaserte systemer (roller, ansvar, godkjennelsesgater)
  • Retningslinjedesign: gyldig bruk, eskaleringstegn, datahåndtering og gransetrekkbarhet
  • Overholdelsesaspekter og bevisinnsamling for revisjoner

Ikke-menneskelig Identitet & Autentisering for Agenter

  • Design av identiteter for agenter: tjenestekonti, JWTs og kortlevede legitimasjonsnøkler
  • Minst mulig tilgangsmønstre og just-in-time legitimasjon
  • Identitetslivssyklus, rotasjon, delegering og tilbakekallingstrategier

Tilgangskontroll, Hemmeligheter og Databeskyttelse

  • Detaljert tilgangskontrollemodeller og kapasitetsbaserte mønstre for agenter
  • Hemmelighetsforvaltning, kryptering i overføring og i hvile, og dataminimering
  • Beskyttelse av sensitive kunnskapskilder og personopplysninger fra uautorisert agenttilgang

Observabilitet, Revisjon og Hendlingsrespons

  • Design av telemetri for agentoppførsel: intensjons spor, kommandologg og opprinnelsesspor
  • SIEM-integrasjon, alarmgrenser og forensisk beredskap
  • Fellesprosedurer og handlingsplaner for agentrelaterte hendelser og innhenting

Rød-Teaming av Agensbaserte Systemer

  • Planlegging av rød-team øvelser: omfang, regler for engasjement og trygg overgang
  • Adverarsi teknikker: spørresporinjeksjon, verktøy misbruk, tenkningsspormanipulasjon og API-misbruk
  • Utførelse av kontrollerte angrep og måling av eksponering og påvirkning

Styrking og Dempingstiltak

  • Tekniske kontroller: responsbegrensete, kapasitetsgating og sanitisering
  • Retningslinje- og orkestreringskontroller: godkjennelsesflyter, menneskelige i løkken, og styringshakker
  • Modell- og spørresporbeskyttelse: inngangsgodkjenning, canonicalisering og utgangsfilter

Driftssikring av Sikre Agentdrifter

  • Driftsmønstre: mellomstadium, kanar, og progressiv rulling ut for agenter
  • Endringstyring, testingpipeliner og presikkerhetsjekker
  • Tverrfunksjonell styring: sikkerhet, lov, produkt og operasjonshåndbøker

Oppsummering: Rød-Team / Blå-Team Øvelse

  • Utfør en simulert rød-team angrep mot et sanitisert agentmiljø
  • Forsvar, oppdage og gjenopprette som blå team ved hjelp av kontroller og telemetri
  • Presentere funn, gjenopprettelsesplan og retningslinjepoppdatert

Oppsummering og Neste Trinn

Krav

  • Solid bakgrunn i sikkerhetsteknikk, systemadministrasjon eller skyoperasjoner
  • Kjenner til AI/ML-konsepter og oppførsel for store språkmotorer (LLM)
  • Erfaring med identitets- og tilgangsforvaltning (IAM) og sikker systemdesign

Målgruppe

  • Sikkerhetsteknikere og rød-teamer
  • AI-operasjoner og plattformsteknikere
  • Overholdelsesansvarlige og risikostyringsansvarlige
  • Ingeniørledere ansvarlig for agentdrift
 21 timer

Antall deltakere


Pris per deltaker

Kommende kurs

Relaterte kategorier