Red Teaming AI Systems: Offensive Security for ML Models Treningskurs

Denne instruktørledede, liveopplæringen på Norge (online eller på sted) er rettet mot mellomnivåbedriftsledere som ønsker å forstå hvordan de kan styre og sikre AI-systemer ansvarsfullt og i samsvar med oppstående globale rammeverk som EU AI-loven, GDPR, ISO/IEC 42001 og USAs presidentordre om AI.

Ved fullføring av denne opplæringen vil deltakerne kunne:

• Forstå de juridiske, etiske og reguleringsmessige risikoene ved å bruke AI over avdelinger.
• Tolke og anvende hovedrammeverkene for AI-styring (EU AI-loven, NIST AI RMF, ISO/IEC 42001).
• Etablere sikkerhets-, revisjons- og tilsynspolitikk for AI-utplassering i bedriften.
• Utvikle innhentings- og bruksretningslinjer for tredjeparts- og interne AI-systemer.

Denne instruktørlede, levende opplæringen på Norge (online eller på sted) er rettet mot mellomnivå- til avanserte AI-utviklere, arkitekter og produktledere som ønsker å identifisere og redusere risikoer knyttet til LLM-drevne applikasjoner, inkludert prompt injeksjon, datalekkasje og ufiltrert utdata, samt å inkludere sikkerhetskontroller som inndatavalidering, menneskelig i-løkke-overvåking og utdatabeskyttelse.

Ved slutten av denne opplæringen vil deltakerne være i stand til:

• Forstå kjernen i sårbarhetene til LLM-baserte systemer.
• Anvende sikre designprinsipper til LLM-applikasjonsarkitektur.
• Bruke verktøy som Guardrails AI og LangChain for validering, filtrering og sikkerhet.
• Integere teknikker som sandboxing, red teaming og menneskelig i-løkke-revisjon i produksjonsnivå-pipelines.

Denne instruktørlede, live opplæringen (online eller på stedet) er rettet mot IT-sikkerhets-, risiko- og samsvarsprofesjoneller på begynnernivå som ønsker å forstå grunnleggende AI-sikkerhetskonsepter, trusselvektorer og globale rammeverk som NIST AI RMF og ISO/IEC 42001.

Ved slutten av denne opplæringen vil deltakerne kunne:

• Forstå de unike sikkerhetsrisikoene som blir introdusert av AI-systemer.
• Identifisere trusselvektorer som fiendtlige angrep, dataforgiftning og modellinversjon.
• Anvende grunnleggende styringsmodeller som NIST AI Risk Management Framework.
• Tilpasse AI-bruk med fremvoksende standarder, samsvarsretningslinjer og etiske prinsipper.

Denne instruktørledede, live treningen i Norge (online eller på stedet) er rettet mot profesjonelle på avansert nivå som ønsker å implementere og vurdere teknikker som federated learning, secure multiparty computation, homomorphic encryption, og differential privacy i virkelige maskinlærings-pipelines. Ved slutten av denne treningen vil deltakerne kunne: - Forstå og sammenligne viktige privatskyddende teknikker i ML. - Implementere federated learning systemer ved hjelp av open-source rammeverk. - Bruke differential privacy for sikker data deling og modelltrening. - Bruke kryptering og sikre beregningsmetoder for å beskytte modellinnspill og -utspill.

Denne instruktørledede, live trening i Norge (online eller på stedet) retter seg mot mellomnivå ingeniører og sikkerhetsprofesjonelle som ønsker å sikre AI-modeller som er utplassert på kanten mot trusler som manipulering, datalekkasjer, fiendtlige innspill og fysiske angrep.

Ved slutten av denne treningen vil deltakerne være i stand til å:

• Identifisere og vurdere sikkerhetsrisikoer i edge AI-utplasseringer.
• Anvende teknikker for motstand mot manipulering og kryptert inferens.
• Herdere edge-utplasserte modeller og sikre datapipelines.
• Implementere trusselreduseringsstrategier spesielt for innbyggede og begrensede systemer.

Denne instruktørledede, live opplæring i Norge (online eller på sted) retter seg mot mellomnivå maskinlæring og cybersecurity fagfolk som ønsker å forstå og håndtere nye trusler mot AI-modeller, ved hjelp av både konseptuelle rammeverk og praktiske forsvar som robust trening og differensiert privatliv.

Ved slutten av denne opplæringen vil deltakere være i stand til å:

• Identifisere og klassifisere AI-spesifikke trusler som fiendtlige angrep, inversjon og forgiftning.
• Bruk verktøy som Adversarial Robustness Toolbox (ART) for å simulere angrep og teste modeller.
• Anvende praktiske forsvar inkludert fiendtlig trening, innsprøytning av støy og privatlivsbevarende teknikker.
• Utforme trusselbevisste modellvurderingsstrategier i produksjonsmiljøer.