Securing AI Models: Threats, Attacks, and Defenses Treningskurs

Sikring av AI-modeller er fagfeltet som beskytter maskinlæringsystemer mot modellspecifikke trusler som f.eks. motstandsdyktige inndata, dataforgiftning, inversjonsangrep og privatsphærelekkasjer. Denne instruktørledede, live opplæringen (online eller på stedet) er rettet mot mellomnivå-maskinlærings- og cybersecurity-profesjonelle som ønsker å forstå og håndtere nye trusler mot AI-modeller ved hjelp av både konseptuelle rammeverk og praktiske forsvarsteknikker som robust trening og differensiert privatliv. Ved slutten av denne opplæringen vil deltakerne kunne: Identifisere og klassifisere AI-spesifikke trusler som motstandsdyktige angrep, inversjon og forgiftning. Bruke verktøy som Adversarial Robustness Toolbox (ART) for å simulere angrep og teste modeller. Anvende praktiske forsvarsteknikker som motstandsdyktig trening, støyninjeksjon og teknikker for å opprettholde privatliv. Utforme truslsbevisst modellvurderingsstrategier i produksjonsmiljøer. Format for kurset Interaktiv forelesning og diskusjon. Mange øvelser og praktisk trening. Håndson implementering i et live-lab-miljø. Muligheter for tilpassing av kurset For å be om en tilpasset opplæring for dette kurset, kontakt oss for å avtale. Introduksjon til AI-trusselmodellering Hva gjør AI-systemer sårbare? AI-angrepsflate vs tradisjonelle systemer Hovedangrepsveier: data, modell, utdata og grensesnittslag Motstandsdyktige angrep på AI-modeller Forståelse av motstandsdyktige eksempler og perturbasjonsteknikker Hvite-boks- vs svarte-boks-angrep FGSM-, PGD- og DeepFool-metoder Visualisering og fremstilling av motstandsdyktige prøver Modellinversjon og privatsphærelekkasje Å trekke slutninger om treningdata fra modellutdata Medlemsinferensangrep Privatsfærrisikoer i klassifikasjons- og generative modeller Dataforgiftning og bakdørinjeksjoner Hvordan forgiftet data påvirker modelladferd Utløserbaserte bakdører og Trojan-angrep Deteksjon og saneringsteknikker Robusthet og forsvarsteknikker Motstandsdyktig trening og dataforsterkning Gradientmaskering og innmatpreprosessering Modellglatting og reguleringsteknikker Forsvarsteknikker for privatsfære i AI Introduksjon til differensiert privatliv Støyninjeksjon og privatlivsbudsjetter Føderert lærings og sikker aggregasjon I praksis Truslsbevisst modellvurdering og distribusjon Bruk av ART (Adversarial Robustness Toolbox) i anvendte miljøer Brancheeksempler: reelle brudd og håndtering Oppsummering og neste skritt Sikring av AI-modeller er fagfeltet som beskytter maskinlæringsystemer mot modellspecifikke trusler som f.eks. motstandsdyktige inndata, dataforgiftning, inversjonsangrep og privatsphærelekkasjer. Denne instruktørledede, live opplæringen (online eller på stedet) er rettet mot mellomnivå-maskinlærings- og cybersecurity-profesjonelle som ønsker å forstå og håndtere nye trusler mot AI-modeller ved hjelp av både konseptuelle rammeverk og praktiske forsvarsteknikker som robust trening og differensiert privatliv. Ved slutten av denne opplæringen vil deltakerne kunne: Identifisere og klassifisere AI-spesifikke trusler som motstandsdyktige angrep, inversjon og forgiftning. Bruke verktøy som Adversarial Robustness Toolbox (ART) for å simulere angrep og teste modeller. Anvende praktiske forsvarsteknikker som motstandsdyktig trening, støyninjeksjon og teknikker for å opprettholde privatliv. Utforme truslsbevisst modellvurderingsstrategier i produksjonsmiljøer. En forståelse av maskinlæringsarbeidsflyter og modelltrening Erfaring med Python og vanlige ML-rammeverk som PyTorch eller TensorFlow Kjennskap til grunnleggende sikkerhet eller trusselmodellering-konsepter er nyttig Målgruppe Maskinlæringsingeniører Cybersecurity-analytikere AI-forskere og modellvalideringsteam Denne instruktørledede, live opplæringen i <loc> (online eller på stedet) er rettet mot mellomnivå-maskinlærings- og cybersecurity-profesjonelle som ønsker å forstå og håndtere nye trusler mot AI-modeller ved hjelp av både konseptuelle rammeverk og praktiske forsvarsteknikker som robust trening og differensiert privatliv. Ved slutten av denne opplæringen vil deltakerne kunne: Identifisere og klassifisere AI-spesifikke trusler som motstandsdyktige angrep, inversjon og forgiftning. Bruke verktøy som Adversarial Robustness Toolbox (ART) for å simulere angrep og teste modeller. Anvende praktiske forsvarsteknikker som motstandsdyktig trening, støyninjeksjon og teknikker for å opprettholde privatliv. Utforme truslsbevisst modellvurderingsstrategier i produksjonsmiljøer.