Kursplan
Introduksjon til Privacy-Preserving ML
- Motiverende faktorer og risikoer i sensitiv datamiljøer
- Oversikt over privatbeskyttende ML-teknikker
- Trusmodeller og reguleringsovervegheter (f.eks., GDPR, HIPAA)
Federert læring
- Konseptet og arkitekturen for federert læring
- Klient-server-synkronisering og aggregasjon
- Implementering ved hjelp av PySyft og Flower
Differensiell privathet
- Matematikk bak differensiell privathet
- Anvendelse av DP i dataforespørsler og modelltrening
- Bruk av Opacus og TensorFlow Privacy
Sikker flerpartsberegning (SMPC)
- SMPC-protokoller og brukstilfeller
- Kryptering-baserte mot konfidensdelingsmetoder
- Sikre beregningsarbeidsflyt med CrypTen eller PySyft
Homomorf kryptering
- Fullt vs delvis homomorf kryptering
- Kryptert inferens for sensitiv arbeidslast
- Hands-on med TenSEAL og Microsoft SEAL
Anvendelser og bransjeseksjoner
- Privatheit i helsevesenet: federert læring for medisinsk AI
- Sikker samarbeid i finanssektoren: risikomodeller og regulering
- Bruksområder innen forsvar og offentlig sektor
Sammendrag og neste trinn
Krav
- Et grunnleggende forståelse av maskinlæringsprinsipper
- Erfaring med Python og ML-biblioteker (f.eks., PyTorch, TensorFlow)
- Kjennskap til dataprivatitet eller sikkerhetskonsepter er nyttig
Målgruppe
- AI-forskere
- Databeskyttelses- og privatheitskomplianshold
- Sikkerhetsingeniører som jobber i regulerte industrier
Referanser (2)
Jeg syntes virkelig det var interessant å lære om AI-angrep og verktøyene som finnes for å starte med øving og aktiv bruk i sikkerhetstesting. Jeg tok med meg mye kunnskap som jeg ikke hadde fra starten, og kurset innfridde det jeg håpet det skulle. Min favorittdel fra opplæringen var Comet Browser, og jeg var imponert over hva det kunne gjøre. Det er noe jeg helt sikkert vil se nærmere på. Til sammen var det en fantastisk kurs, og jeg trivdes med å lære om OWASP GenAI Top 10.
Patrick Collins - Optum
Kurs - OWASP GenAI Security
Maskinoversatt
Den profesjonelle kunnskapen og måten han presenterte den for oss
Miroslav Nachev - PUBLIC COURSE
Kurs - Cybersecurity in AI Systems
Maskinoversatt