Kursplan
Innføring i sikkerhet i TinyML
- Sikkerhetsutfordringer i ressursbegrensete ML-systemer
- Truemodeller for TinyML-distribusjoner
- Risikokategorier for inbyggede AI-applikasjoner
Personvern i edge AI
- Personvernsbehov for on-device dataforarbeiding
- Minimering av dataeksponering og overføring
- Teknikker for deentralisert datahåndtering
Fjendtlig angrep på TinyML-modeller
- Modellavvikling og poisoning-trusler
- Inputmanipulering på inbyggede sensorer
- Vurdering av sårbarhet i ressursbegrenede miljøer
Sikkerhetsforstyrking for inbygget ML
- Firmware- og hardvarbeskyttelseslag
- Adgangskontroll og sikker boot-mekanismer
- Beste praksis for beskyttelse av inferens-pipelines
Personvernbevarende TinyML-teknikker
- Kvantiserings- og modellutformningsbetraktninger for personvern
- Teknikker for on-device anonymisering
- Lette krypterings- og sikre beregningsmetoder
Sikker distribusjon og vedlikehold
- Sikker etablering av TinyML-enheter
- OTA-oppdateringer og patchstrategier
- Overvåking og hendelsesrespons på nettverkskanten
Testing og validering av sikre TinyML-systemer
- Sikkerhets- og personverntestingrammer
- Simulering av reelle truescenarier
- Validering og samsvarsbetraktninger
Case studies og anvendte scenarier
- Sikkerhetsfeil i edge AI-økosystemer
- Design av robuste TinyML-arkitekturer
- Vurdering av kompromisser mellom ytelse og beskyttelse
Oppsummering og neste skritt
Krav
- Forståelse av arkitektur for inbyggede systemer
- Erfaring med maskinlæringsarbeidsflyter
- Kunnskap om grunnleggende sikkerhetsprinsipper
Målgruppe
- Sikkerhetsanalytikere
- AI-utviklere
- Inbyggede ingeniører
Referanser (2)
Jeg syntes virkelig det var interessant å lære om AI-angrep og verktøyene som finnes for å starte med øving og aktiv bruk i sikkerhetstesting. Jeg tok med meg mye kunnskap som jeg ikke hadde fra starten, og kurset innfridde det jeg håpet det skulle. Min favorittdel fra opplæringen var Comet Browser, og jeg var imponert over hva det kunne gjøre. Det er noe jeg helt sikkert vil se nærmere på. Til sammen var det en fantastisk kurs, og jeg trivdes med å lære om OWASP GenAI Top 10.
Patrick Collins - Optum
Kurs - OWASP GenAI Security
Maskinoversatt
Den profesjonelle kunnskapen og måten han presenterte den for oss
Miroslav Nachev - PUBLIC COURSE
Kurs - Cybersecurity in AI Systems
Maskinoversatt