Kursplan
Innføring til sikkerhet i TinyML
- Sikkerhetsutfordringer i ML-systemer med begrenset kapasitet
- Truescenarioer for TinyML-utrolinger
- Risikokategorier for innebygde AI-applikasjoner
Personvern i Edge AI
- Overveielser for personvern ved databehandling på enheten
- Minimering av dataeksponering og overføring
- Metoder for desentralisert datahåndtering
Motsetningsangrep mot TinyML-modeller
- Trusler om modellovergrip og forgiftning
- Manipulasjon av inngang på innebygde sensorer
- Vurdering av sårbarhet i ressursbegrensede miljøer
Sikkerhetsforsterking for innebygd ML
- Vernehud for programvare og maskinvare
- Aksesskontroll og mekanismer for sikker oppstart
- Beste praksis for å beskytte inferens-pipelines
TinyML-teknikk for personvern
- Kvantifisering og overveielser for modelldesign for personvern
- Metoder for anonymisering på enheten
- Lette krypterings- og metoder for sikker beregning
Sikker utroling og vedlikehold
- Sikker forsyningsprosess for TinyML-enheter
- Strategier for OTA-oppdateringer og oppsettning
- Overvåking og hendingssvar ved nettverkskanten
Testing og validering av sikre TinyML-systemer
- Rammeverk for testing av sikkerhet og personvern
- Simulering av angrepsscenarioer i den virkelige verden
- Validering og overveielser for compliance
Kasestudier og anvendte scenarioer
- Sikkerhetsfeil i Edge AI-økosystemer
- Design av robuste TinyML-arkitekturer
- Vurdering av kompromisser mellom ytelse og beskyttelse
Oppsummering og neste steg
Krav
- Forståelse av innebygde systemarkitekturer
- Erfaring med arbeidsflyter for maskinlæring
- Kunnskap om grunnleggende cybertrygghet
Målgruppe
- Sikkerhetsanalytikere
- AI-utviklere
- Innebygde ingeniører
Referanser (3)
inventariering og identifisering av de ulike risikoutsettelsene innenfor KI
Gary Cook - Cybersecurity and Information Technology Risk Division
Kurs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Maskinoversatt
Jeg syntes virkelig det var interessant å lære om AI-angrep og verktøyene som finnes for å starte med øving og aktiv bruk i sikkerhetstesting. Jeg tok med meg mye kunnskap som jeg ikke hadde fra starten, og kurset innfridde det jeg håpet det skulle. Min favorittdel fra opplæringen var Comet Browser, og jeg var imponert over hva det kunne gjøre. Det er noe jeg helt sikkert vil se nærmere på. Til sammen var det en fantastisk kurs, og jeg trivdes med å lære om OWASP GenAI Top 10.
Patrick Collins - Optum
Kurs - OWASP GenAI Security
Maskinoversatt
Den profesjonelle kunnskapen og måten han presenterte den for oss
Miroslav Nachev - PUBLIC COURSE
Kurs - Cybersecurity in AI Systems
Maskinoversatt