Kursplan
Grunnleggende KI-og sikkerhetsprinsipper
- Hva som gjør KI-systemer unike fra en sikkerhetssynvinkel
- Oversikt over KI-livssyklus: data, trening, inferens og distribusjon
- Grunnleggende taxonomi av KI-risikoer: tekniske, etiske, juridiske og organisatoriske
Spesifikke truslevektorer for KI
- Feilaktige eksempler og modellmanipulasjon
- Modellinversjon og datautslipp
- Dataforgiftning under treningsfaser
- Risikoer i generative KI (f.eks., LLM-misbruk, prompt-injeksjon)
Sikkerhetsrisikostyringsrammer
- NIST AI Risikostyringsramme (NIST AI RMF)
- ISO/IEC 42001 og andre KI-spesifikke standarder
- Tilpassning av KI-risiko til eksisterende virksomhets-GRC-rammer
KI-styring og overholdelsesprinsipper
- KI-realisering og -granskbarhet
- Transparens, forklarbarhet og rettferdighet som sikkerhetsrelevante egenskaper
- Bias, diskriminering og nedstrømskade
Virksomhedstilpasning og KI-sikkerhetspolitikk
- Definisjon av roller og ansvar i KI-sikkerhetprogrammer
- Politikk-elementer: utvikling, innkjøp, bruk og pensjonering
- Ekstern risiko og leverandør KI-verktøy-bruk
Lov- og forskningslandskap og globale trender
- Oversikt over EU-KI-loven og internasjonal regulering
- USA's executive order om trygg, sikker og pålitelig KI
- Nyttige nasjonale rammer og bransjespesifikke veiledninger
Valgfritt workshop: Risikokartlegging og selvbedømmelse
- Kartlegge reelle KI-bruksscenarier til NIST AI RMF-funksjoner
- Utføre en grunnleggende KI-risikoselvbedømmelse
- Identifisere interne mangler i KI-sikkerhetstilpasning
Oppsummering og neste steg
Krav
- Forståelse av grunnleggende sikkerhetsprinsipper
- Erfaring med IT-styring eller risikostyringsrammer
- Grunnleggende kunnskap om KI-konsepter er nyttig, men ikke påkrevd
Målgruppe
- IT-sikkerhetsteam
- Risikostyrere
- Overholdelsesfagfolk
Referanser (2)
Jeg syntes virkelig det var interessant å lære om AI-angrep og verktøyene som finnes for å starte med øving og aktiv bruk i sikkerhetstesting. Jeg tok med meg mye kunnskap som jeg ikke hadde fra starten, og kurset innfridde det jeg håpet det skulle. Min favorittdel fra opplæringen var Comet Browser, og jeg var imponert over hva det kunne gjøre. Det er noe jeg helt sikkert vil se nærmere på. Til sammen var det en fantastisk kurs, og jeg trivdes med å lære om OWASP GenAI Top 10.
Patrick Collins - Optum
Kurs - OWASP GenAI Security
Maskinoversatt
Den profesjonelle kunnskapen og måten han presenterte den for oss
Miroslav Nachev - PUBLIC COURSE
Kurs - Cybersecurity in AI Systems
Maskinoversatt
