Kursplan
AI i virksomheten: strategiske og juridiske perspektiver
- AI-innflytelsen på kjerneforretningsprosesser: muligheter og risikoer
- Eksekutiv ansvarlighet i AI-styring
- Høyrisikos AI-systemer og organisatorisk utsatte områder
AI-risikoklassifisering og global regulativ landskap
- EU AI-lovegivningen: risikonivåer, krav, boter
- Den amerikanske presidentens eksekutive orden om AI og ufoldende federale/statslige regler
- AI-relatert overholdelse innen GDPR, HIPAA og andre rammer
- Oversikt over ISO/IEC 42001, NIST AI RMF, OECD AI-prinsipper
Sikkerhet og overvåking av AI-systemer
- AI-sikkerhetsstilling: trusler, sårbarheter og forsvarsmekanismer
- Håndtering av hendelser og melding om brudd i AI-drevne arbeidsflyter
- Revisjon og sporbarhet av modellinnslag, beslutninger og utdata
Ansvarlig AI-innkjøp og leverandøriskiko
- Due diligence ved innkjøp av AI-verktøy (inkludert LLMs og APIs)
- Viktigste kontraktelelementer: dataeier, modellforklaring, serviceavtaler
- Evaluering av leverandøransprakser: bias-mindring, personverngarantier, sikkerhet
Interne styringsrammer og organisatoriske kontroller
- Opprettelse av AI-brukspolitikk i ulike avdelinger
- Etiske utvalg, risikogrupper og tverrfunksjonell overvåking
- Utbildning, dokumentasjon og integrering av overholdelse
Vurdering av brukssituasjoner og risikoscenarier
- Vurdering av høyimpakts brukssituasjoner (f.eks., HR-undersøkelse, finansiell scoring, kundeservicebots)
- Verktøy og maler for AI-risikovurderinger
- Scenarier: misalignering, drift, halusinasjon, diskriminering
Ufoldende trender og fremtidige overvegelser
- Forutsetninger for regulativ utvikling og global konvergens
- GenAI-spesifikke risikoer og styringsforlengelser
- Ansvarlig skaling av AI-operasjoner i virksomheten
Oppsummering og neste trinn
Krav
- Forståelse av virksomhetsrisikoer, juridiske eller teknologirammer
- Erfaring med eksekutiv ledelse, siber-sikkerhet eller overholdsningskontroll
- Ingen tidligere teknisk kunnskap om AI-utvikling er nødvendig
Målgruppe
- Chef for informasjonssikkerhet (CISO)
- Juridisk rådgiver og overholdsningskontrollere
- Teknologi direktører (CTO)
Referanser (2)
Jeg syntes virkelig det var interessant å lære om AI-angrep og verktøyene som finnes for å starte med øving og aktiv bruk i sikkerhetstesting. Jeg tok med meg mye kunnskap som jeg ikke hadde fra starten, og kurset innfridde det jeg håpet det skulle. Min favorittdel fra opplæringen var Comet Browser, og jeg var imponert over hva det kunne gjøre. Det er noe jeg helt sikkert vil se nærmere på. Til sammen var det en fantastisk kurs, og jeg trivdes med å lære om OWASP GenAI Top 10.
Patrick Collins - Optum
Kurs - OWASP GenAI Security
Maskinoversatt
Den profesjonelle kunnskapen og måten han presenterte den for oss
Miroslav Nachev - PUBLIC COURSE
Kurs - Cybersecurity in AI Systems
Maskinoversatt