Building Secure and Responsible LLM Applications Treningskurs
LLM applikasjonssikkerhet er disiplinen som handler om å designe, bygge og vedlikeholde sikre, pålitelige og policy-kompatible systemer ved bruk av store språkmodeller.
Denne instruktørledede, levende opplæringen (online eller på sted) er rettet mot mellomnivå- til avanserte AI-utviklere, arkitekter og produktledere som ønsker å identifisere og redusere risikoer forbundet med LLM-drevne applikasjoner, inkludert prompt-injeksjon, datalekkasje og ufiltrert utdata, samt å inkorporere sikkerhetskontroller som inndatavalidering, menneske-i-løkketilsyn og utdata-garder.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå de grunnleggende sårbarhetene i LLM-baserte systemer.
- Bruke sikre designprinsipper for LLM-app-arkitektur.
- Bruk verktøy som Guardrails AI og LangChain for validering, filtrering og sikkerhet.
- Integere teknikker som sandboxing, red teaming og menneske-i-løkke-oversikt i produksjonsklasse-pipe.
Kursformat
- Interaktiv forelesning og diskusjon.
- Mange øvelser og praksis.
- Hands-on implementering i en live-lab-miljø.
Kurs Tilsvarende
- For å be om en tilpasset opplæring for dette kurset, kontakt oss for å avtale.
Kursplan
Oversikt over LLM-arkitektur og angrepsflate
- Hvordan LLMs bygges, distribueres og tilgjengeliggjøres via APIer
- Nøkkelkomponenter i LLM-applikasjonsstakker (eks. prompts, agenter, hukommelse, APIer)
- Hvor og hvordan sikkerhetsproblemer oppstår i virkelige bruksscenarier
Prompt Injeksjon og Jailbreak-angrep
- Hva prompt injeksjon er og hvorfor det er farlig
- Direkte og indirekte prompt injeksjonsscenarier
- Jailbreaking-teknikker for å omgå sikkerhetsfilter
- Strategier for oppdagelse og avverging
Datalekkasje og privatrisikoer
- Utenomeksponering av data gjennom svar
- PII-lekkasjer og misbruk av modellhukommelse
- Å designe privatskytsbevisste prompts og retrieval-augmented generation (RAG)
LLM-outputfiltrering og beskyttelse
- Bruk av Guardrails AI for innholdsfiltrering og validering
- Definere outputskjemaer og begrensninger
- Overvåking og logging av usikre outputs
Human-in-the-Loop og arbeidsflytsmetoder
- Hvor og når å introdusere menneskelig overvåkning
- Godkjenningskøer, skåringstrøskler, tilbakefallshåndtering
- Tilstedskalibrering og forklarbarhetens rolle
Sikker LLM-applikasjon Design Patterns
- Minste privilegier og sandboxing for API-kall og agenter
- Rate limiting, tråling og misbruksovervåkning
- Robust kobling med LangChain og prompt-isolasjon
Overholdelse, logging og Gostyre
- Å sikre revisjonsevnen til LLM-output
- Å opprettholde sporbarhet og prompt/versjonskontroll
- Å overholde interne sikkerhetspolitikker og reguleringskrav
Oppsummering og neste trinn
Krav
- En forståelse av store språkmodeller og grensesnitt basert på prompt
- Erfaring med å bygge LLM-applikasjoner ved bruk av Python
- Kjennskap til API-integrasjoner og skybaserte distribusjoner
Målgruppe
- AI-utviklere
- Applikasjons- og løsningsarkitekter
- Tekniske produktledere som arbeider med LLM-verktøy
Open Training Courses require 5+ participants.
Building Secure and Responsible LLM Applications Treningskurs - Booking
Building Secure and Responsible LLM Applications Treningskurs - Enquiry
Building Secure and Responsible LLM Applications - Consultancy Enquiry
Consultancy Enquiry
Upcoming Courses
Relaterte kurs
AI Automation with n8n and LangChain
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot utviklere og IT-fagfolk på alle ferdighetsnivåer som ønsker å automatisere oppgaver og prosesser ved hjelp av AI uten å skrive omfattende kode.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Design og implementer komplekse arbeidsflyter ved å bruke n8ns visuelle programmeringsgrensesnitt.
- Integrer AI-funksjoner i arbeidsflyter ved å bruke LangChain.
- Bygg tilpassede chatboter og virtuelle assistenter for ulike bruksområder.
- Utfør avansert dataanalyse og prosessering med AI-agenter.
Automating Workflows with LangChain and APIs
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot nybegynner-nivå forretningsanalytikere og automasjonsingeniører som ønsker å forstå hvordan man bruker LangChain og API-er for å automatisere repeterende oppgaver og arbeidsflyter.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå det grunnleggende om API-integrasjon med LangChain.
- Automatiser repeterende arbeidsflyter ved å bruke LangChain og Python.
- Bruk LangChain til å koble sammen ulike APIer for effektive forretningsprosesser.
- Opprett og automatiser egendefinerte arbeidsflyter ved hjelp av APIer og LangChains automatiseringsmuligheter.
Building Conversational Agents with LangChain
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot fagpersoner på middels nivå som ønsker å utdype sin forståelse av samtaleagenter og bruke LangChain på brukssaker i den virkelige verden.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå det grunnleggende om LangChain og dets anvendelse i å bygge samtaleagenter.
- Utvikle og distribuer samtaleagenter ved å bruke LangChain.
- Integrer samtaleagenter med APIer og eksterne tjenester.
- Bruk Natural Language Processing (NLP) teknikker for å forbedre ytelsen til samtaleagenter.
Building Private AI Workflows with Ollama
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot profesjonelle på avansert nivå som ønsker å implementere sikre og effektive AI-drevne arbeidsflyter ved hjelp av Ollama.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Distribuer og konfigurer Ollama for privat AI-behandling.
- Integrer AI-modeller i sikre bedriftsarbeidsflyter.
- Optimaliser AI-ytelsen samtidig som personvernet opprettholdes.
- Automatiser forretningsprosesser med AI-funksjoner på stedet.
- Sikre overholdelse av retningslinjer for bedriftssikkerhet og styring.
Deploying and Optimizing LLMs with Ollama
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot fagfolk på middels nivå som ønsker å distribuere, optimalisere og integrere LLM-er ved hjelp av Ollama.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Sett opp og distribuer LLM-er ved hjelp av Ollama.
- Optimaliser AI-modeller for ytelse og effektivitet.
- Utnytt GPU akselerasjon for forbedrede inferenshastigheter.
- Integrer Ollama i arbeidsflyter og applikasjoner.
- Overvåk og vedlikehold AI-modellytelsen over tid.
Ethical Considerations in AI Development with LangChain
21 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot AI-forskere og beslutningstakere på avansert nivå som ønsker å utforske de etiske implikasjonene av AI-utvikling og lære hvordan man bruker etiske retningslinjer når man bygger AI-løsninger med [ 0].
Ved slutten av denne opplæringen vil deltakerne kunne:
- Identifiser sentrale etiske problemstillinger i AI-utvikling med LangChain.
- Forstå virkningen av AI på samfunnet og beslutningsprosesser.
- Utvikle strategier for å bygge rettferdige og transparente AI-systemer.
- Implementer etiske AI-retningslinjer i LangChain-baserte prosjekter.
Enhancing User Experience with LangChain in Web Apps
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot webutviklere på middels nivå og UX-designere som ønsker å utnytte LangChain til å lage intuitive og brukervennlige nettapplikasjoner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå de grunnleggende konseptene til LangChain og dens rolle i å forbedre nettbrukeropplevelsen.
- Implementer LangChain i nettapper for å lage dynamiske og responsive grensesnitt.
- Integrer API-er i nettapper for å forbedre interaktivitet og brukerengasjement.
- Optimaliser brukeropplevelsen ved å bruke LangChains avanserte tilpasningsfunksjoner.
- Analyser brukeratferdsdata for å finjustere nettappytelse og opplevelse.
Fine-Tuning and Customizing AI Models on Ollama
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot profesjonelle på avansert nivå som ønsker å finjustere og tilpasse AI-modeller på Ollama for forbedret ytelse og domenespesifikke applikasjoner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Sett opp et effektivt miljø for finjustering av AI-modeller på Ollama.
- Forbered datasett for overvåket finjustering og forsterkende læring.
- Optimaliser AI-modeller for ytelse, nøyaktighet og effektivitet.
- Distribuer tilpassede modeller i produksjonsmiljøer.
- Evaluere modellforbedringer og sikre robusthet.
Introduction to AI Security and Risk Management
14 timerDenne instruktørlede, live opplæringen (online eller på stedet) er rettet mot IT-sikkerhets-, risiko- og samsvarsprofesjoneller på begynnernivå som ønsker å forstå grunnleggende AI-sikkerhetskonsepter, trusselvektorer og globale rammeverk som NIST AI RMF og ISO/IEC 42001.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå de unike sikkerhetsrisikoene som blir introdusert av AI-systemer.
- Identifisere trusselvektorer som fiendtlige angrep, dataforgiftning og modellinversjon.
- Anvende grunnleggende styringsmodeller som NIST AI Risk Management Framework.
- Tilpasse AI-bruk med fremvoksende standarder, samsvarsretningslinjer og etiske prinsipper.
LangChain: Building AI-Powered Applications
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot utviklere og programvareingeniører på mellomnivå som ønsker å bygge AI-drevne applikasjoner ved å bruke LangChain-rammeverket.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå det grunnleggende om LangChain og dets komponenter.
- Integrer LangChain med store språkmodeller (LLM) som GPT-4.
- Bygg modulære AI-applikasjoner ved å bruke LangChain.
- Feilsøk vanlige problemer i LangChain-applikasjoner.
Integrating LangChain with Cloud Services
14 timerDenne instruktørledede, direkteopplæringen i Norge (online eller på stedet) er rettet mot avanserte dataingeniører og DevOps fagfolk som ønsker å utnytte LangChain sine evner ved å integrere den med ulike skytjenester.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Integrer LangChain med store skyplattformer som AWS, Azure og Google Cloud.
- Bruk skybaserte APIer og tjenester for å forbedre LangChain-drevne applikasjoner.
- Skaler og distribuer samtaleagenter til skyen for sanntidsinteraksjon.
- Implementer beste praksis for overvåking og sikkerhet i skymiljøer.
LangChain for Data Analysis and Visualization
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot datafagfolk på middels nivå som ønsker å bruke LangChain til å forbedre sine dataanalyse- og visualiseringsevner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Automatiser datainnhenting og -rensing ved hjelp av LangChain.
- Gjennomfør avansert dataanalyse ved hjelp av Python og LangChain.
- Lag visualiseringer med Matplotlib og andre Python biblioteker integrert med LangChain.
- Utnytt LangChain for å generere naturlig språkinnsikt fra dataanalyse.
LangChain Fundamentals
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot utviklere på nybegynnernivå til mellomnivå og programvareingeniører som ønsker å lære kjernekonseptene og arkitekturen til LangChain og få praktiske ferdigheter for å bygge AI- drevne applikasjoner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Ta tak i de grunnleggende prinsippene til LangChain.
- Sett opp og konfigurer LangChain-miljøet.
- Forstå arkitekturen og hvordan LangChain samhandler med store språkmodeller (LLM).
- Utvikle enkle applikasjoner ved hjelp av LangChain.
Getting Started with Ollama: Running Local AI Models
7 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot nybegynnere som ønsker å installere, konfigurere og bruke Ollama for å kjøre AI-modeller på sine lokale maskiner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå det grunnleggende ved Ollama og dets muligheter.
- Sett opp Ollama for å kjøre lokale AI-modeller.
- Distribuer og samhandle med LLM-er ved hjelp av Ollama.
- Optimaliser ytelse og ressursbruk for AI-arbeidsbelastninger.
- Utforsk brukstilfeller for lokal AI-distribusjon i ulike bransjer.
Securing AI Models: Threats, Attacks, and Defenses
14 timerDenne instruktørledede, live opplæring i Norge (online eller på sted) retter seg mot mellomnivå maskinlæring og cybersecurity fagfolk som ønsker å forstå og håndtere nye trusler mot AI-modeller, ved hjelp av både konseptuelle rammeverk og praktiske forsvar som robust trening og differensiert privatliv.
Ved slutten av denne opplæringen vil deltakere være i stand til å:
- Identifisere og klassifisere AI-spesifikke trusler som fiendtlige angrep, inversjon og forgiftning.
- Bruk verktøy som Adversarial Robustness Toolbox (ART) for å simulere angrep og teste modeller.
- Anvende praktiske forsvar inkludert fiendtlig trening, innsprøytning av støy og privatlivsbevarende teknikker.
- Utforme trusselbevisste modellvurderingsstrategier i produksjonsmiljøer.