Building Secure and Responsible LLM Applications Treningskurs
LLM applikasjonssikkerhet er disiplinen som handler om å designe, bygge og vedlikeholde sikre, pålitelige og policy-kompatible systemer ved bruk av store språkmodeller.
Denne instruktørledede, levende opplæringen (online eller på sted) er rettet mot mellomnivå- til avanserte AI-utviklere, arkitekter og produktledere som ønsker å identifisere og redusere risikoer forbundet med LLM-drevne applikasjoner, inkludert prompt-injeksjon, datalekkasje og ufiltrert utdata, samt å inkorporere sikkerhetskontroller som inndatavalidering, menneske-i-løkketilsyn og utdata-garder.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå de grunnleggende sårbarhetene i LLM-baserte systemer.
- Bruke sikre designprinsipper for LLM-app-arkitektur.
- Bruk verktøy som Guardrails AI og LangChain for validering, filtrering og sikkerhet.
- Integere teknikker som sandboxing, red teaming og menneske-i-løkke-oversikt i produksjonsklasse-pipe.
Kursformat
- Interaktiv forelesning og diskusjon.
- Mange øvelser og praksis.
- Hands-on implementering i en live-lab-miljø.
Kurs Tilsvarende
- For å be om en tilpasset opplæring for dette kurset, kontakt oss for å avtale.
Kursplan
Oversikt over LLM-arkitektur og angrepsflate
- Hvordan LLMs bygges, distribueres og tilgjengeliggjøres via APIer
- Nøkkelkomponenter i LLM-applikasjonsstakker (eks. prompts, agenter, hukommelse, APIer)
- Hvor og hvordan sikkerhetsproblemer oppstår i virkelige bruksscenarier
Prompt Injeksjon og Jailbreak-angrep
- Hva prompt injeksjon er og hvorfor det er farlig
- Direkte og indirekte prompt injeksjonsscenarier
- Jailbreaking-teknikker for å omgå sikkerhetsfilter
- Strategier for oppdagelse og avverging
Datalekkasje og privatrisikoer
- Utenomeksponering av data gjennom svar
- PII-lekkasjer og misbruk av modellhukommelse
- Å designe privatskytsbevisste prompts og retrieval-augmented generation (RAG)
LLM-outputfiltrering og beskyttelse
- Bruk av Guardrails AI for innholdsfiltrering og validering
- Definere outputskjemaer og begrensninger
- Overvåking og logging av usikre outputs
Human-in-the-Loop og arbeidsflytsmetoder
- Hvor og når å introdusere menneskelig overvåkning
- Godkjenningskøer, skåringstrøskler, tilbakefallshåndtering
- Tilstedskalibrering og forklarbarhetens rolle
Sikker LLM-applikasjon Design Patterns
- Minste privilegier og sandboxing for API-kall og agenter
- Rate limiting, tråling og misbruksovervåkning
- Robust kobling med LangChain og prompt-isolasjon
Overholdelse, logging og Gostyre
- Å sikre revisjonsevnen til LLM-output
- Å opprettholde sporbarhet og prompt/versjonskontroll
- Å overholde interne sikkerhetspolitikker og reguleringskrav
Oppsummering og neste trinn
Krav
- En forståelse av store språkmodeller og grensesnitt basert på prompt
- Erfaring med å bygge LLM-applikasjoner ved bruk av Python
- Kjennskap til API-integrasjoner og skybaserte distribusjoner
Målgruppe
- AI-utviklere
- Applikasjons- og løsningsarkitekter
- Tekniske produktledere som arbeider med LLM-verktøy
Open Training Courses require 5+ participants.
Building Secure and Responsible LLM Applications Treningskurs - Booking
Building Secure and Responsible LLM Applications Treningskurs - Enquiry
Building Secure and Responsible LLM Applications - Consultancy Enquiry
Consultancy Enquiry
Upcoming Courses
Relaterte kurs
Building Private AI Workflows with Ollama
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot profesjonelle på avansert nivå som ønsker å implementere sikre og effektive AI-drevne arbeidsflyter ved hjelp av Ollama.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Distribuer og konfigurer Ollama for privat AI-behandling.
- Integrer AI-modeller i sikre bedriftsarbeidsflyter.
- Optimaliser AI-ytelsen samtidig som personvernet opprettholdes.
- Automatiser forretningsprosesser med AI-funksjoner på stedet.
- Sikre overholdelse av retningslinjer for bedriftssikkerhet og styring.
Claude AI for Content Creation
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot innholdsskapere, forfattere og markedsførere på nybegynnernivå til mellomnivå som ønsker å utnytte Claude AI for innholdsgenerering, redigering og oppsummering for å forbedre blogger, rapporter og markedsføringsmateriell.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Bruk Claude AI til idédugnad og idéutvidelse.
- Forbedre skrivingen med AI-assistert redigering og korrekturlesing.
- Generer sammendrag for langformat innhold og rapporter.
- Automatiser oppretting av markedsføringskopier for forskjellige plattformer.
Claude AI for Developers: Building AI-Powered Applications
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot programvareutviklere og AI-ingeniører på mellomnivå som ønsker å integrere Claude AI i applikasjonene sine, bygge AI-drevne chatbots og forbedre programvarefunksjonaliteten med AI-drevet automatisering.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Bruk Claude AI API for å integrere AI i applikasjoner.
- Utvikle AI-drevne chatbots og virtuelle assistenter.
- Forbedre applikasjoner med AI-drevet automatisering og NLP.
- Optimaliser og finjuster Claude AI-modeller for ulike brukstilfeller.
Claude AI for Research and Knowledge Management
14 timerDenne instruktørledede, direkteopplæringen i Norge (online eller på stedet) er rettet mot forskere, analytikere og kunnskapsarbeidere på middels nivå som ønsker å utnytte Claude AI for å behandle store datamengder, syntetisere informasjon og automatisere forskningsoppgaver.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Bruk Claude AI til litteraturgjennomganger og forskningssyntese.
- Oppsummer rapporter, forskningsartikler og langformede dokumenter.
- Trekk ut nøkkelinnsikt og trender fra strukturerte og ustrukturerte data.
- Integrer Claude AI i arbeidsflyter for forskning og kunnskapsstyring.
Claude AI for Workflow Automation and Productivity
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot nybegynnere som ønsker å integrere Claude AI i sine daglige arbeidsflyter for å forbedre effektivitet og automatisering.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Bruk Claude AI for å automatisere repeterende oppgaver og effektivisere arbeidsflyter.
- Forbedre personlig og teamproduktivitet ved hjelp av AI-drevet automatisering.
- Integrer Claude AI med eksisterende forretningsverktøy og plattformer.
- Optimaliser AI-drevet beslutningstaking og oppgaveadministrasjon.
Deploying and Optimizing LLMs with Ollama
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot fagfolk på middels nivå som ønsker å distribuere, optimalisere og integrere LLM-er ved hjelp av Ollama.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Sett opp og distribuer LLM-er ved hjelp av Ollama.
- Optimaliser AI-modeller for ytelse og effektivitet.
- Utnytt GPU akselerasjon for forbedrede inferenshastigheter.
- Integrer Ollama i arbeidsflyter og applikasjoner.
- Overvåk og vedlikehold AI-modellytelsen over tid.
Fine-Tuning and Customizing AI Models on Ollama
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot profesjonelle på avansert nivå som ønsker å finjustere og tilpasse AI-modeller på Ollama for forbedret ytelse og domenespesifikke applikasjoner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Sett opp et effektivt miljø for finjustering av AI-modeller på Ollama.
- Forbered datasett for overvåket finjustering og forsterkende læring.
- Optimaliser AI-modeller for ytelse, nøyaktighet og effektivitet.
- Distribuer tilpassede modeller i produksjonsmiljøer.
- Evaluere modellforbedringer og sikre robusthet.
Introduction to Google Gemini AI
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot utviklere på nybegynnernivå til mellomnivå som ønsker å integrere AI-funksjonalitet i applikasjonene sine ved å bruke Google Gemini AI.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå det grunnleggende i store språkmodeller.
- Sett opp og bruk Google Gemini AI for ulike AI-oppgaver.
- Implementer tekst-til-tekst- og bilde-til-tekst-transformasjoner.
- Bygg grunnleggende AI-drevne applikasjoner.
- Utforsk avanserte funksjoner og tilpasningsalternativer i Google Gemini AI.
Google Gemini AI for Content Creation
14 timerDenne instruktørledede, direkteopplæringen i Norge (online eller på stedet) er rettet mot innholdsskapere på middels nivå som ønsker å bruke Google Gemini AI for å forbedre innholdskvaliteten og effektiviteten deres.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå rollen til AI i innholdsskaping.
- Konfigurer og bruk Google Gemini AI for å generere og optimalisere innhold.
- Bruk tekst-til-tekst-transformasjoner for å produsere kreativt og originalt innhold.
- Implementer SEO-strategier ved å bruke AI-drevet innsikt.
- Analyser innholdsytelse og tilpass strategier ved hjelp av Gemini AI.
Google Gemini AI for Transformative Customer Service
14 timerDenne instruktørledede, liveopplæringen i Norge (online eller på stedet) er rettet mot fagfolk på middels nivå som ønsker å implementere Google Gemini AI i sine kundeserviceoperasjoner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå virkningen av AI på kundeservice.
- Konfigurer Google Gemini AI for å automatisere og tilpasse kundeinteraksjoner.
- Bruk tekst-til-tekst- og bilde-til-tekst-transformasjoner for å forbedre tjenesteeffektiviteten.
- Utvikle AI-drevne strategier for analyse av tilbakemeldinger fra kunder i sanntid.
- Utforsk avanserte funksjoner for å skape en sømløs kundeserviceopplevelse.
Google Gemini AI for Data Analysis
21 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot dataanalytikere på nybegynnernivå til mellomnivå og forretningsfolk som ønsker å utføre komplekse dataanalyseoppgaver mer intuitivt på tvers av ulike bransjer ved å bruke Google Gemini AI.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå det grunnleggende i Google Gemini AI.
- Koble ulike datakilder til Gemini AI.
- Utforsk data ved å bruke naturlig språk.
- Analyser datamønstre og få innsikt.
- Lag overbevisende datavisualiseringer.
- Kommuniser datadrevet innsikt effektivt.
Intermediate Gemini AI for Public Sector Professionals
16 timerThis instructor-led, live training in Norge (online or onsite) is aimed at intermediate-level public sector professionals who wish to use Gemini to generate high-quality content, assist with research, and improve productivity through more advanced AI interactions.
By the end of this training, participants will be able to:
- Craft more effective and tailored prompts for specific use cases.
- Generate original and creative content using Gemini.
- Summarize and compare complex information with precision.
- Use Gemini for brainstorming, planning, and organizing ideas efficiently.
Introduction to Claude AI: Conversational AI and Business Applications
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot forretningsfolk på nybegynnernivå, kundestøtteteam og teknologientusiaster som ønsker å forstå det grunnleggende ved Claude AI og utnytte det for forretningsapplikasjoner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå Claude AIs evner og bruksområder.
- Sett opp og samhandle med Claude AI effektivt.
- Automatiser forretningsflyter med konversasjons-AI.
- Forbedre kundeengasjement og støtte ved å bruke AI-drevne løsninger.
LangChain: Building AI-Powered Applications
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot utviklere og programvareingeniører på mellomnivå som ønsker å bygge AI-drevne applikasjoner ved å bruke LangChain-rammeverket.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå det grunnleggende om LangChain og dets komponenter.
- Integrer LangChain med store språkmodeller (LLM) som GPT-4.
- Bygg modulære AI-applikasjoner ved å bruke LangChain.
- Feilsøk vanlige problemer i LangChain-applikasjoner.
Getting Started with Ollama: Running Local AI Models
7 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot nybegynnere som ønsker å installere, konfigurere og bruke Ollama for å kjøre AI-modeller på sine lokale maskiner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå det grunnleggende ved Ollama og dets muligheter.
- Sett opp Ollama for å kjøre lokale AI-modeller.
- Distribuer og samhandle med LLM-er ved hjelp av Ollama.
- Optimaliser ytelse og ressursbruk for AI-arbeidsbelastninger.
- Utforsk brukstilfeller for lokal AI-distribusjon i ulike bransjer.