Fine-Tuning for Retrieval-Augmented Generation (RAG) Systems Treningskurs
Fine-Tuning for Retrieval-Augmented Generation (RAG) Systems is the process of optimizing how large language models retrieve and generate relevant information from external sources for enterprise applications.
This instructor-led, live training (online or onsite) is aimed at intermediate-level NLP engineers and knowledge management teams who wish to fine-tune RAG pipelines to enhance performance in question answering, enterprise search, and summarization use cases.
By the end of this training, participants will be able to:
- Forstå arkitekturen og arbeidsflyten i RAG-systemer.
- Fintune retriever- og generatorkomponenter for domenespesifikke data.
- Vurdere RAG-ytelse og gjøre forbedringer gjennom PEFT-teknikker.
- Implementere optimerte RAG-systemer for intern eller produksjonsbruk.
Formatet på kurset
- Interaktiv forelesning og diskusjon.
- Mange øvelser og praksis.
- Hånds-on implementering i en live-lab miljø.
Tilpasningsalternativer for kurset
- For å be om et tilpasset kurs for dette emnet, kontakt oss for å avtale.
Kursplan
Introduksjon til Retrieval-Augmented Generation (RAG)
- Hva er RAG og hvorfor det er viktig for virksomhetens AI
- Komponenter i et RAG-system: retriever, generator, dokumentlager
- Sammenligning med selvstendige LLMs og vektorøkning
Oppsett av en RAG-Pipeline
- Installasjon og konfigurasjon av Haystack eller lignende rammeverk
- Inntak og forbehandling av dokumenter
- Tilkobling av retrievere til vektordatabaser (e.g., FAISS, Pinecone)
Fine-Tuning Retriveren
- Trening av tette retrievere ved hjelp av domenespesifikk data
- Bruk av setningstransformatorer og kontrastiv læring
- Vurdering av retrieverens kvalitet med top-k nøyaktighet
Fine-Tuning Generatoren
- Valg av basismodeller (e.g., BART, T5, FLAN-T5)
- Instruksjonstuning vs. overvåket finjustering
- LoRA og PEFT-metoder for effektive oppdateringer
Vurdering og optimalisering
- Metrikker for å vurdere RAG-ytelse (e.g., BLEU, EM, F1)
- Latens, retrieverkvalitet og reduksjon av hallusinasjoner
- Eksperimentsporing og iterativ forbedring
Utplassering og integrasjon i virkeligheten
- Utplassering av RAG i interne søkemotorer og chatbots
- Sikkerhet, dataaksess og styreforhold
- Integrering med API-er, dashbord eller kunnskapsportaler
Case studies og beste praksis
- Virksomhetstilfeller innen finans, helsevesen og rettsvesen
- Håndtering av domenedrift og oppdateringer av kunnskapsbasen
- Fremtidige retninger i retriever-augmenterte LLM-systemer
Oppsummering og neste skritt
Krav
- Forståelse av konsepter innen naturlig språkbehandling (NLP)
- Erfaring med transformerbaserte språkmodeller
- Kjennskap til Python og grunnleggende maskinlæringsarbeidsflyter
Målgruppe
- NLP-ingeniører
- Team for kunnskapsadministrasjon
Open Training Courses require 5+ participants.
Fine-Tuning for Retrieval-Augmented Generation (RAG) Systems Treningskurs - Booking
Fine-Tuning for Retrieval-Augmented Generation (RAG) Systems Treningskurs - Enquiry
Fine-Tuning for Retrieval-Augmented Generation (RAG) Systems - Consultancy Enquiry
Consultancy Enquiry
Upcoming Courses
Relaterte kurs
Advanced Techniques in Transfer Learning
14 timerDenne instruktørledede, direkteopplæringen i Norge (online eller på stedet) er rettet mot maskinlæringsprofesjonelle på avansert nivå som ønsker å mestre banebrytende overføringslæringsteknikker og bruke dem på komplekse problemer i den virkelige verden.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå avanserte konsepter og metoder innen overføringslæring.
- Implementere domenespesifikke tilpasningsteknikker for forhåndstrente modeller.
- Bruk kontinuerlig læring for å administrere utviklende oppgaver og datasett.
- Mestre finjustering av flere oppgaver for å forbedre modellytelsen på tvers av oppgaver.
Deploying Fine-Tuned Models in Production
21 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot profesjonelle på avansert nivå som ønsker å distribuere finjusterte modeller pålitelig og effektivt.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå utfordringene med å distribuere finjusterte modeller i produksjon.
- Containeriser og distribuer modeller ved hjelp av verktøy som Docker og Kubernetes.
- Implementer overvåking og logging for utplasserte modeller.
- Optimaliser modeller for ventetid og skalerbarhet i virkelige scenarier.
Domain-Specific Fine-Tuning for Finance
21 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot fagfolk på middels nivå som ønsker å få praktiske ferdigheter i å tilpasse AI-modeller for kritiske økonomiske oppgaver.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå det grunnleggende om finjustering for finansapplikasjoner.
- Utnytt forhåndstrente modeller for domenespesifikke oppgaver innen finans.
- Bruk teknikker for svindeloppdagelse, risikovurdering og generering av finansiell rådgivning.
- Sikre overholdelse av økonomiske forskrifter som GDPR og SOX.
- Implementere datasikkerhet og etisk AI-praksis i finansielle applikasjoner.
Fine-Tuning Models and Large Language Models (LLMs)
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot fagfolk på middels til avansert nivå som ønsker å tilpasse forhåndstrente modeller for spesifikke oppgaver og datasett.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå prinsippene for finjustering og dens anvendelser.
- Forbered datasett for finjustering av forhåndstrente modeller.
- Finjuster store språkmodeller (LLM) for NLP-oppgaver.
- Optimaliser modellytelsen og ta tak i vanlige utfordringer.
Efficient Fine-Tuning with Low-Rank Adaptation (LoRA)
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot utviklere på middels nivå og AI-utøvere som ønsker å implementere finjusteringsstrategier for store modeller uten behov for omfattende beregningsressurser.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå prinsippene for Low-Rank Adaptation (LoRA).
- Implementer LoRA for effektiv finjustering av store modeller.
- Optimaliser finjustering for miljøer med begrensede ressurser.
- Evaluer og distribuer LoRA-tunede modeller for praktiske bruksområder.
Fine-Tuning Multimodal Models
28 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot profesjonelle på avansert nivå som ønsker å mestre multimodal modellfinjustering for innovative AI-løsninger.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå arkitekturen til multimodale modeller som CLIP og Flamingo.
- Forbered og forhåndsbehandle multimodale datasett effektivt.
- Finjuster multimodale modeller for spesifikke oppgaver.
- Optimaliser modeller for virkelige applikasjoner og ytelse.
Fine-Tuning for Natural Language Processing (NLP)
21 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot fagfolk på middels nivå som ønsker å forbedre NLP-prosjektene sine gjennom effektiv finjustering av ferdigtrente språkmodeller.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå det grunnleggende om finjustering for NLP-oppgaver.
- Finjuster forhåndstrente modeller som GPT, BERT og T5 for spesifikke NLP-applikasjoner.
- Optimaliser hyperparametre for forbedret modellytelse.
- Evaluer og distribuer finjusterte modeller i virkelige scenarier.
Fine-Tuning DeepSeek LLM for Custom AI Models
21 timerDenne instruktørledede, liveopplæringen i Norge (online eller på stedet) er rettet mot AI-forskere på avansert nivå, maskinlæringsingeniører og utviklere som ønsker å finjustere DeepSeek LLM-modeller for å lage spesialiserte AI-applikasjoner skreddersydd for spesifikke bransjer, domener eller forretningsbehov.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå arkitekturen og egenskapene til DeepSeek-modeller, inkludert DeepSeek-R1 og DeepSeek-V3.
- Forbered datasett og forhåndsbehandle data for finjustering.
- Finjuster DeepSeek LLM for domenespesifikke applikasjoner.
- Optimaliser og distribuer finjusterte modeller effektivt.
Fine-Tuning Large Language Models Using QLoRA
14 timerDenne instruktørledede, live-opplæring i Norge (online eller på stedet) er rettet mot maskinlæringsingeniører, AI-utviklere og dataforskere på mellomnivå til avansert nivå som ønsker å lære hvordan de kan bruke QLoRA til effektiv finjustering av store modeller for spesifikke oppgaver og tilpasninger.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå teorien bak QLoRA og kvantiseringsteknikker for LLMs.
- Implementere QLoRA i finjustering av store språkmodeller for domene-spesifikke applikasjoner.
- Optimalisere finjusteringsyytelse på begrensede beregningsressurser ved hjelp av kvantisering.
- Utplassere og evaluere finjusterte modeller effektivt i virkelige applikasjoner.
Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.)
14 timerDette instruktørledede, live opplæringen i Norge (online eller på stedet) er rettet mot mellomnivå ML-praktikere og AI-utviklere som ønsker å fintunere og distribere åpne vektmodeller som LLaMA, Mistral, og Qwen for spesifikke bedrifts- eller interne applikasjoner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå økosystemet og forskjellene mellom åpne kildekode LLMs.
- Forberede datasets og fine-tuning konfigurasjoner for modeller som LLaMA, Mistral, og Qwen.
- Kjøre fine-tuning rørledninger ved bruk av Hugging Face Transformers og PEFT.
- Vurdere, lagre, og distribuere fine-tunede modeller i sikre miljøer.
Fine-Tuning with Reinforcement Learning from Human Feedback (RLHF)
14 timerDenne instruktørledede, live opplæringen på Norge (online eller på sted) er rettet mot avanserte maskinlæringsingeniører og AI-forskere som ønsker å anvende RLHF for å finjustere store AI-modeller for overlegen ytelse, sikkerhet og samstemming.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå de teoretiske grunnlagene for RLHF og hvorfor det er avgjørende i moderne AI-utvikling.
- Implementere belønningsmodeller basert på menneskelig tilbakemelding for å veilede forsterkningslæringsprosesser.
- Finjustere store språklige modeller ved hjelp av RLHF-teknikker for å gjøre utdataene i tråd med menneskelige preferanser.
- Anvende beste praksis for å skalere RLHF-arbeidsflyter for produksjonsklare AI-systemer.
Fine-Tuning Vision-Language Models (VLMs)
14 timerThis instructor-led, live training in Norge (online or onsite) is aimed at advanced-level computer vision engineers and AI developers who wish to fine-tune VLMs such as CLIP and Flamingo to improve performance on industry-specific visual-text tasks.
By the end of this training, participants will be able to:
- Understand the architecture and pretraining methods of vision-language models.
- Fine-tune VLMs for classification, retrieval, captioning, or multimodal QA.
- Prepare datasets and apply PEFT strategies to reduce resource usage.
- Evaluate and deploy customized VLMs in production environments.
Optimizing Large Models for Cost-Effective Fine-Tuning
21 timerDenne instruktørledede, direkteopplæringen i Norge (online eller på stedet) er rettet mot profesjonelle på avansert nivå som ønsker å mestre teknikker for å optimalisere store modeller for kostnadseffektiv finjustering i virkelige scenarier.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå utfordringene med å finjustere store modeller.
- Bruk distribuerte treningsteknikker på store modeller.
- Utnytt modellkvantisering og beskjæring for effektivitet.
- Optimaliser maskinvareutnyttelsen for finjusteringsoppgaver.
- Distribuer finjusterte modeller effektivt i produksjonsmiljøer.
Prompt Engineering and Few-Shot Fine-Tuning
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot fagfolk på middels nivå som ønsker å utnytte kraften til rask ingeniørkunst og få greps læring for å optimalisere LLM-ytelsen for virkelige applikasjoner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå prinsippene for rask prosjektering og få-skuddslæring.
- Design effektive spørsmål for ulike NLP-oppgaver.
- Bruk få-skuddsteknikker for å tilpasse LLM-er med minimalt med data.
- Optimaliser LLM-ytelsen for praktiske bruksområder.
Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs
14 timerDenne instruktørledede, live-treningen på Norge (online eller på sted) er rettet mot mellomnivå-dataforskere og AI-ingeniører som ønsker å fine-tune store språkmodeller på en mer økonomisk og effektiv måte ved å bruke metoder som LoRA, Adapter Tuning, og Prefix Tuning.
Ved slutten av denne treningen vil deltakerne være i stand til:
- Forstå teorien bak parameter-effektive fine-tuning-metoder.
- Implementere LoRA, Adapter Tuning, og Prefix Tuning ved hjelp av Hugging Face PEFT.
- Sammenligne ytelse og kostnadsoverveielser av PEFT-metoder mot full fine-tuning.
- Deploye og skale fine-tuned LLMs med redusert beregning og lagringsbehov.