Kursplan

Introduksjon til Retrieval-Augmented Generation (RAG)

  • Hva er RAG og hvorfor det er viktig for virksomhetens AI
  • Komponenter i et RAG-system: retriever, generator, dokumentlager
  • Sammenligning med selvstendige LLMs og vektorøkning

Oppsett av en RAG-Pipeline

  • Installasjon og konfigurasjon av Haystack eller lignende rammeverk
  • Inntak og forbehandling av dokumenter
  • Tilkobling av retrievere til vektordatabaser (e.g., FAISS, Pinecone)

Fine-Tuning Retriveren

  • Trening av tette retrievere ved hjelp av domenespesifikk data
  • Bruk av setningstransformatorer og kontrastiv læring
  • Vurdering av retrieverens kvalitet med top-k nøyaktighet

Fine-Tuning Generatoren

  • Valg av basismodeller (e.g., BART, T5, FLAN-T5)
  • Instruksjonstuning vs. overvåket finjustering
  • LoRA og PEFT-metoder for effektive oppdateringer

Vurdering og optimalisering

  • Metrikker for å vurdere RAG-ytelse (e.g., BLEU, EM, F1)
  • Latens, retrieverkvalitet og reduksjon av hallusinasjoner
  • Eksperimentsporing og iterativ forbedring

Utplassering og integrasjon i virkeligheten

  • Utplassering av RAG i interne søkemotorer og chatbots
  • Sikkerhet, dataaksess og styreforhold
  • Integrering med API-er, dashbord eller kunnskapsportaler

Case studies og beste praksis

  • Virksomhetstilfeller innen finans, helsevesen og rettsvesen
  • Håndtering av domenedrift og oppdateringer av kunnskapsbasen
  • Fremtidige retninger i retriever-augmenterte LLM-systemer

Oppsummering og neste skritt

Krav

  • Forståelse av konsepter innen naturlig språkbehandling (NLP)
  • Erfaring med transformerbaserte språkmodeller
  • Kjennskap til Python og grunnleggende maskinlæringsarbeidsflyter

Målgruppe

  • NLP-ingeniører
  • Team for kunnskapsadministrasjon
 14 timer

Antall deltakere


Price per participant

Upcoming Courses

Related Categories