Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.) Treningskurs
Fine-tuning open-source LLMs is an emerging best practice for organizations that seek to customize AI capabilities in secure, cost-efficient, and private environments.
This instructor-led, live training (online or onsite) is aimed at intermediate-level ML practitioners and AI developers who wish to fine-tune and deploy open-weight models like LLaMA, Mistral, and Qwen for specific business or internal applications.
By the end of this training, participants will be able to:
- Understand the ecosystem and differences between open-source LLMs.
- Prepare datasets and fine-tuning configurations for models like LLaMA, Mistral, and Qwen.
- Execute fine-tuning pipelines using Hugging Face Transformers and PEFT.
- Evaluate, save, and deploy fine-tuned models in secure environments.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Kursplan
Introduction to Open-Source LLMs
- What are open-weight models and why they're important
- Overview of LLaMA, Mistral, Qwen, and other community models
- Use cases for private, on-premise, or secure deployments
Environment Setup and Tools
- Installing and configuring Transformers, Datasets, and PEFT libraries
- Choosing appropriate hardware for fine-tuning
- Loading pre-trained models from Hugging Face or other repositories
Data Preparation and Preprocessing
- Dataset formats (instruction tuning, chat data, text-only)
- Tokenization and sequence management
- Creating custom datasets and data loaders
Fine-Tuning Techniques
- Standard full fine-tuning vs. parameter-efficient methods
- Applying LoRA and QLoRA for efficient fine-tuning
- Using Trainer API for quick experimentation
Model Evaluation and Optimization
- Assessing fine-tuned models with generation and accuracy metrics
- Managing overfitting, generalization, and validation sets
- Performance tuning tips and logging
Deployment and Private Use
- Saving and loading models for inference
- Deploying fine-tuned models in secure enterprise environments
- On-premise vs. cloud deployment strategies
Case Studies and Use Cases
- Examples of enterprise use of LLaMA, Mistral, and Qwen
- Handling multilingual and domain-specific fine-tuning
- Discussion: Trade-offs between open and closed models
Summary and Next Steps
Krav
- An understanding of large language models (LLMs) and their architecture
- Experience with Python and PyTorch
- Basic familiarity with the Hugging Face ecosystem
Audience
- ML practitioners
- AI developers
Open Training Courses require 5+ participants.
Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.) Treningskurs - Booking
Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.) Treningskurs - Enquiry
Fine-Tuning Open-Source LLMs (LLaMA, Mistral, Qwen, etc.) - Consultancy Enquiry
Consultancy Enquiry
Upcoming Courses
Relaterte kurs
Advanced Techniques in Transfer Learning
14 timerDenne instruktørledede, direkteopplæringen i Norge (online eller på stedet) er rettet mot maskinlæringsprofesjonelle på avansert nivå som ønsker å mestre banebrytende overføringslæringsteknikker og bruke dem på komplekse problemer i den virkelige verden.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå avanserte konsepter og metoder innen overføringslæring.
- Implementere domenespesifikke tilpasningsteknikker for forhåndstrente modeller.
- Bruk kontinuerlig læring for å administrere utviklende oppgaver og datasett.
- Mestre finjustering av flere oppgaver for å forbedre modellytelsen på tvers av oppgaver.
AI Automation with n8n and LangChain
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot utviklere og IT-fagfolk på alle ferdighetsnivåer som ønsker å automatisere oppgaver og prosesser ved hjelp av AI uten å skrive omfattende kode.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Design og implementer komplekse arbeidsflyter ved å bruke n8ns visuelle programmeringsgrensesnitt.
- Integrer AI-funksjoner i arbeidsflyter ved å bruke LangChain.
- Bygg tilpassede chatboter og virtuelle assistenter for ulike bruksområder.
- Utfør avansert dataanalyse og prosessering med AI-agenter.
Automating Workflows with LangChain and APIs
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot nybegynner-nivå forretningsanalytikere og automasjonsingeniører som ønsker å forstå hvordan man bruker LangChain og API-er for å automatisere repeterende oppgaver og arbeidsflyter.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå det grunnleggende om API-integrasjon med LangChain.
- Automatiser repeterende arbeidsflyter ved å bruke LangChain og Python.
- Bruk LangChain til å koble sammen ulike APIer for effektive forretningsprosesser.
- Opprett og automatiser egendefinerte arbeidsflyter ved hjelp av APIer og LangChains automatiseringsmuligheter.
Building Conversational Agents with LangChain
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot fagpersoner på middels nivå som ønsker å utdype sin forståelse av samtaleagenter og bruke LangChain på brukssaker i den virkelige verden.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå det grunnleggende om LangChain og dets anvendelse i å bygge samtaleagenter.
- Utvikle og distribuer samtaleagenter ved å bruke LangChain.
- Integrer samtaleagenter med APIer og eksterne tjenester.
- Bruk Natural Language Processing (NLP) teknikker for å forbedre ytelsen til samtaleagenter.
Building Private AI Workflows with Ollama
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot profesjonelle på avansert nivå som ønsker å implementere sikre og effektive AI-drevne arbeidsflyter ved hjelp av Ollama.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Distribuer og konfigurer Ollama for privat AI-behandling.
- Integrer AI-modeller i sikre bedriftsarbeidsflyter.
- Optimaliser AI-ytelsen samtidig som personvernet opprettholdes.
- Automatiser forretningsprosesser med AI-funksjoner på stedet.
- Sikre overholdelse av retningslinjer for bedriftssikkerhet og styring.
Deploying Fine-Tuned Models in Production
21 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot profesjonelle på avansert nivå som ønsker å distribuere finjusterte modeller pålitelig og effektivt.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå utfordringene med å distribuere finjusterte modeller i produksjon.
- Containeriser og distribuer modeller ved hjelp av verktøy som Docker og Kubernetes.
- Implementer overvåking og logging for utplasserte modeller.
- Optimaliser modeller for ventetid og skalerbarhet i virkelige scenarier.
Deploying and Optimizing LLMs with Ollama
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot fagfolk på middels nivå som ønsker å distribuere, optimalisere og integrere LLM-er ved hjelp av Ollama.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Sett opp og distribuer LLM-er ved hjelp av Ollama.
- Optimaliser AI-modeller for ytelse og effektivitet.
- Utnytt GPU akselerasjon for forbedrede inferenshastigheter.
- Integrer Ollama i arbeidsflyter og applikasjoner.
- Overvåk og vedlikehold AI-modellytelsen over tid.
Ethical Considerations in AI Development with LangChain
21 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot AI-forskere og beslutningstakere på avansert nivå som ønsker å utforske de etiske implikasjonene av AI-utvikling og lære hvordan man bruker etiske retningslinjer når man bygger AI-løsninger med [ 0].
Ved slutten av denne opplæringen vil deltakerne kunne:
- Identifiser sentrale etiske problemstillinger i AI-utvikling med LangChain.
- Forstå virkningen av AI på samfunnet og beslutningsprosesser.
- Utvikle strategier for å bygge rettferdige og transparente AI-systemer.
- Implementer etiske AI-retningslinjer i LangChain-baserte prosjekter.
Enhancing User Experience with LangChain in Web Apps
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot webutviklere på middels nivå og UX-designere som ønsker å utnytte LangChain til å lage intuitive og brukervennlige nettapplikasjoner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå de grunnleggende konseptene til LangChain og dens rolle i å forbedre nettbrukeropplevelsen.
- Implementer LangChain i nettapper for å lage dynamiske og responsive grensesnitt.
- Integrer API-er i nettapper for å forbedre interaktivitet og brukerengasjement.
- Optimaliser brukeropplevelsen ved å bruke LangChains avanserte tilpasningsfunksjoner.
- Analyser brukeratferdsdata for å finjustere nettappytelse og opplevelse.
Fine-Tuning and Customizing AI Models on Ollama
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot profesjonelle på avansert nivå som ønsker å finjustere og tilpasse AI-modeller på Ollama for forbedret ytelse og domenespesifikke applikasjoner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Sett opp et effektivt miljø for finjustering av AI-modeller på Ollama.
- Forbered datasett for overvåket finjustering og forsterkende læring.
- Optimaliser AI-modeller for ytelse, nøyaktighet og effektivitet.
- Distribuer tilpassede modeller i produksjonsmiljøer.
- Evaluere modellforbedringer og sikre robusthet.
LangChain: Building AI-Powered Applications
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot utviklere og programvareingeniører på mellomnivå som ønsker å bygge AI-drevne applikasjoner ved å bruke LangChain-rammeverket.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå det grunnleggende om LangChain og dets komponenter.
- Integrer LangChain med store språkmodeller (LLM) som GPT-4.
- Bygg modulære AI-applikasjoner ved å bruke LangChain.
- Feilsøk vanlige problemer i LangChain-applikasjoner.
Integrating LangChain with Cloud Services
14 timerDenne instruktørledede, direkteopplæringen i Norge (online eller på stedet) er rettet mot avanserte dataingeniører og DevOps fagfolk som ønsker å utnytte LangChain sine evner ved å integrere den med ulike skytjenester.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Integrer LangChain med store skyplattformer som AWS, Azure og Google Cloud.
- Bruk skybaserte APIer og tjenester for å forbedre LangChain-drevne applikasjoner.
- Skaler og distribuer samtaleagenter til skyen for sanntidsinteraksjon.
- Implementer beste praksis for overvåking og sikkerhet i skymiljøer.
LangChain for Data Analysis and Visualization
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot datafagfolk på middels nivå som ønsker å bruke LangChain til å forbedre sine dataanalyse- og visualiseringsevner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Automatiser datainnhenting og -rensing ved hjelp av LangChain.
- Gjennomfør avansert dataanalyse ved hjelp av Python og LangChain.
- Lag visualiseringer med Matplotlib og andre Python biblioteker integrert med LangChain.
- Utnytt LangChain for å generere naturlig språkinnsikt fra dataanalyse.
LangChain Fundamentals
14 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot utviklere på nybegynnernivå til mellomnivå og programvareingeniører som ønsker å lære kjernekonseptene og arkitekturen til LangChain og få praktiske ferdigheter for å bygge AI- drevne applikasjoner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Ta tak i de grunnleggende prinsippene til LangChain.
- Sett opp og konfigurer LangChain-miljøet.
- Forstå arkitekturen og hvordan LangChain samhandler med store språkmodeller (LLM).
- Utvikle enkle applikasjoner ved hjelp av LangChain.
Getting Started with Ollama: Running Local AI Models
7 timerDenne instruktørledede, live-opplæringen i Norge (online eller på stedet) er rettet mot nybegynnere som ønsker å installere, konfigurere og bruke Ollama for å kjøre AI-modeller på sine lokale maskiner.
Ved slutten av denne opplæringen vil deltakerne kunne:
- Forstå det grunnleggende ved Ollama og dets muligheter.
- Sett opp Ollama for å kjøre lokale AI-modeller.
- Distribuer og samhandle med LLM-er ved hjelp av Ollama.
- Optimaliser ytelse og ressursbruk for AI-arbeidsbelastninger.
- Utforsk brukstilfeller for lokal AI-distribusjon i ulike bransjer.