Ta kontakt
 Varighet 7 timer

Kursplan

Fra tekstgenerering til typed beslutninger

  • Hva en beslutningsmodell returnerer
  • System én-beslutninger i forhold til resonans-LLMs
  • Kostnads- og forsinkelsesprofil for avgrensede beslutninger

Landskapet for åpenvektsbaserte beslutningsmodeller

  • Strands Decider 2B fra AWS Labs
  • JEV- og GEV-familier med åpne vekter
  • Pplx-Decider, Liquid D1 og Clef
  • Forskjeller i lisensiering og utlevering

Innsiden av en beslutningsmodell

  • LLM-torso uten språkmodellhode
  • Pekehode som skorer på kandidatalternativer
  • Hvor selvsikkerhetspoenget kommer fra

Kjøre dine første beslutninger

  • Lokal oppsett på CPU og forbrukergpu
  • Formulering av spørsmål og alternatsett
  • Å stille flere spørsmål i én passering
  • Terskler og fallback-opptreden

Å vurdere beslutningskvalitet

  • JevBench og beslutningstempe
  • Nøyaktighet i forhold til kalibrering
  • Brier-score og troverdighet av selvsikkerhet
  • Oppgaver der en beslutningsmodell er feil verktøy

Krav

  • Basisforståelse for store språkmodeller og prompt-baserte applikasjoner.
  • Venlighet med kommandolinjen og Python-skript.
  • Ingen erfaring med maskinlæringsopplæring kreves.

Målgruppe

  • AI-ingeniører som evaluerer beslutningsmodeller for agentarbeidsflyter
  • Programvareutviklere som erstatter LLM-kall med avgrensede beslutninger
  • Løsnings- og plattformarkitekter som designer agentarkitekturer
  • Techniske produktledere som vurderer alternativer for beslutningsmodeller

Antall deltakere


Pris per deltaker

Kommende kurs

Relaterte kategorier