Ta kontakt

Kursplan

Grunnleggende for agentbaserte systemer i produksjon

  • Agentarkitekturer: loops, verktøy, minne og orkestreringslag
  • Agenter sine livssyklus: utvikling, utlevering og kontinuerlig drift
  • Utfordringer med produksjonssikrere agentforvaltning

Infrastruktur og utleveringsmodeller

  • Utlevering av agenter i container- og skymiljøer
  • Skalering-mønstre: horisontal mot vertikal skalering, konkurrenskapasitet og throttling
  • Orkestrering av mange agenter og arbeidslastbalanse

Overvåking og observabilitet

  • Nøkkeltall: latens, suksessrate, minnebruk og agentkalle-dybde
  • Sporing av agentaktivitet og kalle-grafer
  • Instrumentering for observabilitet ved hjelp av Prometheus, OpenTelemetry og Grafana

Logging, auditing og compliance

  • Centralisert logging og struktureret hendingssamling
  • Compliance og auditabilitet i agent-workflows
  • Design av audit-spor og replay-mekanismer for feilsøking

Ytelsesoptimering og ressursstyring

  • Redusert inferens-overskudd og optimalisert agentorkestrering
  • Model caching og lette embeddings for raskere henting
  • Lastetester og stress-tester for KI-rør

Kostnadskontroll og styring

  • Forståelse av agent-kostnadskilder: API-kall, minne, computing og eksterne integrasjoner
  • Sporing av agentkostnader og implementering av chargeback-modeller
  • Automatiserte policyer for å hindre «agent-sprede» og sløsing med ressurser

CI/CD og utleveringsstrategier for agenter

  • Integrasjon av agent-rør i CI/CD-systemer
  • Testing, versjonering og rollback-strategier for iterative agentoppdateringer
  • Gradvis utlevering og sikre utleveringsmekanismer

Feilgjenvinnelse og pålitelighet

  • Design for feiltoleranse og elegant degradering
  • Mønstre for retry, timeout og circuit breakers for agentpålitelighet
  • Incident response og postmortem-rammeverk for KI-drift

Capstone-prosjekt

  • Bygg og lever et agentbasert KI-system med full overvåking og kostnadssporing
  • Simuler last, mål ytelse og optimaliser ressursbruk
  • Presenter endelig arkitektur og overvåkingsdashboard for kollegaer

Oppsummering og neste steg

Krav

  • God forståelse for MLOps og produksjonssikre ML-systemer
  • Erfaring med containerbasert utlevering (Docker/Kubernetes)
  • Kjennskap til kostnadsoptimering i sky og observabilitetsverktøy

Målgruppe

  • MLOps-ingeniører
  • Site Reliability Engineers (SRE)
  • Engineers som skal forvalte KI-infrastruktur
 21 Timer

Antall deltakere


Pris per deltaker

Referanser (3)

Kommende kurs

Relaterte kategorier