Kursplan
Dag 1
Anatomi til en moderne AI-agent
Ut-over chatbots, agenter som autonome systemer for rasjonering og handling
Reaktive, proaktive, hybrid og målrettede agentparadigmer
Komponenter: oppfattelse, planlegging, minne, verktøybruk, handling
Avveininger mellom enkelt-agent og multi-agent design
Agent-rammeverk og det moderne settet
LangChain, LlamaIndex, AutoGen, CrewAI og deres avveininger
Sammenligning med klassiske rammeverk som JADE og SPADE
Valg av rammeverk basert på produksjonskrav
Verktøyanrop, funksjonsanrop og strukturerte utdata
Praktisk: utforming av en enkelt Python-agent med verktøyanrop
Arkitektur for multi-agentsystemer
Sentraliserte, desentraliserte, hybrid og lagde MAS-design
FIPA ACL, meldingsutveksling og moderne tilsvarende
Koordinasjonsmønstre: planlegging, forhandling, synkronisering
Oppstått atferd og selvorganisering i agentpopulasjoner
Trening og læring i agenter
Spillteori for samspill mellom kooperative og konkurrerende agenter
Forsterkningslæring i multi-agentmiljøer
Overføring av læring og deling av kunnskap mellom agenter
Konfliktløsning og tillit mellom kooperative agenter
Dag 2
Flermodale grunnlag for agenter
Flermodale AI som en samlet arbeidsprosess for tekst, bilde, tale og video
Førende flermodale modeller: GPT-4 Vision, Gemini, Claude, Whisper
Fusjonsteknikker for å kombinere moduser inn i en agents rasjonsløykke
Avveininger mellom latens, kostnad og nøyaktighet i flermodale pipelines
Å bygge oppfattelseslaget
Bildebearbeiding for agenter: klassifisering, bildetekst, objektdeteksjon
Taleigenkjennelse med Whisper ASR og strømmande transkripsjon
Tekst-til-tale-syntese og naturlig taleinteraksjon
Kobling av oppfattelsesutdata til LLM-drevet rasjonering og verktøyvalg
Praktisk - Å bygge en flermodale agent i Python
Definering av agentens oppgave, kontekstvindu og verktøyinventar
Kobling av GPT-4 Vision og Whisper API-er fra ende til ende
Implementering av minne, tilstand og samtalehåndtering
Legger til verktøyanrop som produserer reelle bivirkninger på en trygg måte
Praktisk - Koordinering av et multi-agentsystem
Sammensetting av spesialiserte agenter med AutoGen eller CrewAI
Definering av roller, ansvarsområder og inter-agent kommunikasjonsprotokoller
Resursallokering og koordinering i et simulert miljø
Logger agentens rasjonering, verktøyanrop og beslutninger for inspeksjon og revisjon
Dag 3
Trusselflate for produksjons-AI-agenter
Hva gjør agents-AI unikt sårbart sammenlignet med tradisjonell programvare
Angrepsflate: data, modell, prompt, verktøy, utdata og grensesnittslag
Trusselmodellering for agentbaserte systemer med autonom verktøybruk
Sammenligning av AI-sikkerhetspraksis med tradisjonell kybernetsikkerhet
Praktisk med motvirkende angrep
Motvirkende eksempler og forstyrrelsesmetoder: FGSM, PGD, DeepFool
Hvite-boks versus svarte-boks angrepsscenarier
Modellinvertering og medlemsinfertingsangrep
Dataforgiftning og bakdøroverføring under trening
Prompt-injeksjon, gjennombrudd og misbruk av verktøy i LLM-baserte agenter
Forsvarsteknikker og modelhardtning
Motvirkende trening og dataaugmentering strategier
Forsvarsdistillering og andre robusthetsteknikker
Inndataforebehandling, gradientmaskering og regulering
Differensiell privatitet, støyinjeksjon og privatetsbudsjetter
Federert læring og sikker aggregering for distribuert trening
Praktisk med Verktøykassen for motstandsdyktighet mot motvirkende angrep
Simulering av angrep mot den flermodale agenten bygget på dag 2
Måling av robusthet under forstyrrelse og kvantifisering av degradasjon
Anvendelse av forsvar iterativt og evaluering av angrepssuksessrater på nytt
Stress testing av verktøyanropsveier og prompt-injeksjonsvektorer
Dag 4
Risikoerhåndteringsrammeverk for AI
NIST AI Risk Management Framework: styre, kartlegge, måle, håndtere
ISO/IEC 42001 og nye AI-spesifikke standarder
Kartlegging av AI-risiko til eksisterende bedriftens GRC-rammeverk
AI-ansvarlighet, reviderbarhet og dokumentasjonskrav
Regulatorisk compliance for agentsystemer
EUs AI-akt: risikonivåer, forbudte bruksområder og forpliktelser for høyrisiko systemer
GDPR og CCPA implikasjoner for agentdata pipelines
USAs Eksekutive orden om trygge, sikre og tillitvekkende AI
Sektorspesifikke retningslinjer for finans, helsevesen og offentlige tjenester
Tredjepart risiko og bruk av leverandørens AI-verktøy
Etiikk, bias og forklaringsevne
Bias-deteksjon og -reduksjon over agentens oppfattelse og rasjonering
Forklaringsevne og transparens som sikkerhetsrelevante egenskaper
Retferdighet, nedstrøms skade og ansvarlig utplassering
Design av inkluderende, reviserbare agentatferd
Produksjonsutplassering, overvåking og henvendelse ved hendelser
Sikre utplasseringsmønstre for enkelt- og multi-agentsystemer
Kontinuerlig overvåking av driv, anomalier og misbruk
Logging, revisjonsløper og forberedelse for etterforskning av agentatferd
Handlingsbøker for AI-sikkerhetshenvendelser og gjenoppretting
Case studies av virkelige AI-sikkerhetshendelser og lærdommer
Kapittel og syntese
Gjennomgang av det flermodale multi-agentsystemet bygget gjennom kurset
Gjennomgang av hele pipelines: design, bygge, sikre, styre, utplassere
Selv-evaluering av systemet mot NIST AI RMF-funksjoner
Fremtidsvisning på oppkommende trender i agents-AI og AI-sikkerhet
Oppsummering og neste steg
Krav
Målgruppe
AI-ingeniører og arkitekter som bygger agentsystemer for produksjonsbruk. Fagfolk innen kybernetisk sikkerhet, risiko og compliance som er ansvarlige for AI-garantier i regulerte industrier som finans, helsevesen og konsulentselskaper. Erfarne utviklere og løsningssjefer som integrerer flermodale og multi-agentfunksjoner inn i bedriftsplattformer.
Referanser (3)
Instruktøren er tålmodig og svært hjelpsom. Han kjenner emnet godt.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Kurs - Agentic AI for Business Automation: Use Cases & Integration
Maskinoversatt
God blanding av kunnskap og praksis
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurs - Agentic AI for Enterprise Applications
Maskinoversatt
Blandingen av teori og praksis, samt perspektiver på både høy nivå og lav nivå
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurs - Autonomous Decision-Making with Agentic AI
Maskinoversatt
