Schița de curs
Fundamentele sistemelor agentic în producție
- Arhitecturi agentic: bucle, instrumente, memorie și strat de orchestrare
- Ciclul de viață al agenților: dezvoltare, deploy și operațiune continuă
- Provocările gestionării agenților la scară de producție
Infrastructură și modele de deployment
- Deploy-ul agenților în medii containerizate și cloud
- Module de scalare: scalare orizontală vs verticală, concurență și throttling
- Orchestrare multi-agent și echilibrarea workload-ului
Monitorizare și observabilitate
- Metrici cheie: latență, rată de succes, utilizare a memoriei și adâncimea apelurilor agenților
- Tracing activității agenților și grafurile de apeluri
- Instrumentarea observabilității utilizând Prometheus, OpenTelemetry și Grafana
Logging, auditare și conformitate
- Logging centralizat și colectarea structurată a evenimentelor
- Conformitate și auditabilitate în fluxurile de lucru agentic
- Proiectarea traseelor de audit și a mecanismelor de replay pentru debug
Tuning de performanță și optimizare a resurselor
- Reducerea overhead-ului de inferență și optimizarea ciclurilor de orchestrare agentic
- Cachare a modelului și embeddingeri lightweight pentru recuperare mai rapidă
- Teste de load și scenarii de stres pentru pipeline-uri AI
Controlul costurilor și guvernanță
- Înțelegerea factorilor de cost ai agenților: apeluri API, memorie, compute și integrări externe
- Urmărirea costurilor la nivel de agent și implementarea modelelor de chargeback
- Politici de automatizare pentru a preveni agent sprawl și consumul de resurse inactive
CI/CD și strategii de rollout pentru agenți
- Integrarea pipeline-urilor agentic în sisteme CI/CD
- Testare, versioning și strategii de rollback pentru actualizări iterative ale agenților
- Rollout-uri progresive și mecanisme de deployment sigur
Recuperare în caz de defecțiune și ingineria fiabilității
- Proiectare pentru toleranță la erori și degradare grațioasă
- Pattern-uri de retry, timeout și circuit breaker pentru fiabilitatea agenților
- Răspuns la incidente și framework-uri post-mortem pentru operațiuni AI
Proiectul Capstone
- Construiește și deploiază un sistem AI agentic cu monitorizare completă și urmărire a costurilor
- Simulează load-ul, măsoară performanța și optimizează utilizarea resurselor
- Prezintă arhitectura finală și dashboard-ul de monitorizare colegilor
Rezumate și pași următori
Cerințe
- Înțelegere solidă a MLOps și a sistemelor de machine learning în producție
- Experiență cu deployment-uri containerizate (Docker/Kubernetes)
- Familiaritate cu optimizarea costurilor în cloud și instrumente de observabilitate
Audiența țintă
- Inginerori MLOps
- Inginerori de Reliability (SRE)
- Manageri de inginerie care supraveghează infrastructura AI
Mărturii (3)
Trainerul este răbdător și foarte util. Cunoaște bine subiectul.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Curs - Agentic AI for Business Automation: Use Cases & Integration
Tradus de catre o masina
Bună amestec de cunoștințe și practică
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curs - Agentic AI for Enterprise Applications
Tradus de catre o masina
Mixul dintre teorie și practică, precum și al perspectivelor de nivel ridicat și de nivel scăzut
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curs - Autonomous Decision-Making with Agentic AI
Tradus de catre o masina
