Schița de curs
Fundamentele Arhitecturii pentru Sisteme AI
- Straturi, limite și separarea responsabilităților
- Porturi și adaptatori aplicați componentelor AI
- Scenarii de atribute de calitate pentru funcționalitățile AI
- Înregistrările de decizii de arhitectură ca instrument de guvernanță
Evoluția unei Aplicații Existente
- Modernizare incrementală în loc de rewrite
- Plasarea serviciilor AI lângă un monolit existent
- Pattern-uri Strangler și anti-corruption layer
- Puncte de integrare pentru API-uri și date existente
Pattern-uri de Arhitectură pentru Integrarea LLM
- Gateway-ul de model ca limită de abstractizare
- Integrare sincronă, asincronă și streaming
- Fallback, degradare și failover între provideri
- Configurarea prompturilor și a modelelor ca active versionate
Contracte, API-uri și Schimbul de Date
- Schema de ieșire structurată și validare
- Idempotență, retry-uri și rate limiting
- Bugete de latență și orchestrare a timeout-urilor
- Costul per cerere ca constrângere de arhitectură
Arhitectura RAG Cap la Cap
- Pipeline de ingestie, chunking și embedding
- Etapările de indexare, recuperare, reranking și generare
- Plasarea recuperării față de serviciile aplicației
- Trade-off-uri și moduri de eșec la fiecare etapă
Baze de Date Vectoriale și Designul Recuperării
- Stocare vectorială gestionată versus self-hosted
- Căutare densă, sparse și hibridă
- Filtrare pe metadata și izolarea tenant-urilor
- Strategia de re-embedding atunci când modelele se schimbă
Calitatea Recuperării, Grounding și Evaluare
- Seturi de evaluare construite din query-uri reale
- Metrici de calitate pentru recuperare și răspunsuri
- Citare, grounding și limitarea halucinațiilor
- Bucle de feedback care actualizează indexul
Arhitecturile de Agenți
- Loop-ul agentului și invocarea instrumentelor
- Fluxuri de lucru deterministe versus planificatori autonomi
- Cazuri în care un agent este soluția greșită
- Delimitarea responsabilităților și a stării agentului
Sisteme Multi-Agenți și Orchestrare
- Topologii de supervisor și orchestrator
- Procoluri de handoff și contracte de mesagerie
- Memorie partajată și managementul contextului
- Comparația framework-urilor pe criterii arhitecturale
Comunicarea Serviciilor și Protocoale de Instrumente
- Coordinare bazată pe evenimente și cozi
- Expoziția instrumentelor prin protocoale standard
- Sagas, compensare și tranzacții de lungă durată
- Observabilitatea pe parcursul salturilor între servicii
Agenți AI în Fluxul de Lucru de Dezvoltare
- Agenți de codare în pipeline-ul de livrare
- Dezvoltare ghidată de specificații și gate-uri de review
- Generarea testelor și verificări automate de calitate
- Guardrail-uri care păstrează controlul arhitectural
Guvernanță și Calitate Software
- Design review pentru funcționalitățile AI
- Managementul schimbărilor de modele și prompturi
- Evaluarea regresiunii ca etapă în pipeline
- Proprietate, politici și căi de aprobare
Securitate, Confidențialitate și Guvernanța Datelor
- Injecția de prompturi și apărarea în profunzime
- Secrete, controlul accesului și principiul minimului privilegiu
- Rezidența datelor, datele personale și retenția
- Auditabilitatea și controlul human-in-the-loop
Scalabilitate, Costuri și Observabilitate
- Tracing pe lanțuri de agenți
- Telemetrie pentru tokeni și costuri
- Cachare și optimizarea latenței
- Niveluri de serviciu și răspuns la incidente pentru servicii AI
Capstone: Arhitectură pentru o Soluție Bază pe AI
- Vizuializări de context, componente și deployment
- Design pentru recuperare și orchestrare de agenți
- Plan de securitate, guvernanță și costuri
- Peer review, critică și roadmap de migrație
Cerințe
- Experiență în proiectarea și mentenanța sistemelor software de producție
- Cunoștințe practice despre REST API-uri și integrarea serviciilor
- Familiaritate cu bazele de date relaționale și modelarea datelor
- Expunere de bază la instrumente sau API-uri bazate pe LLM
Public
- Arhitecți software
- Lideri tehnici și ingineri seniori
- Managers de inginerie responsabili de deciziile de arhitectură
Mărturii (1)
Am dobândit cunoștințe despre biblioteca Streamlit din Python și cu siguranță voi încerca să o folosesc pentru a îmbunătăți aplicațiile din echipa mea, care sunt realizate în R Shiny.
Michal Maj - XL Catlin Services SE (AXA XL)
Curs - GitHub Copilot for Developers
Tradus de catre o masina