Schița de curs
Ziua 1
Anatomia unui Agent AI Modern
Dincolo de roboții de conversație, agenții ca sisteme autonome de raționare și acțiune
Paradigme ale agenților: reactivi, proactivi, hibrizi și orientați spre obiective
Componente esențiale: percepție, planificare, memorie, utilizare de unelte, acțiune
Compromisuri în proiectarea agenților unici versus multi-agenți
Cadre de Agenți și Stiva Modernă
LangChain, LlamaIndex, AutoGen, CrewAI și compromisurile lor
Comparație cu cadrele clasice precum JADE și SPADE
Alegerea unui cadru bazat pe cerințele de producție
Apelarea uneltelor, apelarea funcțiilor și ieșirile structurate
Practică: construirea unui agent Python simplu cu apeluri de unelte
Arhitecturi de Sisteme Multi-Agent
Designuri MAS centralizate, descentralizate, hibride și stratificate
FIPA ACL, transmiterea de mesaje și echivalente moderne
Modele de coordonare: planificare, negociere, sincronizare
Comportament emergent și auto-organizare în populațiile de agenți
Luarea Deciziilor și Învățarea în Agenți
Teoria jocurilor pentru interacțiuni cooperative și competitive ale agenților
Învățarea prin întărire în medii multi-agenți
Transferul de cunoștințe și partajarea lor între agenți
Rezolvarea conflictelor și încrederea între agenții coordonați
Ziua 2
Fundamente Multi-Modale pentru Agenți
IA multi-modală ca flux de lucru unificat pe text, imagini, vorbire și video
Modele multi-modale de top: GPT-4 Vision, Gemini, Claude, Whisper
Tehnici de fuziune pentru combinarea modalităților în bucla de raționare a unui agent
Compromisuri între latență, cost și acuratețe în fluxurile multi-modale
Construirea Stratului de Percepție
Prelucrarea imaginilor pentru agenți: clasificare, descrieri, detectare de obiecte
Recunoașterea vorbirii cu Whisper ASR și transcriere în flux
Sinteză text-vorbire și interacțiune vocală naturală
Conectarea ieșirilor de percepție la raționamentul bazat pe LLM și selectarea uneltelor
Practică - Construirea unui Agent Multi-Modal în Python
Definirea sarcinii agentului, ferestrei de context și inventarului de unelte
Conectarea API-urilor GPT-4 Vision și Whisper end-to-end
Implementarea gestionării memoriei, stării și conversației
Adăugarea apelurilor de unelte care produc efecte secundare în lumea reală în siguranță
Practică - Orchestrarea unui Sistem Multi-Agent
Compunerea agenților specializați cu AutoGen sau CrewAI
Definirea rolurilor, responsabilităților și protocoalelor de comunicare inter-agenți
Alocarea resurselor și coordonarea într-un mediu simulat
Înregistrarea raționamentului, apelurilor de unelte și deciziilor agenților pentru inspecție și audit
Ziua 3
Suprafața de Atac a Agenților AI de Producție
Ce face agenții AI unic vulnerabili comparativ cu software-ul tradițional
Suprafața de atac: straturi de date, model, prompt, unelte, ieșire și interfață
Modelarea amenințărilor pentru sistemele bazate pe agenți cu utilizare autonomă de unelte
Compararea practicilor de securitate cibernetică IA cu cele tradiționale
Atacuri Adversare - Practică
Exemple adverse și metode de perturbare: FGSM, PGD, DeepFool
Scenarii de atac white-box versus black-box
Atacuri de inversare a modelului și inferență de apartenență
Otrăvirea datelor și injecția de backdoor în timpul antrenării
Injecția de prompturi, jailbreaking și utilizarea greșită a uneltelor în agenții bazati pe LLM
Tehnici Defensive și Consolidarea Modelelor
Strategii de antrenament adversar și augmentare a datelor
Distilare defensivă și alte tehnici de robustețe
Preprocesarea intrărilor, mascarea gradientului și regularizarea
Confidențialitate diferențială, injecție de zgomot și bugete de confidențialitate
Învățarea federată și agregarea securizată pentru antrenament distribuit
Practică cu Adversarial Robustness Toolbox
Simularea atacurilor împotriva agentului multi-modal construit în Ziua 2
Măsurarea robusteței sub perturbare și cuantificarea degradării
Aplicarea defenselor iterativ și reevaluarea ratelor de succes ale atacurilor
Testarea la stres a căilor de apelare a uneltelor și vectorilor de injecție de prompturi
Ziua 4
Cadre de Management al Riscului pentru IA
Cadrul de Management al Riscului AI NIST: guvernare, mapare, măsurare, gestionare
ISO/IEC 42001 și standarde emergente specifice IA
Maparea riscului IA pe cadrele GRC enterprise existente
Cerințe de responsabilitate, auditabilitate și documentare pentru IA
Conformitatea Regulatorie pentru Sisteme Agentice
Regulamentul UE privind IA: niveluri de risc, utilizări interzise și obligații pentru sistemele de risc ridicat
Implicațiile GDPR și CCPA pentru fluxurile de date ale agenților
Ordonanța Executivă SUA privind IA Sigură, Securizată și De Încredere
Ghiduri specifice sectoarelor financiar, de sănătate și servicii publice
Riscul terților și utilizarea uneltelor AI de la furnizori
Etică, Părtinire și Explicabilitate
Detectarea și mitigarea părtinirii în percepția și raționamentul agenților
Explicabilitatea și transparența ca proprietăți relevante pentru securitate
Corectitudinea, prejudiciul ulterior și implementarea responsabilă
Proiectarea comportamentului agenților inclusiv și auditabil
Implementarea în Producție, Monitorizare și Răspuns la Incidente
Modele de implementare securizată pentru sisteme cu unul sau mai mulți agenți
Monitorizare continuă pentru drift, anomalii și abuz
Înregistrarea, urmele de audit și pregătirea forensică pentru acțiunile agenților
Planuri de răspuns la incidente de securitate AI și recuperare
Studii de caz ale breșelor IA din lumea reală și lecții învățate
Capstone și Sinteză
Revizuirea sistemului multi-modal multi-agent construit de-a lungul cursului
Revizuirea pipeline-ului end-to-end: proiectare, construire, securizare, guvernare, implementare
Auto-evaluare a sistemului în raport cu funcțiile NIST AI RMF
Perspective viitoare asupra tendințelor emergente în IA agentică și securitatea IA
Rezumat și Următorii Pași
Cerințe
Publicul țintă
Ingineri și arhitecți AI care construiesc sisteme agentice pentru utilizare în producție. Profesioniști în securitate cibernetică, risc și conformitate responsabili de asigurarea IA în industrii reglementate precum finanțe, sănătate și consultanță. Dezvoltatori seniori și lideri de soluții care integrează capacități multi-modale și multi-agent în platforme enterprise.
Mărturii (3)
Trainerul este răbdător și foarte util. Cunoaște bine subiectul.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Curs - Agentic AI for Business Automation: Use Cases & Integration
Tradus de catre o masina
Bună amestec de cunoștințe și practică
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curs - Agentic AI for Enterprise Applications
Tradus de catre o masina
Mixul dintre teorie și practică, precum și al perspectivelor de nivel ridicat și de nivel scăzut
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curs - Autonomous Decision-Making with Agentic AI
Tradus de catre o masina
