Schița de curs
Ziua 1
Anatomia unui Agent AI Modern
Dincolo de roboții de chat, agenții ca sisteme autonome de raționare și acțiune
Paradigme ale agenților: reactivi, proactivi, hibrizi și orientați spre obiective
Componente de bază: percepție, planificare, memorie, utilizare de instrumente, acțiune
Compromisuri de proiectare: agent unic versus multi-agent
Framework-uri pentru Agenți și Stiva Modernă
LangChain, LlamaIndex, AutoGen, CrewAI și compromisurile lor
Comparație cu framework-uri clasice precum JADE și SPADE
Alegerea unui framework bazat pe cerințe de producție
Apelarea de instrumente, apelarea de funcții și ieșiri structurate
Practică: construirea unui agent Python simplu cu apeluri de instrumente
Arhitecturi de Sisteme Multi-Agent
Proiectări MAS centralizate, descentralizate, hibride și stratificate
FIPA ACL, transmitere de mesaje și echivalente moderne
Modele de coordonare: planificare, negociere, sincronizare
Comportament emergent și auto-organizare în populații de agenți
Luarea Deciziilor și Învățarea în Agenți
Teoria jocurilor pentru interacțiuni cooperative și competitive între agenți
Învățare prin întărire în medii multi-agent
Transferul de învățare și partajarea de cunoștințe între agenți
Rezolvarea conflictelor și încrederea între agenți coordonați
Ziua 2
Bazele Multi-Modale pentru Agenți
AI multi-modală ca flux de lucru unificat pe text, imagine, vorbire și video
Modele multi-modale de top: GPT-4 Vision, Gemini, Claude, Whisper
Tehnici de fuziune pentru combinarea modalităților în bucla de raționare a agentului
Compromisuri de latență, cost și acuratețe în fluxurile multi-modale
Construirea Stratului de Percepție
Procesarea imaginilor pentru agenți: clasificare, descriere, detectare de obiecte
Recunoașterea vorbirii cu Whisper ASR și transcriere în flux
Sinteză text-în-vorbire și interacțiune vocală naturală
Conectarea ieșirilor de percepție la raționamentul bazat pe LLM și selectarea instrumentelor
Practică - Construirea unui Agent Multi-Modal în Python
Definirea sarcinii agentului, ferestrei de context și inventarului de instrumente
Conectarea API-urilor GPT-4 Vision și Whisper end-to-end
Implementarea memoriei, stării și gestionării conversațiilor
Adăugarea apelurilor de instrumente cu efecte secundare în lumea reală în siguranță
Practică - Orchestrarea unui Sistem Multi-Agent
Compunerea de agenți specializați cu AutoGen sau CrewAI
Definirea rolurilor, responsabilităților și protocoalelor de comunicare inter-agent
Alocarea resurselor și coordonarea într-un mediu simulat
Înregistrarea raționamentului, apelurilor de instrumente și deciziilor agenților pentru inspecție și audit
Ziua 3
Suprafața de Atac a Agenților AI de Producție
Ce face agenții AI unic vulnerabili comparativ cu software-ul tradițional
Suprafața de atac: straturi de date, model, prompt, instrument, ieșire și interfață
Modelarea amenințărilor pentru sisteme bazate pe agenți cu utilizare autonomă de instrumente
Compararea practicilor de securitate cibernetică AI cu cele tradiționale
Atacuri Adversare - Practică
Exemple adverse și metode de perturbare: FGSM, PGD, DeepFool
Scenarii de atac white-box versus black-box
Atacuri de inversare a modelului și inferență de apartenență
Înveninarea datelor și injecția de backdoor în timpul antrenării
Injecția de prompt, jailbreaking și utilizarea greșită a instrumentelor în agenții bazati pe LLM
Tehnici Defensive și Consolidarea Modelelor
Strategii de antrenament adversar și augmentare a datelor
Distilare defensivă și alte tehnici de robustețe
Preprocesarea intrărilor, mascarea gradientului și regularizarea
Confidențialitate diferențială, injecția de zgomot și bugete de confidențialitate
Învățare federată și agregare securizată pentru antrenament distribuit
Practică cu Adversarial Robustness Toolbox
Simularea atacurilor împotriva agentului multi-modal construit în Ziua 2
Măsurarea robusteții sub perturbare și cuantificarea degradării
Aplicarea defenselor iterativ și reevaluarea ratelor de succes ale atacurilor
Testarea intensivă a căilor de apelare a instrumentelor și vectorilor de injecție de prompt
Ziua 4
Framework-uri de Management al Riscului pentru AI
NIST AI Risk Management Framework: guvernare, mapare, măsurare, gestionare
ISO/IEC 42001 și standarde emergente specifice AI
Maparea riscului AI la framework-uri GRC enterprise existente
Cerințe de responsabilitate, auditabilitate și documentare pentru AI
Conformitate Regulatorie pentru Sisteme Agentice
Actul UE privind AI: niveluri de risc, utilizări interzise și obligații pentru sisteme de risc ridicat
Implicații GDPR și CCPA pentru fluxurile de date ale agenților
Ordonanța Executivă din SUA privind AI Sigur, Secur și de Încredere
Ghiduri specifice sectorului pentru finanțe, sănătate și servicii publice
Riscul terților și utilizarea instrumentelor AI de la furnizori
Etică, Părtinire și Explicabilitate
Detectarea și mitigarea părtinirii în percepția și raționamentul agentului
Explicabilitatea și transparența ca proprietăți relevante pentru securitate
Corectitudinea, prejudiciile ulterioare și implementarea responsabilă
Proiectarea unui comportament inclusiv și auditabil al agentului
Implementare în Producție, Monitorizare și Răspuns la Incidente
Modele de implementare sigură pentru sisteme cu unul sau mai mulți agenți
Monitorizare continuă pentru derivă, anomalii și abuz
Înregistrarea, urmele de audit și pregătirea forensică pentru acțiunile agenților
Playbook-uri de răspuns la incidente de securitate AI și recuperare
Studii de caz ale breșelor AI din lumea reală și lecții învățate
Capstone și Sinteză
Revizuirea sistemului multi-modal multi-agent construit pe parcursul cursului
Revizuirea pipeline-ului end-to-end: proiectare, construire, securizare, guvernare, implementare
Auto-evaluare a sistemului față de funcțiile NIST AI RMF
Perspective viitoare asupra tendințelor emergente în AI agentic și securitatea AI
Rezumat și Pași Următori
Cerințe
Publicul țintă
Ingineri și arhitecți AI care construiesc sisteme agentice pentru utilizare în producție. Profesioniști în securitate cibernetică, risc și conformitate responsabili de asigurarea AI în industrii reglementate precum finanțe, sănătate și consultanță. Dezvoltatori seniori și lideri de soluții care integrează capacități multi-modale și multi-agent în platforme enterprise.
Mărturii (3)
Trainerul este răbdător și foarte util. Cunoaște bine subiectul.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Curs - Agentic AI for Business Automation: Use Cases & Integration
Tradus de catre o masina
Bună amestec de cunoștințe și practică
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curs - Agentic AI for Enterprise Applications
Tradus de catre o masina
Mixul dintre teorie și practică, precum și al perspectivelor de nivel ridicat și de nivel scăzut
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curs - Autonomous Decision-Making with Agentic AI
Tradus de catre o masina
