Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Durata 21 ore
Schița de curs
Fundamente: Modele de amenințări pentru AI agentice
- Tipuri de amenințări agentice: abuz, escaladare, scurgere de date și riscuri în lanțul de aprovizionare (supply-chain)
- Profile de adversar și capacitățile atacatorilor specifice agenților autonomi
- Hărțuirea asset-urilor, a granițelor de încredere și a punctelor critice de control pentru agenți
Guvernanță, Politici și Gestionarea Riscurilor
- Cadre de guvernanță pentru sistemele agentice (roluri, responsabilități, gate-uri de aprobare)
- Designul politicilor: utilizare acceptabilă, reguli de escaladare, gestionarea datelor și auditabilitate
- Cerințe de compliance și colectarea de dovezi pentru audituri
Identitate non-umană și Autentificare pentru Agenți
- Designul identităților pentru agenți: conturi de serviciu, JWT-uri și credențiale cu durată scurtă de viață
- Pattern-uri de acces cu cele mai mici privilegii și credențiere just-in-time
- Ciclul de viață al identității, rotația, delegarea și strategiile de revocare
Controale de Acces, Secrete și Protecția Datelor
- Modele fine-grained de control al accesului și pattern-uri bazate pe capacități pentru agenți
- Gestionarea secretelor, criptarea în tranzit și în repaus, și minimizarea datelor
- Protectia surselor de cunoștințe sensibile și a PII de accesul neautorizat al agenților
Observabilitate, Audit și Răspuns la Incidente
- Designul telemetriei pentru comportamentul agenților: trasarea intenției, jurnalele comenzilor și proveniența
- Integrarea SIEM, praguri de alertă și gatarea forensică
- Runbooks și playbooks pentru incidentele legate de agenți și conținerea lor
Red-Teaming pentru Sisteme Agentice
- Planificarea exercițiilor red-team: scop, reguli de angajare și failover sigur
- Tehnici adversariale: injectare de prompt, abuz de instrumente, manipularea lanțului de gândire și abuz de API
- Executarea atacurilor controlate și măsurarea expunerii și impactului
Întărire (Hardening) și Mitigare
- Controale ingineristice: limitarea răspunsurilor (throttles), gate-uri pe capacități și sandboxing
- Controale de politică și orchestrare: fluxuri de aprobare, human-in-the-loop și hook-uri de guvernanță
- Defense la nivel de model și prompt: validarea input-urilor, canonicalizare și filtre de output
Operationalizarea Deploy-ment-urilor sigure de Agenți
- Pattern-uri de deployment: staging, canary și rollout progresiv pentru agenți
- Controlul schimbărilor, pipeline-uri de testare și verificări de siguranță pre-deploy
- Guvernanță cross-funcțională: playbooks pentru securitate, legal, produs și ops
Capstone: Exercițiu Red-Team / Blue-Team
- Executarea unui atac simulat red-team împotriva unui mediu sandbox-uit de agenți
- Apărare, detectare și remediere în calitate de blue team, folosind controale și telemetrie
- Prezentarea constatărilor, planului de remediere și actualizărilor de politică
Rezumat și Pași Următori
Cerințe
- Baze solide în ingineria de securitate, administrarea sistemelor sau operațiunile în cloud
- Familiaritate cu conceptele de AI/ML și comportamentul modelelor de limbaj mari (LLM)
- Experiență în Identity & Access Management (IAM) și proiectare de sisteme securizate
Publicație țintă
- INGENIERI DE SECURITATE ȘI RED-TEAMERS
- INGENIERI DE OPERAȚII AI ȘI PLATFORME
- OFIȚERI DE COMPLIANCE ȘI GESTIONERI DE RISC
- LEAD-URI DE INGINERIE RESPONSABILI DE DEPLOYMENT-URI DE AGENȚI
Mărturii (1)
inventarul și identificarea diferitelor expuneri la risc în cadrul AI
Gary Cook - Cybersecurity and Information Technology Risk Division
Curs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Tradus de catre o masina
