Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Schița de curs
Landscape-ul amenințărilor în IA
- De ce securitatea IA este diferită: non-determinism, raționament opac, prompt-ul ca suprafață de atac
- Taxonomia atacurilor: atacuri la momentul antrenării vs. inferenței vs. lanțului de aprovizionare
- Modelul adversarului ML: cine atacă sistemele IA și de ce
OWASP Top 10 pentru Aplicațiile LLM
- Injectarea prompturilor: vectori de atac direcți și indirecti
- Prelucrarea nesigură a output-ului și falsificarea cererilor cross-plugin
- Otrăvirea datelor de antrenare și vulnerabilitățile lanțului de aprovizionare
- Denial of service pentru modele, divulgarea informațiilor sensibile și exces de agenție
- Lab practic: exploatarea fiecărei categorii OWASP împotriva unei aplicații de test
Red Teaming pentru Injectarea Prompturilor și Jailbreak
- Taxonomia tehnicilor de injectare: directă, indirectă, multi-rând și multi-modală
- Red-teaming automatizat cu Giskard, Garak și instrumente custom de fuzzing
- Clasificarea jailbreak-urilor și evaluarea defensivelor
- Criarea unui framework de red-team pentru testarea continuă a securității LLM
Atacuri la nivelul modelului și defensive
- Extragerea modelelor: furtul ponderilor și funcționalității modelului prin interogări API
- Inferența apartenenței: determinarea dacă datele au fost în setul de antrenare
- Example-uri adversariale: perturbări care păcălesc clasificatoarele și embedding-urile
- Otrăvirea datelor: coruperea datelor de antrenare pentru a induce backdoors sau a degrada performanța
Controale de securitate la input și output
- Sanitizarea input-ului dincolo de defensivele web tradiționale
- Filtrarea output-ului: toxicitate, scurgeri de date personale (PII), executarea de cod halucinat
- Gardurile de siguranță ca infrastructură de securitate: NeMo, Guardrails AI și politici custom
- Imposibilitatea structurată a output-ului ca frontieră de securitate
Securitatea lanțului de aprovizionare IA
- Proveniența modelului: verificarea autenticității și integrității modelelor
- Scanarea dependențelor pentru framework-urile ML și formatele modelelor
- Servirea securizată a modelelor: sandboxing, izolare de rețea și acces cu privilegii minime
- Veterea modelelor fine-tuned și comunitare pentru malware integrat
Securitatea operațională pentru sistemele IA
- Controlul accesului pentru endpoint-urile modelelor, stocările vectoriale și instrumentele de agenție
- Jurnale de audit pentru fiecare interacțiune cu modelul și decizie
- Răspuns la incidente pentru încălcări specifice IA: când chiar modelul este compromis
- Testarea continuă a securității în CI/CD pentru pipeline-urile ML
Construirea unui program de securitate IA
- Model de maturitate și roadmap pentru securitatea IA
- Integrarea securității IA în programele existente AppSec și cloud security
- Cadrul de guvernanță și reglementările emergente pentru sistemele IA
- Criarea și menținerea unui playbook organizațional de securitate IA
Cerințe
- Experiență în implementarea modelelor ML sau a aplicațiilor LLM în medii de producție.
- Cunoștințe despre conceptele de securitate, inclusiv autentificare, autorizare și modelarea amenințărilor.
- Competențe avansate în Python pentru exercițiile de testare adversarială.
Audiență țintă
- Ingineri de securitate care se extind pe suprafețele de amenințări IA/ML.
- Ingineri ML responsabili pentru siguranța și robustețea modelelor.
- Membrii echipelor de red team care adaugă sistemele IA în domeniul lor de testare.
14 Ore
