Schița de curs
Introducere în securitatea TinyML
- Provocări de securitate în sistemele ML cu resurse limitate
- Modele de amenințare pentru implementările TinyML
- Categorii de risc pentru aplicațiile de AI incorporate
Confidențialitatea datelor în Edge AI
- Considerații privind confidențialitatea pentru procesarea datelor pe dispozitiv
- Minimizarea expunerii și transferului de date
- Tehnici pentru gestionarea descentralizată a datelor
Atacuri adversare la modelele TinyML
- Amenințări de evaziune și otrăvire a modelelor
- Manipularea input-ului pe senzori incorporați
- Evaluarea vulnerabilităților în medii cu resurse limitate
Întărirea securității pentru ML încorporat
- Niveluri de protecție a firmware-ului și a hardware-ului
- Controle de acces și mecanisme de secure boot
- Bune practici pentru protejarea pipeline-urilor de inferență
Tehnici TinyML pentru păstrarea confidențialității
- Cuantificarea și considerații de design al modelului pentru confidențialitate
- Tehnici pentru anonimizarea pe dispozitiv
- Criptare ușoară și metode de calcul securizat
Implementare și întreținere securizată
- Provisioning securizat al dispozitivelor TinyML
- Actualizări OTA și strategii de aplicare a patch-urilor
- Monitorizare și răspuns la incidente la periferia rețelei
Testarea și validarea sistemelor TinyML securizate
- Cadre de testare pentru securitate și confidențialitate
- Simularea scenariorilor de atac reale
- Considerații privind validarea și conformitatea
Studii de caz și scenarii aplicate
- Eșecuri de securitate în ecosistemele de Edge AI
- Designul arhitecturilor TinyML reziliente
- Evaluarea compromisurilor între performanță și protecție
Rezumat și pași următori
Cerințe
- Înțelegerea arhitecturilor sistemelor incorporate
- Experiență cu workflow-urile de machine learning
- Cunoștințe fundamentale de cybersecurity
Audiență
- Analisti de securitate
- Dezvoltatori AI
- Ingineri în sisteme incorporate
Mărturii (3)
inventarul și identificarea diferitelor expuneri la risc în cadrul AI
Gary Cook - Cybersecurity and Information Technology Risk Division
Curs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Tradus de catre o masina
Mi-a plăcut foarte mult să învăț despre atacurile de IA și despre instrumentele disponibile pentru a începe să exersez și să le folosesc în mod activ pentru testarea securității. Am acumulat o mulțime de cunoștințe pe care nu le aveam la început, iar cursul a îndeplinit ceea ce speram. Partea mea preferată din training a fost Comet Browser și am fost uimit de ceea ce poate face. Cu siguranță este ceva ce voi explora mai mult. În general, a fost un curs excelent și m-am bucurat să învăț totul despre OWASP GenAI Top 10.
Patrick Collins - Optum
Curs - OWASP GenAI Security
Tradus de catre o masina
Cunoașterea profesională și modul în care ne-a prezentat-o
Miroslav Nachev - PUBLIC COURSE
Curs - Cybersecurity in AI Systems
Tradus de catre o masina
