Cursuri de pregatire Red Teaming AI Systems: Offensive Security for ML Models

Acest training live sub direcția instrucțuratorului în România (online sau pe local) este destinat liderilor intermediați ai enterprizei care doresc să înțeleagă cum să guverneze și să asigure sistemelor AI responsabil, în conformitate cu cadrele globale emergente precum Actul UE privind IA, GDPR, ISO/IEC 42001 și Ordinul Executiv al SUA privind IA.

La finalul acestui training, participanții vor putea:

• Să înțeleagă riscurile juridice, etice și regulate de utilizare a AI la nivelul departamentelor.
• Să interpreteze și să aplice cadrele majore de guvernanță AI (Actul UE privind IA, NIST AI RMF, ISO/IEC 42001).
• Să stabilească politici de securitate, audit și supraveghere pentru implementarea AI în entitatea de afaceri.
• Să dezvolte linii directoare de achiziționare și utilizare pentru sistemele AI terțe și interne.

Artificial Intelligence (AI) introducează noi dimensiuni ale riscurilor operaționale, provocări de guvernanță și expunere la cybersecuritate pentru agențiile și departamentele guvernamentale.

Acest instruire dirijată în timp real (online sau presenzial) se adresează profesionistilor IT și ai domeniului riscului din sectorul public cu experiență limitată în AI care doresc să înțeleagă cum să evalueze, monitorizeze și protejeze sistemele AI într-un context guvernamental sau regulatoriu.

La sfârșitul acestei instruire, participanții vor putea:

• Interpretarea conceptelor cheie de risc legate de sistemele AI, inclusiv biaza, neprevedibilitatea și deriva modelului.
• Aplicarea cadrelor guvernanței și a auditorilor specifice AI precum NIST AI RMF și ISO/IEC 42001.
• Recunoașterea amenințărilor de securitate cyber care își trag ținta modelurile AI și pipeline-urile de date.
• Estabilirea planurilor de management al riscului interdepartamental și al aliniarizării politicilor pentru punerea în aplicare a AI.

Format al cursului

• Curs interactiv și discuție despre cazuri de utilizare din sectorul public.
• Exerciții cu cadrele guvernanței AI și mapearea politicilor.
• Modelare a amenințărilor bazată pe scenarii și evaluarea riscurilor.

Opțiuni de personalizare ale cursului

• Pentru a solicita o instruire personalizată pentru acest curs, vă rugăm să vă punați în contact cu noi pentru a organiza.

Acest training dirijat de un instruire în România (online sau presencial) se adresează profesionistilor IT cu niveluri începător-intermediar care doresc să înțeleagă și implementeze AI TRiSM în organizațiile lor.

La sfârșitul acestui training, participanții vor putea:

• Înțelege conceptele cheie și importanța gestionării de încredere, riscuri și securitate în AI.
• Identifica și mitiga riscurile asociate cu sistemele AI.
• Implementa cele mai bune practici de securitate pentru AI.
• Înțelege conformitatea normativă și considerentele etice în domeniul AI.
• Dezvolta strategii pentru o gestionare eficientă a AI.

This instructor-led, live training in România (online or onsite) is aimed at intermediate-level to advanced-level AI developers, architects, and product managers who wish to identify and mitigate risks associated with LLM-powered applications, including prompt injection, data leakage, and unfiltered output, while incorporating security controls like input validation, human-in-the-loop oversight, and output guardrails.

By the end of this training, participants will be able to:

• Understand the core vulnerabilities of LLM-based systems.
• Apply secure design principles to LLM app architecture.
• Use tools such as Guardrails AI and LangChain for validation, filtering, and safety.
• Integrate techniques like sandboxing, red teaming, and human-in-the-loop review into production-grade pipelines.

Această formare live, guițată de instrucțurator (online sau presenzială), este destinată profesionistilor intermediari în domeniile Inteligenței Artificiale și cybersecurity care doresc să înțeleagă și să abordeze vulnerabilitățile specifice la securitatea modelelor și sistemelor AI, în mod special în industria financiară, guvernanța datelor și consultanța, cu o reglementare strictă.

La sfârșitul acestei forme, participanții vor putea:

• Înțelege tipurile de atacuri adversary care țintaie modelele AI și metodele pentru a le combate.
• Implementa tehnici de consolidațe ale modelului pentru a asigura pipeline-ul învățării automatizate.
• Asigura securitatea și integritatea datelor în modelele de învățare automatizată.
• Naviga cerințele de conformitate reglementară legate de securitatea AI.

Această formare live, condusă de un instrucțurator (în mod online sau presencial) este destinată profesionistilor la nivel începător în domeniul securității IT, riscurilor și conformității care doresc să înțeleagă conceptele fundamentale ale securității AI, vectorii de amenințare și cadrele globale precum NIST AI RMF și ISO/IEC 42001.

La sfârșitul acestei forme, participanții vor putea:

• Înțelege riscurile de securitate unice introduse de sistemele AI.
• Identifica vectorii de amenințare precum atacurile adversar, încetările datelor și inversarea modelului.
• Aplica modele de guvernanță fundamentale ca cadru NIST AI Risk Management.
• Aliniaza utilizarea AI cu standardele emergente, directivele de conformitate și principiile etice.

Acest training guițat în timp real (online sau pe locație) este destinat profesionistilor avansați care doresc să implementeze și să evaluateze tehnici precum învățarea federată, computarea multi-parti sigură, criptografia omomorfică și confidențialitatea diferențială în fluxurile de lucru ale inelului de învățare mașină din lumea reală.

La sfârșitul acestui training, participanții vor putea:

• Să înțeleagă și să compare principalele tehnici de protejare a confidențialității în ML.
• Să implementeze sisteme de învățare federată folosind cadre open-source.
• Să aplique confidențialitatea diferențială pentru împărțirea sigură a datelor și antrenarea modelelor.
• Să utilizeze tehnici de criptare și calcul sigur pentru a proteja intrările și iesirile modelului.

Acest training live, guvernați de un instrucțurator (în mod online sau presential) este destinat inginerilor și profesionalilor din domeniul securității cu cunoștințe intermediare care doresc să protejeze modelele AI depuse la marginea rețelei împotriva amenințărilor precum manipularea, pierderea datelor, intrările adverse și atacurile fizice.

La sfârșitul acestui training, participanții vor putea:

• Identifica și evalua riscurile de securitate în implementări AI la marginea rețelei.
• Aplica tehnici de rezistență la manipulare și inferențe criptate.
• Consolidarea modelelor depuse la margine și protejarea canalurilor de date.
• Implementa strategii de mitigare a amenințărilor specifice sistemelor embarcate și constrânse.

Acest training conducător în persoană (online sau pe locație) este destinat profesionistilor intermediari de învățare automată și cybersecurity care dorește să înțeleagă și să mitigeze amenințările emergente împotriva modelelor AI, folosind atât cadre conceptuale cât și apăruri practice precum antrenarea robustă și privacy-preserving.

La sfârșitul acestui training, participanții vor putea:

• Identifica și clasifica amenințările specifice AI precum atacurile adversarale, inversarea datelor și intoxicația.
• Utiliza instrumente precum Adversarial Robustness Toolbox (ART) pentru a simula atașamente și a testa modelele.
• Aplica apăruri practice, inclusiv antrenare adversară, încadrarea de zgomot și tehnici de prețuire a privacy.
• Con concepe strategii pentru evaluarea modelului în medii de producție, cu atenție la amenințări.