Schița de curs

Fundamentele AI Sigur și Echitabil

  • Concepte cheie: siguranță, bias, echitate, transparență
  • Tipuri de bias: din setul de date, de reprezentare, algoritmic
  • Prezentare generală a cadrelor de reglementare (Actul UE privind IA, GDPR, etc.)

Bias în Modelele Fine-Tuned

  • Cum fine-tuning-ul poate introduce sau amplifica bias-ul
  • Studii de caz și eșecuri din lumea reală
  • Identificarea bias-ului în seturile de date și predicțiile modelului

Tehnici de Mitigare a Bias-ului

  • Strategii la nivel de date (rebalansare, augmentare)
  • Strategii în timpul antrenamentului (regularizare, debiasing adversarial)
  • Strategii post-procesare (filtrarea ieșirilor, calibrare)

Siguranța și Robustetea Modelului

  • Detectarea ieșirilor nesigure sau dăunătoare
  • Gestionarea input-urilor adverse
  • Red teaming și testarea sub presiune a modelelor fine-tuned

Auditarea și Monitorizarea Sistemelor AI

  • Metrici de evaluare a bias-ului și echității (de ex., paritate demografică)
  • Instrumente de explicabilitate și cadre de transparență
  • Practici de monitorizare și guvernanță continuă

Instrumente și Practică Hands-On

  • Utilizarea bibliotecilor open-source (de ex., Fairlearn, Transformers, CheckList)
  • Hands-on: Detectarea și mitigarea bias-ului într-un model fine-tuned
  • Generarea de ieșiri sigure prin designul prompt-urilor și constrângeri

Cazuri de Utilizare în Medii Enterprise și Pregătirea pentru Conformitate

  • Cele mai bune practici pentru integrarea siguranței în fluxurile de lucru LLM
  • Documentație și fișe de model pentru conformitate
  • Pregătirea pentru audituri și revizii externe

Rezumat și Pași Următori

Cerințe

  • Cunoștințe despre modelele de învățare automată și procesele de antrenament
  • Experiență în lucrul cu fine-tuning și LLM-uri
  • Familiaritate cu Python și concepte de NLP

Publicul țintă

  • Echipe de conformitate AI
  • Ingineri de ML
 14 Ore

Numărul de participanți


Pret per participant

Cursuri viitoare

Categorii înrudite