Curs de pregatire Ajustarea Fină a Modelelor și a Modelelor de Limbaj de Mare Amploare (LLMs)

Introducere în Ajustarea Fină

• Ce este ajustarea fină?
• Cazuri de utilizare și beneficii ale ajustării fine
• Prezentare generală a modelelor pre-antrenate și a învățării prin transfer

Pregătirea pentru Ajustarea Fină

• Colectarea și curățarea seturilor de date
• Înțelegerea cerințelor specifice ale datelor
• Analiza exploratorie a datelor și preprocesarea

Tehnici de Ajustare Fină

• Învățarea prin transfer și extragerea de caracteristici
• Ajustarea fină a transformatoarelor cu Hugging Face
• Ajustarea fină pentru sarcini supervizate vs nesupervizate

Ajustarea Fină a Modelelor de Limbaj de Mare Amploare (LLMs)

• Adaptarea LLMs pentru sarcini NLP (de ex., clasificare de text, rezumare)
• Antrenarea LLMs cu seturi de date personalizate
• Controlul comportamentului LLMs prin inginerie de prompt

Optimizare și Evaluare

• Reglarea hiperparametrilor
• Evaluarea performanței modelului
• Abordarea supraantrenării și subantrenării

Scalarea Eforturilor de Ajustare Fină

• Ajustarea fină pe sisteme distribuite
• Utilizarea soluțiilor bazate pe cloud pentru scalabilitate
• Studii de caz: Proiecte de ajustare fină la scară mare

Cele Mai Bune Practici și Provocări

• Cele mai bune practici pentru succesul ajustării fine
• Provocări comune și depanare
• Considerații etice în ajustarea modelelor AI

Subiecte Avansate (Opțional)

• Ajustarea fină a modelelor multi-modale
• Învățare zero-shot și few-shot
• Explorarea tehnicilor LoRA (Low-Rank Adaptation)

Rezumat și Pași Următori