Curs de pregatire Tehnici de Fine-Tuning Eficient din Punct de Vedere al Parametrilor (PEFT) pentru LLM-uri

Introducere în Fine-Tuningul Eficient din Punct de Vedere al Parametrilor (PEFT)

• Motivația și limitările fine-tuningului complet
• Prezentare generală a PEFT: obiective și beneficii
• Aplicații și cazuri de utilizare în industrie

LoRA (Low-Rank Adaptation)

• Conceptul și intuiția din spatele LoRA
• Implementarea LoRA folosind Hugging Face și PyTorch
• Hands-on: Ajustarea fină a unui model cu LoRA

Adapter Tuning

• Cum funcționează modulele adapter
• Integrarea cu modele bazate pe transformer
• Hands-on: Aplicarea Adapter Tuning pe un model transformer

Prefix Tuning

• Utilizarea prompturilor soft pentru fine-tuning
• Puncte forte și limitări comparativ cu LoRA și adaptere
• Hands-on: Prefix Tuning pe o sarcină de LLM

Evaluarea și compararea metodelor PEFT

• Metrici pentru evaluarea performanței și eficienței
• Compromisuri între viteza de antrenare, utilizarea memoriei și acuratețe
• Experimente de benchmarking și interpretarea rezultatelor

Implementarea modelelor ajustate fin

• Salvarea și încărcarea modelelor ajustate fin
• Considerații de deployment pentru modelele bazate pe PEFT
• Integrarea în aplicații și pipeline-uri

Bune practici și extensii

• Combinarea PEFT cu quantizarea și distillarea
• Utilizarea în contexte cu resurse reduse și multilingve
• Direcții viitoare și domenii active de cercetare