Curs de pregatire Modele de Limbaj Avansate (LLMs) pentru Sarcini NLP

Introducere în LLMs și AI Generativ

• Explorarea tehnicilor și modelelor
• Discutarea aplicațiilor și cazurilor de utilizare
• Identificarea provocărilor și limitărilor

Utilizarea LLMs pentru Sarcini NLU

• Analiză de sentimente
• Recunoașterea entităților denumite
• Extragerea relațiilor
• Parsare semantică

Utilizarea LLMs pentru Sarcini NLI

• Detectarea implicațiilor
• Detectarea contradicțiilor
• Detectarea parafrazelor

Utilizarea LLMs pentru Grafuri de Cunoștințe

• Extragerea faptelor și relațiilor din text
• Inferarea faptelor lipsă sau noi
• Utilizarea grafurilor de cunoștințe pentru sarcini ulterioare

Utilizarea LLMs pentru Raționament de Bun-Simț

• Generarea de explicații, ipoteze și scenarii plauzibile
• Utilizarea bazelor de cunoștințe și seturilor de date de bun-simț
• Evaluarea raționamentului de bun-simț

Utilizarea LLMs pentru Generarea Dialogurilor

• Generarea dialogurilor cu agenți conversaționali, roboți de chat și asistenți virtuali
• Gestionarea dialogurilor
• Utilizarea seturilor de date și metricilor pentru dialoguri

Utilizarea LLMs pentru Generarea Multimodală

• Generarea de imagini din text
• Generarea de text din imagini
• Generarea de videoclipuri din text sau imagini
• Generarea de audio din text
• Generarea de text din audio
• Generarea de modele 3D din text sau imagini

Utilizarea LLMs pentru Meta-Learning

• Adaptarea LLMs la noi domenii, sarcini sau limbi
• Învățarea din exemple few-shot sau zero-shot
• Utilizarea seturilor de date și framework-urilor de meta-learning și transfer learning

Utilizarea LLMs pentru Învățare Adversarială

• Apărarea LLMs împotriva atacurilor malitioase
• Detectarea și mitigarea părtinirilor și erorilor în LLMs
• Utilizarea seturilor de date și metodelor de învățare adversarială și robustețe

Evaluarea LLMs și AI Generativ

• Evaluarea calității și diversității conținutului
• Utilizarea metricilor precum inception score, distanța Fréchet inception și scorul BLEU
• Utilizarea metodelor de evaluare umană precum crowdsourcing și sondaje
• Utilizarea metodelor de evaluare adversarială precum testele Turing și discriminatoarele

Aplicarea Principiilor Etici pentru LLMs și AI Generativ

• Asigurarea corectitudinii și responsabilității
• Evitarea utilizării greșite și abuzului
• Respectarea drepturilor și confidențialității creatorilor și consumatorilor de conținut
• Promovarea creativității și colaborării dintre om și AI

Rezumat și Pași Următori