Schița de curs

Introducere în Generarea Augmentată prin Recuperare (RAG)

  • Ce este RAG și de ce este important pentru IA de întreprindere
  • Componentele unui sistem RAG: recuperator, generator, depozit de documente
  • Comparație cu LLM-uri standalone și căutare vectorială

Configurarea unui Pipeline RAG

  • Instalarea și configurarea Haystack sau a unor framework-uri similare
  • Ingestionarea și preprocesarea documentelor
  • Conectarea recuperatoarelor la baze de date vectoriale (de ex., FAISS, Pinecone)

Fine-Tuning al Recuperatorului

  • Antrenarea recuperatoarelor dense folosind date specifice domeniului
  • Utilizarea transformatoarelor de propoziții și învățare contrastivă
  • Evaluarea calității recuperatorului cu acuratețe top-k

Fine-Tuning al Generatorului

  • Selectarea modelelor de bază (de ex., BART, T5, FLAN-T5)
  • Instrucțiune de ajustare vs. fine-tuning supervizat
  • Metode LoRA și PEFT pentru actualizări eficiente

Evaluare și Optimizare

  • Metrici pentru evaluarea performanței RAG (de ex., BLEU, EM, F1)
  • Latență, calitate a recuperării și reducerea halucinațiilor
  • Urmărirea experimentelor și îmbunătățirea iterativă

Implementare și Integrare în Lumea Reală

  • Implementarea RAG în motoare de căutare interne și chatbot-uri
  • Considerații de securitate, acces la date și guvernanță
  • Integrare cu API-uri, tablouri de bord sau portaluri de cunoștințe

Studii de Caz și Bune Practici

  • Cazuri de utilizare în întreprinderi din domeniile financiar, sănătate și juridic
  • Gestionarea derivării domeniului și actualizării bazelor de cunoștințe
  • Direcții viitoare în sistemele LLM augmentate prin recuperare

Rezumat și Pași Următori

Cerințe

  • O înțelegere a conceptelor de procesare a limbajului natural (NLP)
  • Experiență cu modele lingvistice bazate pe transformere
  • Familiaritate cu Python și fluxuri de lucru de bază în învățarea automată

Public țintă

  • Ingineri NLP
  • Echipe de management al cunoștințelor
 14 Ore

Numărul de participanți


Pret per participant

Cursuri viitoare

Categorii înrudite