Schița de curs
Ziua 1 – Fundamentele AI-ului generativ & ale LLM-urilor
Introducere în cazurile de utilizare ale AI-ului generativ și ale LLM-urilor
Înțelegerea modelelor bazate pe transformatoare (GPT, LLaMA, T5 etc.)
Tokeni, tokenizare și embeddings
Lucrul cu modele pre-antrenate prin API-uri (OpenAI, Claude)
Lucrul cu modele pre-antrenate prin Hugging Face
Fundamentele promptării: promptare zero-shot și few-shot
Parte practică: inginerie prompt într-un notebook Python
Construirea unei aplicații simple bazate pe LLM (CLI sau web)
Limite practice: tokeni, limite de rată și tehnici de bază de fiabilitate
Ziua 2 – RAG și căutarea vectorială
De ce RAG: combinarea LLM-urilor cu propriile date
Arhitectura RAG: ingerare, indexare, recuperare, generare
Pregătirea și divizarea documentelor pentru recuperare
Generarea de embeddings textuale cu API-uri sau Hugging Face
Introducere în stocările vectoriale (ex. Chroma, Pinecone)
Parte practică: construirea unui script de bază de căutare semantică
Parte practică: construirea unui sistem de întrebări și răspunsuri pe documente cu RAG
Scalarea ingerării și a embeddings-urilor (prezentare generală a fluxurilor de lucru cu date mari)
Compromisuri de proiectare în RAG: divizare, top-k, cost vs. calitate
Ziua 3 – Fluxuri de lucru, agenți și producție
Ce sunt agenții AI și când să îi folosiți
Introducere în LangGraph și fluxurile de lucru LLM bazate pe grafuri
Parte practică: construirea unui flux de lucru simplu cu LangGraph și instrumente
Adăugarea memoriei și a raționamentului multi-pas la fluxurile de lucru
Combinarea RAG și a agenților (RAG agentic)
Monitorizarea și evaluarea sistemelor LLM și RAG
Opțiuni de implementare pentru aplicații LLM (API-uri, containere, servicii)
Strategii de optimizare a costurilor și performanței
Siguranță de bază, ghidaje și utilizare responsabilă
Mini-proiect final: demonstrație completă a unei aplicații RAG/agent
Cerințe
Abilități solide de programare în Python și familiaritate cu API-urile.
Public țintă:
Acest curs este destinat organizațiilor care doresc să treacă de la experimentare la soluții reale bazate pe LLM. Este potrivit pentru ingineri software, backend și full-stack care integrează LLM-urile în produse și servicii; ingineri de date și machine learning care lucrează cu RAG, embeddings și căutare vectorială; arhitecți de soluții și enterprise care proiectează arhitecturi bazate pe LLM; precum și proprietari tehnici de produs și lideri de inginerie responsabili pentru evaluarea cazurilor de utilizare AI, costurilor și riscurilor.
Mărturii (2)
folosirea unor prompturi corecte și eficiente
Marses Pacaldo
Curs - Generative AI and Prompt Engineering for Corporate Professionals
Tradus de catre o masina
Stilul interactiv, exercițiile
Tamas Tutuntzisz
Curs - Introduction to Prompt Engineering
Tradus de catre o masina
