Schița de curs
Ziua 1 – Fundamentele AI-ului generativ & ale LLM-urilor
Introducere în cazurile de utilizare ale AI-ului generativ și ale LLM-urilor
Înțelegerea modelelor bazate pe transformatoare (GPT, LLaMA, T5 etc.)
Tokeni, tokenizare și embeddings
Lucrul cu modele pre-antrenate prin API-uri (OpenAI, Claude)
Lucrul cu modele pre-antrenate prin Hugging Face
Fundamentele promptării: promptare zero-shot și few-shot
Parte practică: inginerie prompt într-un notebook Python
Construirea unei aplicații simple bazate pe LLM (CLI sau web)
Limite practice: tokeni, limite de rată și tehnici de bază de fiabilitate
Ziua 2 – RAG și căutarea vectorială
De ce RAG: combinarea LLM-urilor cu propriile date
Arhitectura RAG: ingerare, indexare, recuperare, generare
Pregătirea și divizarea documentelor pentru recuperare
Generarea de embeddings textuale cu API-uri sau Hugging Face
Introducere în stocările vectoriale (ex. Chroma, Pinecone)
Parte practică: construirea unui script de bază de căutare semantică
Parte practică: construirea unui sistem de întrebări și răspunsuri pe documente cu RAG
Scalarea ingerării și a embeddings-urilor (prezentare generală a fluxurilor de lucru cu date mari)
Compromisuri de proiectare în RAG: divizare, top-k, cost vs. calitate
Ziua 3 – Fluxuri de lucru, agenți și producție
Ce sunt agenții AI și când să îi folosiți
Introducere în LangGraph și fluxurile de lucru LLM bazate pe grafuri
Parte practică: construirea unui flux de lucru simplu cu LangGraph și instrumente
Adăugarea memoriei și a raționamentului multi-pas la fluxurile de lucru
Combinarea RAG și a agenților (RAG agentic)
Monitorizarea și evaluarea sistemelor LLM și RAG
Opțiuni de implementare pentru aplicații LLM (API-uri, containere, servicii)
Strategii de optimizare a costurilor și performanței
Siguranță de bază, ghidaje și utilizare responsabilă
Mini-proiect final: demonstrație completă a unei aplicații RAG/agent
Cerințe
Abilități solide de programare în Python și familiaritate cu API-urile.
Public țintă:
Acest curs este destinat organizațiilor care doresc să treacă de la experimentare la soluții reale bazate pe LLM. Este potrivit pentru ingineri software, backend și full-stack care integrează LLM-urile în produse și servicii; ingineri de date și machine learning care lucrează cu RAG, embeddings și căutare vectorială; arhitecți de soluții și enterprise care proiectează arhitecturi bazate pe LLM; precum și proprietari tehnici de produs și lideri de inginerie responsabili pentru evaluarea cazurilor de utilizare AI, costurilor și riscurilor.
Mărturii (3)
Detalii complete despre context; cum să creezi un prompt.
Olaf Kannt - Helios Klinikum Krefeld
Curs - Generative AI and Prompt Engineering in Healthcare
Tradus de catre o masina
sfaturile și prompturile recomandate pe care le putem pune în practică în urma acestui training
Lee Mei Lin - ST Engineering IHQ Pte Ltd
Curs - InVideo AI: Creating Engaging Short-Form Videos
Tradus de catre o masina
folosirea unor prompturi corecte și eficiente
Marses Pacaldo
Curs - Generative AI and Prompt Engineering for Corporate Professionals
Tradus de catre o masina
