Curs de pregatire Spring AI

1. Introducere în Spring AI

• Creația și configurarea proiectului
• Rolul promptului și trimiterea acestuia
• Scrierea unui prim test
• Alegerea unui model
• Configurarea modelului
• Previzualizarea capacităților Spring AI

2. Înțelegerea răspunsurilor

• Cum să verifici răspunsurile relevante
• Acuratețea la runtime

3. Detaliile promptului

• Folosirea template-urilor de prompt
• Definirea unui nou template de prompt
• Înțelegerea contextului
• Rolul promptului și importanța acestuia
• Influențarea generării răspunsului folosind opțiuni
• Streaming și formatarea output-ului
• Metadata în răspuns

4. Utilizarea datelor și documentelor tale

• Înțelegerea RAG (Retrieval-Augmented Generation)
• Setarea vector store-ului și încărcarea documentelor
• O primă implementare RAG
• RAG folosind un advisor
• Capacități modulare RAG

5. Rolul memoriei în AI

• De ce avem nevoie de memorie
• Adăugarea și configurarea memoriei pentru a susține conversația
• ID-ul conversației
• Suport pentru memorie persistentă
• Stocarea memoriei chat în vector store

6. Tooluri AI

• Aplicații cu tooluri activate
• Înțelegerea capacităților toolurilor
• Scrierea și punerea toolului în funcțiune
• Funcții ca tooluri

7. Model Context Protocol (MCP)

• De ce avem nevoie de MCP?
• Lucrul cu un MCP Client
• Scrierea MCP Server-ului
• Baza de date și tooluri pentru MCP Server
• Înțelegerea transportului HTTP și SSE (Server-Sent Events)
• Expunerea promptului și resurselor

8. Monitorizarea operațiunilor

• Activarea metrick-urilor actuator
• Verificarea operațiunilor vector store
• Analiza interacțiunii cu modelul
• Numărarea tokenurilor
• Punerea totul în Prometheus și crearea unui dashboard
• Tracing al operațiunilor AI

9. Securitate și protecție în generativ AI

• Controlul documentelor accesate prin RAG
• Securizarea toolurilor
• Combaterea prompting-ului adversarial
• Moderarea input-ului utilizatorului

10. Modele comune de generativ AI

• Rezumarea conținutului
• Traducerea mesajelor
• Analiza sentimentului

11. Rolul agenților

• Ce este un agent
• Implementarea workflow-urilor agentic
• Lanțul de prompturi, routing-ul taskurilor și paralelizarea
• Accesul agentului prin MCP