Intrati in legatura

Schița de curs

Arhitectura și Proiectarea Aplicațiilor LLM

  • Modele comune de aplicații OpenAI pentru asistenți, copiloți și automatizarea fluxurilor de lucru
  • Alegerea arhitecturii potrivite pentru cerințele de afaceri, fiabilitate și experiența utilizatorului
  • Trecerea de la codul prototip la proiectarea aplicațiilor întreținute

Prompturi, Context și Ieșiri Structurate

  • Structurarea instrucțiunilor sistemului, utilizatorului și dezvoltatorului pentru un comportament predictibil
  • Proiectarea prompturilor pentru consistență, control al sarcinilor și răspunsuri mai clare
  • Utilizarea ieșirilor structurate pentru a sprijini logica aplicațiilor downstream
  • Gestionarea ferestrelor de context, starea conversației și calitatea răspunsurilor

Utilizarea Uneltelor și Orchestrarea Fluxurilor de Lucru

  • Utilizarea apelurilor de funcții și a fluxurilor de lucru activate de unelte cu servicii externe
  • Validarea intrărilor și ieșirilor, gestionarea erorilor și aplicarea comportamentului de rezervă
  • Proiectarea fluxurilor în mai multe pași pentru sarcini practice de afaceri

Recuperarea și Încorporarea Cunoștințelor

  • Identificarea momentelor când generarea augmentată de recuperare este potrivită
  • Pregătirea documentelor și fragmentarea conținutului pentru o recuperare utilă
  • Recuperarea contextului relevant și încorporarea răspunsurilor în surse de încredere

Evaluare, Bariere de Siguranță și Pregătire Operațională

  • Definirea criteriilor de calitate și testarea fluxurilor de lucru împotriva rezultatelor așteptate
  • Reducerea halucinațiilor și gestionarea cererilor nesigure, irelevante sau ambigue
  • Monitorizarea utilizării, latenței, consumului de tokeni și costurilor
  • Pregătirea aplicațiilor pentru implementare, suport și îmbunătățire iterativă

Atelier Practic de Implementare

  • Construirea unei aplicații OpenAI mici de la un capăt la celălalt, care combină prompturi, ieșiri structurate, utilizarea uneltelor și recuperarea
  • Revizuirea deciziilor de proiectare, a problemelor comune și a pașilor practici următori pentru utilizarea în producție

Cerințe

  • Cunoștințe despre modelele de limbaj de mari dimensiuni și dezvoltarea de aplicații bazate pe API
  • Experiență în lucrul cu API-uri REST, JSON și fluxuri de lucru ale aplicațiilor bazate pe prompturi
  • Experiență intermediară de programare în Python, JavaScript sau un limbaj similar

Public țintă

  • Dezvoltatori de software care construiesc aplicații alimentate de LLM
  • Ingineri de AI și lideri tehnici care proiectează soluții bazate pe OpenAI
  • Echipe de produs și arhitecți de soluții responsabili de funcționalități AI de producție
 7 Ore

Numărul de participanți


Pret per participant

Cursuri viitoare

Categorii înrudite