Intrati in legatura

Schița de curs

Fundațiile AI Local Securizat

  • Ce înseamnă AI local și on-prem în medii reglementate
  • AI bazat pe cloud versus implementare internă pentru sarcini sensibile
  • Cazuri de uz enterprise comune pentru asistenți privați și suport de flux de lucru
  • Componentele esențiale ale unei arhitecturi AI locale securizate

Fundațiile Ollama și ale Modelor Open Source

  • Cum se integrează Ollama într-un stack de dezvoltare local
  • Descărcarea, rularea și gestionarea modelelor local
  • Selecția modelelor în funcție de dimensiune, calitate, hardware și licență
  • Alinierea opțiunilor de modele la sarcini practice de business

Pregătirea Mediului On-Prem

  • Pregătirea gazdei, stației de lucru și serverelor
  • Instalarea și configurarea Ollama pentru inferență locală
  • Utilizarea containernelor și a instrumentelor interne de dezvoltare
  • Verificarea accesului API și a pregătirii operaționale de bază

Lucrarea eficientă cu modelele locale

  • Rularea prompt-urilor și formarea ieșirilor prin instrucțiuni sistem
  • Reutilizarea șablonelor pentru sarcini enterprise consistente
  • Gestionarea versiunilor de modele și a artifactelor interne
  • Otimizări de performanță de bază pentru implementările pe CPU și GPU

Construirea Fluxurilor de Lucru Agentic Practice

  • Ceea ce face un flux de lucru agentic într-un mediu controlat
  • Șabloane simple pentru planificare, utilizarea instrumentelor și buclele de răspuns
  • Proiectarea asistenților focalizați pe sarcini pentru operațiuni interne
  • Adăugarea revizuirii umane, logicii de fallback și gestionării erorilor

Fluxuri de Lucru Private de Recuperare (Retrieval)

  • Fundațiile generării augmentate prin recuperare pentru accesul intern la cunoștințe
  • Pregătirea documentelor pentru segmentare, indexare și căutare
  • Conectarea unui spațiu vectorial local la o aplicație bazată pe Ollama
  • Îmbunătățirea relevanței și a calității răspunsurilor prin modele de recuperare mai bune

Practici de Securitate, Guvernanță și Conformitate

  • Limitele gestionării datelor și considerente privind confidențialitatea
  • Controlul accesului, jurnalizarea și suportul pentru audit
  • Securitatea prompturilor, controalele ieșirii și gardurile de siguranță (guardrails)
  • Puncte de control ale guvernanței pentru implementarea și operarea în reglementări

Modele de Integrare Enterprise

  • Expunerea capacităților AI locale prin API-uri interne
  • Integrarea asistenților cu aplicațiile și serviciile interne
  • Suport pentru cazurile de uz: asistenți, batch și automatizare a fluxurilor de lucru
  • Păstrarea soluțiilor în interiorul limitelor rețelei controlate

Evaluarea Soluțiilor AI Locale

  • Evaluarea calității, fiabilității și consistenței
  • Testarea conform cerințelor de business, politică și siguranță
  • Compararea opțiunilor de modele pentru sarcini enterprise specifice
  • Stabilirea unui ciclu practic de îmbunătățire pentru echipele interne

Laborator de Implementare Practică

  • Construirea unui asistent privat cu Ollama și un model open source
  • Adăugarea recuperării peste documentele interne aprobate
  • Introducerea acțiunilor agentic simple și a controalelor de siguranță
  • Revizuirea implementării, operațiunilor și punctelor de control ale guvernanței

Planificarea Adoptării și Următorii Pași

  • Revisuirea deciziilor-cheie de design și implementare
  • Identificarea capcanelor comune în proiectele AI reglementate
  • Planificarea cazurilor de uz pilot și alinerea părților interesate
  • Definirea unei hărți pentru adoptarea securizată a AI local

Cerințe

  • Înțelegerea de bază a conceptelor AI și dezvoltării software
  • Conștientizare cu privire la instrumentele de linie de comandă, containerele sau mediile locale de dezvoltare
  • Experiență de bază în scriptare sau programare

Public țintă

  • Dezvoltatori și echipe tehnice care construiesc soluții AI private pe infrastructură internă
  • Profesioniști din domeniul securității, conformității și platformelor care susțin implementarea AI în medii reglementate
  • Lideri tehnici din sectorul financiar, sănătate, guvernamental și apărare, evaluând adoptarea AI on-prem
 21 Ore

Numărul de participanți


Pret per participant

Cursuri viitoare

Categorii înrudite