Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Schița de curs
Fundațiile AI Local Securizat
- Ce înseamnă AI local și on-prem în medii reglementate
- AI bazat pe cloud versus implementare internă pentru sarcini sensibile
- Cazuri de uz enterprise comune pentru asistenți privați și suport de flux de lucru
- Componentele esențiale ale unei arhitecturi AI locale securizate
Fundațiile Ollama și ale Modelor Open Source
- Cum se integrează Ollama într-un stack de dezvoltare local
- Descărcarea, rularea și gestionarea modelelor local
- Selecția modelelor în funcție de dimensiune, calitate, hardware și licență
- Alinierea opțiunilor de modele la sarcini practice de business
Pregătirea Mediului On-Prem
- Pregătirea gazdei, stației de lucru și serverelor
- Instalarea și configurarea Ollama pentru inferență locală
- Utilizarea containernelor și a instrumentelor interne de dezvoltare
- Verificarea accesului API și a pregătirii operaționale de bază
Lucrarea eficientă cu modelele locale
- Rularea prompt-urilor și formarea ieșirilor prin instrucțiuni sistem
- Reutilizarea șablonelor pentru sarcini enterprise consistente
- Gestionarea versiunilor de modele și a artifactelor interne
- Otimizări de performanță de bază pentru implementările pe CPU și GPU
Construirea Fluxurilor de Lucru Agentic Practice
- Ceea ce face un flux de lucru agentic într-un mediu controlat
- Șabloane simple pentru planificare, utilizarea instrumentelor și buclele de răspuns
- Proiectarea asistenților focalizați pe sarcini pentru operațiuni interne
- Adăugarea revizuirii umane, logicii de fallback și gestionării erorilor
Fluxuri de Lucru Private de Recuperare (Retrieval)
- Fundațiile generării augmentate prin recuperare pentru accesul intern la cunoștințe
- Pregătirea documentelor pentru segmentare, indexare și căutare
- Conectarea unui spațiu vectorial local la o aplicație bazată pe Ollama
- Îmbunătățirea relevanței și a calității răspunsurilor prin modele de recuperare mai bune
Practici de Securitate, Guvernanță și Conformitate
- Limitele gestionării datelor și considerente privind confidențialitatea
- Controlul accesului, jurnalizarea și suportul pentru audit
- Securitatea prompturilor, controalele ieșirii și gardurile de siguranță (guardrails)
- Puncte de control ale guvernanței pentru implementarea și operarea în reglementări
Modele de Integrare Enterprise
- Expunerea capacităților AI locale prin API-uri interne
- Integrarea asistenților cu aplicațiile și serviciile interne
- Suport pentru cazurile de uz: asistenți, batch și automatizare a fluxurilor de lucru
- Păstrarea soluțiilor în interiorul limitelor rețelei controlate
Evaluarea Soluțiilor AI Locale
- Evaluarea calității, fiabilității și consistenței
- Testarea conform cerințelor de business, politică și siguranță
- Compararea opțiunilor de modele pentru sarcini enterprise specifice
- Stabilirea unui ciclu practic de îmbunătățire pentru echipele interne
Laborator de Implementare Practică
- Construirea unui asistent privat cu Ollama și un model open source
- Adăugarea recuperării peste documentele interne aprobate
- Introducerea acțiunilor agentic simple și a controalelor de siguranță
- Revizuirea implementării, operațiunilor și punctelor de control ale guvernanței
Planificarea Adoptării și Următorii Pași
- Revisuirea deciziilor-cheie de design și implementare
- Identificarea capcanelor comune în proiectele AI reglementate
- Planificarea cazurilor de uz pilot și alinerea părților interesate
- Definirea unei hărți pentru adoptarea securizată a AI local
Cerințe
- Înțelegerea de bază a conceptelor AI și dezvoltării software
- Conștientizare cu privire la instrumentele de linie de comandă, containerele sau mediile locale de dezvoltare
- Experiență de bază în scriptare sau programare
Public țintă
- Dezvoltatori și echipe tehnice care construiesc soluții AI private pe infrastructură internă
- Profesioniști din domeniul securității, conformității și platformelor care susțin implementarea AI în medii reglementate
- Lideri tehnici din sectorul financiar, sănătate, guvernamental și apărare, evaluând adoptarea AI on-prem
21 Ore