Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Schița de curs
Fundamentele AI Securizat Local
- Ce înseamnă AI local și on-prem în medii reglementate
- AI în cloud versus implementare internă pentru sarcini sensibile
- Cazuri de utilizare comune în întreprinderi pentru asistenți privați și suport de flux de lucru
- Componentele de bază ale unei arhitecturi AI securizate local
Bazele Ollama și Modelelor Open-Source
- Cum se integrează Ollama într-un stack de dezvoltare locală
- Extragerea, rularea și gestionarea modelelor local
- Alegerea modelelor în funcție de dimensiune, calitate, hardware și licență
- Potrivirea opțiunilor de modele la sarcini practice de business
Pregătirea Mediului On-Prem
- Pregătirea gazdelor, stațiilor de lucru și serverelor
- Instalarea și configurarea Ollama pentru inferență locală
- Utilizarea containerelor și a instrumentelor interne de dezvoltare
- Verificarea accesului la API și a pregătirii operaționale de bază
Lucrul Eficient cu Modele Locale
- Rularea prompturilor și modelarea ieșirilor cu instrucțiuni de sistem
- Reutilizarea șabloanelor pentru sarcini consistente în întreprinderi
- Gestionarea versiunilor modelelor și a artefactelor interne
- Optimizarea de bază a performanței pentru implementări CPU și GPU
Construirea Fluxurilor de Lucru Agentice Practice
- Ce face un flux de lucru agentic într-un mediu controlat
- Modele simple pentru planificare, utilizarea instrumentelor și bucle de răspuns
- Proiectarea asistenților axați pe sarcini pentru operațiuni interne
- Adăugarea revizuirii umane, a logicii de rezervă și a gestionării erorilor
Fluxuri de Lucru Private Bazate pe Recuperare
- Bazele generării augmentate prin recuperare pentru accesul la cunoștințe interne
- Pregătirea documentelor pentru fragmentare, indexare și căutare
- Conectarea unui depozit vectorial local la o aplicație bazată pe Ollama
- Îmbunătățirea relevanței și calității răspunsurilor cu modele de recuperare mai bune
Practici de Securitate, Guvernanță și Conformitate
- Limitele de gestionare a datelor și considerații de confidențialitate
- Controlul accesului, logarea și suportul de audit
- Siguranța prompturilor, controalele de ieșire și barierele de protecție
- Puncte de control de guvernanță pentru implementarea și operaționalizarea reglementată
Modele de Integrare în Întreprinderi
- Expunerea capacităților AI locale prin API-uri interne
- Integrarea asistenților cu aplicații și servicii interne
- Sprijinirea cazurilor de utilizare pentru asistenți, procese automate și fluxuri de lucru
- Menținerea soluțiilor în limitele rețelelor controlate
Evaluarea Soluțiilor AI Locale
- Evaluarea calității, fiabilității și consistenței
- Testarea în funcție de cerințele de business, politică și siguranță
- Compararea opțiunilor de modele pentru sarcini specifice de întreprindere
- Stabilirea unui ciclu practic de îmbunătățire pentru echipele interne
Laborator de Implementare Practică
- Construirea unui asistent privat cu Ollama și un model open-source
- Adăugarea recuperării pe baza documentelor interne aprobate
- Introducerea acțiunilor agentice simple și a controalelor de siguranță
- Revizuirea implementării, operațiunilor și punctelor de control de guvernanță
Planificarea Adoptării și Pașii Următori
- Revizuirea deciziilor cheie de proiectare și implementare
- Identificarea capcanelor comune în proiectele AI reglementate
- Planificarea cazurilor de utilizare pilot și alinierea stakeholderilor
- Definirea unei strategii pentru adoptarea securizată a AI local
Cerințe
- Înțelegere de bază a conceptelor de AI și dezvoltare de software
- Familiaritate cu instrumente de linie de comandă, containere sau medii de dezvoltare locală
- Experiență de bază în scripting sau programare
Public țintă
- Dezvoltatori și echipe tehnice care construiesc soluții AI private pe infrastructură internă
- Profesioniști în securitate, conformitate și platforme care sprijină AI în medii reglementate
- Lideri tehnici în finanțe, sănătate, guvern și apărare care evaluează adoptarea AI on-prem
21 Ore
