Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Schița de curs
Implementarea EXO Offline
- Utilizarea EXO_OFFLINE pentru a preveni accesul la internet în timpul execuției
- Încărcarea prealabilă a modelelor în EXO_MODELS_READ_ONLY_DIRS din oglinzi interne de încredere
- Verificarea integrității greutăților modelelor cu sume de control SHA-256 și fișiere de model semnate
- Rularea EXO în rețele aerisite fără dependențe de HuggingFace
Controlul accesului la Panoul de Control și API
- Instalarea și configurarea proxy-urilor inverse (nginx, Caddy) cu terminare TLS
- Implementarea controlului accesului bazat pe roluri pentru panoul de control EXO și API REST
- Utilizarea macOS keychain sau Linux pass pentru stocarea secretelor de autentificare API
- Restricționarea punctelor finale administrative la anumite intervale IP sursă
Izolarea Clusterelor și Securitatea Rețelei
- Segmentarea clusterelor EXO cu EXO_LIBP2P_NAMESPACE și VLAN-uri
- Configurarea firewall-urilor gazdă (macOS application firewall, iptables, nftables) pentru porturile EXO
- Prevenirea descoperirii neautorizate a dispozitivelor și injecției de noduri neautorizate
- Criptarea traficului libp2p între noduri atunci când RDMA nu este disponibil
Guvernanța și Proveniența Modelelor
- Construirea unui registru intern de modele cu liste de modele aprobate și metadate
- Etichetarea și versionarea greutăților cuantizate (4-bit, 8-bit) alături de punctele de control sursă
- Impune ca doar anumite repo-uri HuggingFace sau artefacte interne să fie încărcate
- Documentarea liniei de descendență a modelelor, termenilor de licență și politicilor de utilizare acceptabile
Înregistrarea Auditului și Conformitatea
- Configurarea înregistrării EXO pentru piste de audit imuabile (SIEM, stocare WORM)
- Corelarea jurnalelor de apeluri API cu identitatea utilizatorului și marca temporală
- Capturarea evenimentelor de creare, ștergere și cerere de inferență a modelelor
- Generarea de rapoarte periodice de conformitate pentru auditori interni și externi
Modelarea Amenințărilor și Răspunsul la Incidente
- Identificarea amenințărilor: exfiltrarea datelor prin ieșirile modelelor, injecția de prompturi, scurgerile pe canale laterale
- Implementarea monitorizării prompturilor și a conductelor de filtrare a conținutului
- Crearea de manuale de răspuns la incidente pentru scenarii de compromitere a clusterelor
- Izolarea nodurilor afectate, păstrarea jurnalelor forensice și reconstruirea mediilor curate
Securitatea Fizică și Limitele Hardware
- Securizarea porturilor Thunderbolt împotriva conexiunilor neautorizate de cablu RDMA
- Utilizarea enclavelor securizate și a atestării hardware Apple Silicon acolo unde este aplicabil
- Controlul accesului fizic la calculatoare Mac clusterizate și stocare partajată
- Documentarea ciclului de viață al hardware-ului și a procedurilor de dezafectare
Considerații Regulatorii
- Maparea implementărilor EXO la cerințele GDPR, HIPAA și SOC 2
- Menținerea rezidenței datelor prin păstrarea inferenței on-premise
- Documentarea riscurilor din lanțul de aprovizionare al furnizorilor (MLX, EXO, greutăți de modele)
- Pregătirea pentru cadre de guvernanță AI, cum ar fi Articolul 53 din Legea UE privind IA
Cerințe
- Experiență cu EXO sau alt runtime LLM local
- Înțelegere a permisiunilor sistemului de fișiere Unix și ACL-urilor de rețea
- Familiaritate cu gestionarea certificatelor TLS/SSL și noțiuni de bază de criptare
Publicul țintă
- Ingineri de securitate
- Ofițeri de conformitate
- Administratori de infrastructură AI care gestionează date sensibile
14 Ore
Mărturii (1)
Instructorul avea o cunoaștere excelentă a FortiGate și a prezentat conținutul foarte bine. Mulțumiri multe Soroush.
Colin Donohue - Technological University of the Shannon: Midlands Midwest
Curs - FortiGate 7.4 Administration
Tradus de catre o masina
