Schița de curs
Fundațiile implementării AI hibride
- Înțelegerea modelelor de deploy hibrid, cloud și edge
- Caracteristicile sarcinilor de lucru AI și constrângerile infrastructurii
- Alegerea topologiei de implementare potrivite
Containerizarea sarcinilor de lucru AI cu Docker
- Crearea de containere de inferență GPU și CPU
- Gestionarea imaginilor și registrelor sigure
- Implementarea mediilor reproducibile pentru AI
Implementarea serviciilor AI în medii cloud
- Executarea inferenței pe AWS, Azure și GCP prin Docker
- Punerea la dispoziție a computației cloud pentru servirea modelelor
- Sigurizarea endpoint-urilor AI bazate pe cloud
Tehnici de implementare Edge și On-Premise
- Executarea AI pe dispozitive IoT, gateway-uri și microsere
- Runtimi lightweight pentru medii edge
- Gestionarea conectivității intermitente și a persistenței locale
Rețea hibridă și conectivitate securizată
- Tunelare securizată între edge și cloud
- Certificate, secrete și acces bazat pe token-uri
- Ajustarea performanței pentru inferență cu latență redusă
Orchestrarea implementărilor AI distribuite
- Folosirea K3s, K8s sau orchestrării lightweight pentru configurații hibride
- Descoperirea serviciilor și programarea sarcinilor de lucru
- Automatizarea strategiilor de rollout multi-locație
Monitorizare și observabilitate în toate mediile
- Urmărirea performanței inferenței în diverse locații
- Jurnalizare centralizată pentru sistemele AI hibride
- Detectarea defecțiunilor și recuperare automată
Scalarea și optimizarea sistemelor AI hibride
- Scalaritatea clusterelor edge și a nodurilor cloud
- Optimizarea utilizării lățimii de bandă și a cache-ului
- Echilibrarea încărcărilor de computație între cloud și edge
Rezumat și pași următori
Cerințe
- O înțelegere a conceptelor de containerizare
- Experiență cu operațiuni la linia de comandă Linux
- Familiaritate cu fluxurile de lucru de implementare a modelelor AI
Audiența țintă
- Arhitecti de infrastructură
- Ingineri pentru Fiabilitatea Sitelor (SRE)
- Dezvoltatori edge și IoT
Mărturii (3)
Cum instrucționează formatorii cunoștințele cu atâta eficacitate
Vu Thoai Le - Reply Polska sp. z o. o.
Curs - Certified Kubernetes Administrator (CKA) - exam preparation
Tradus de catre o masina
instrutorul avea o mulțime de cunoștințe și răbdare de împărtășit cu noi
Bogdan Olaru
Curs - Introduction to Docker
Tradus de catre o masina
Cunoașterea și schimburile cu Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curs - Docker and Kubernetes
Tradus de catre o masina