Schița de curs
Fundamentele Implementării Hibride a AI
- Înțelegerea modelelor de implementare hibridă, cloud și edge
- Caracteristicile sarcinilor AI și constrângerile infrastructurii
- Alegerea topologiei de implementare potrivite
Containerizarea Sarcinilor AI cu Docker
- Construirea containerelor de inferență pentru GPU și CPU
- Gestionarea imaginilor și registrelor securizate
- Implementarea de medii reproducibile pentru AI
Implementarea Serviciilor AI în Medii de Cloud
- Rularea inferenței pe AWS, Azure și GCP prin Docker
- Aprovizionarea resurselor de calcul în cloud pentru servirea modelelor
- Securizarea punctelor finale AI bazate pe cloud
Tehnici de Implementare Edge și On-Prem
- Rularea AI pe dispozitive IoT, gateway-uri și microservere
- Runtimes ușoare pentru medii edge
- Gestionarea conectivității intermitente și a persistenței locale
Rețele Hibride și Conectivitate Securizată
- Tuneluri securizate între edge și cloud
- Certificate, secrete și acces bazat pe token
- Optimizarea performanței pentru inferență cu latență scăzută
Orchestrarea Implementărilor Distribuite AI
- Utilizarea K3s, K8s sau a orchestrării ușoare pentru configurații hibride
- Descoperirea serviciilor și planificarea sarcinilor
- Automatizarea strategiilor de implementare în multiple locații
Monitorizare și Observabilitate în Medii Diverse
- Urmărirea performanței inferenței în diferite locații
- Logare centralizată pentru sisteme AI hibride
- Detecția defecțiunilor și recuperarea automată
Scalarea și Optimizarea Sistemelor Hibride AI
- Scalarea clusterelor edge și a nodurilor de cloud
- Optimizarea utilizării lățimii de bandă și a caching-ului
- Echilibrarea încărcăturii de calcul între cloud și edge
Rezumat și Pași Următori
Cerințe
- Înțelegerea conceptelor de containerizare
- Experiență cu operațiuni pe linia de comandă Linux
- Familiaritate cu fluxurile de lucru de implementare a modelelor AI
Publicul țintă
- Arhitecți de infrastructură
- Ingineri de Fiabilitate a Site-urilor (SREs)
- Dezvoltatori Edge și IoT
Mărturii (3)
Cum instrucționează formatorii cunoștințele cu atâta eficacitate
Vu Thoai Le - Reply Polska sp. z o. o.
Curs - Certified Kubernetes Administrator (CKA) - exam preparation
Tradus de catre o masina
instrutorul avea o mulțime de cunoștințe și răbdare de împărtășit cu noi
Bogdan Olaru
Curs - Introduction to Docker
Tradus de catre o masina
Cunoașterea și schimburile cu Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curs - Docker and Kubernetes
Tradus de catre o masina