Schița de curs
Fundamentele Implementării Hibride a AI
- Înțelegerea modelelor de implementare hibride, cloud și edge
- Caracteristicile sarcinilor AI și constrângerile infrastructurii
- Alegerea topologiei de implementare potrivite
Containerizarea Sarcinilor AI cu Docker
- Construirea containerelor de inferință GPU și CPU
- Gestionarea imaginilor sigure și a registriilor
- Implementarea mediilor reproducibile pentru AI
Implementarea Serviciilor AI în Medii Cloud
- Rularea inferinței pe AWS, Azure și GCP prin Docker
- Alocarea resurselor cloud pentru servirea modelelor
- Securizarea punctelor finale AI bazate pe cloud
Tehnici de Implementare Edge și On-Prem
- Rularea AI pe dispozitive IoT, gateways și microservers
- Medii de rulare ușoare pentru mediile edge
- Gestionarea conectivității intermittente și a persistenței locale
Rețele Hibride și Conectivitate Sigură
- Tunelarea sigură între edge și cloud
- Certificare, secrete și acces bazat pe token
- Optimizarea performanței pentru inferința cu latencie scăzută
Orchestarea Implementărilor AI Distribuite
- Utilizarea K3s, K8s sau orchestrare ușoară pentru setările hibride
- Descoperirea serviciilor și planificarea sarcinilor de lucru
- Automatizarea strategiilor de implementare multi-locatie
Monitorizarea și Observabilitatea în Medii Diverse
- Monitorizarea performanței inferinței în diferite locații
- Jurnalizare centralizată pentru sistemele hibride AI
- Detectarea eșecurilor și recuperarea automată
Scalarea și Optimizarea Sistemelor Hibride AI
- Scalarea clusterelor edge și nodurilor cloud
- Optimizarea utilizării bandei de frecvență și caching-ul
- Balansarea sarcinilor de calcul între cloud și edge
Rezumat și Următorii Pași
Cerințe
- Înțelegerea conceptelor containerizării
- Experiența cu operațiunile liniei de comandă Linux
- Familiaritatea cu fluxurile de lucru de implementare a modelelor AI
Audiență
- Arhitecți de infrastructură
- Ingineri de Fiabilitate a Site-ului (SREs)
- Dezvoltatori Edge și IoT
Mărturii (5)
OC este nou pentru noi și am învățat mult, iar laboratoarele au fost excelente
sharkey dollie
Curs - OpenShift 4 for Administrators
Tradus de catre o masina
Felicitări informative și la punct. Practică manuală (Note: There seems to be a minor typo in the original text, "pratice" instead of "practice". The translation provided corrects this to "practică" in Romanian.)
Gil Matias - FINEOS
Curs - Introduction to Docker
Tradus de catre o masina
Laboratoare și discuții tehnice.
Dinesh Panchal - AXA XL
Curs - Advanced Docker
Tradus de catre o masina
A oferit o bază solidă pentru Docker și Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Curs - Docker (introducing Kubernetes)
Tradus de catre o masina
M-am bucurat în principal de cunoștințele formatorului.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Curs - Docker, Kubernetes and OpenShift for Developers
Tradus de catre o masina