Schița de curs
Introducere în containerizarea accelerată prin GPU
- Înțelegerea utilizării GPU în fluxurile de lucru de deep learning
- Cum Docker susține sarcinile bazate pe GPU
- Considerații cheie privind performanța
Instalarea și configurarea NVIDIA Container Toolkit
- Setarea driverelor și compatibilitatea CUDA
- Validarea accesului GPU în contenery
- Configurarea mediului de runtime
Construirea de imagini Docker activate prin GPU
- Folosirea imaginilor de bază CUDA
- Empachetarea framework-urilor AI în contenery pregătite pentru GPU
- Managementul dependențelor pentru training și inferență
Rularea de sarcini AI accelerate prin GPU
- Executarea job-urilor de training folosind GPU-uri
- Managementul sarcinilor multi-GPU
- Monitorizarea utilizării GPU
Optimizarea performanței și alocarea resurselor
- Limitarea și izolarea resurselor GPU
- Optimizarea memoriei, a mărimii batch-urilor și a plasamentului pe dispozitive
- Ajustarea performanței și diagnosticarea
Inferența în contenery și servirea modelelor
- Construirea contenery-urilor pregătite pentru inferență
- Servirea sarcinilor cu încărcare ridicată pe GPU-uri
- Integrarea model runners și a API-urilor
Scalarea sarcinilor GPU cu Docker
- Strategii pentru training distribuit pe GPU
- Scalarea microserviciilor de inferență
- Coordonarea sistemelor AI multi-contenery
Securitatea și fiabilitatea pentru contenery activate prin GPU
- Asigurarea accesului sigur la GPU în medii partajate
- Întărirea imaginilor de contenery
- Managementul actualizărilor, al versiunilor și al compatibilității
Rezumat și pași următori
Cerințe
- Înțelegerea fundamentelor de deep learning
- Experiență cu Python și cu framework-uri AI comune
- Familiaritate cu conceptele de bază ale containerizării
Publicul țintă
- Ingineri de deep learning
- Echipe de cercetare și dezvoltare
- Traineri de modele AI
Mărturii (3)
Cum instrucționează formatorii cunoștințele cu atâta eficacitate
Vu Thoai Le - Reply Polska sp. z o. o.
Curs - Certified Kubernetes Administrator (CKA) - exam preparation
Tradus de catre o masina
instrutorul avea o mulțime de cunoștințe și răbdare de împărtășit cu noi
Bogdan Olaru
Curs - Introduction to Docker
Tradus de catre o masina
Cunoașterea și schimburile cu Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curs - Docker and Kubernetes
Tradus de catre o masina