Schița de curs
Introducere în Containerizarea Accelerată de GPU
- Înțelegerea utilizării GPU în fluxurile de lucru de învățare profundă
- Cum sprijină Docker sarcinile de lucru bazate pe GPU
- Considerații cheie de performanță
Instalarea și Configurarea NVIDIA Container Toolkit
- Configurarea driverelor și compatibilitatea CUDA
- Validarea accesului la GPU în interiorul containerelor
- Configurarea mediului de runtime
Construirea de Imagini Docker cu Suport GPU
- Utilizarea imaginilor de bază CUDA
- Împachetarea framework-urilor de AI în containere pregătite pentru GPU
- Gestionarea dependențelor pentru antrenament și inferență
Rularea Sarcinilor de AI Accelerate de GPU
- Executarea job-urilor de antrenament folosind GPU
- Gestionarea sarcinilor de lucru cu multiple GPU
- Monitorizarea utilizării GPU
Optimizarea Performanței și Alocării Resurselor
- Limitarea și izolarea resurselor GPU
- Optimizarea memoriei, dimensiunilor loturilor și plasării dispozitivelor
- Reglarea performanței și diagnosticarea
Inferență Containerizată și Servirea Modelelor
- Construirea de containere pregătite pentru inferență
- Servirea sarcinilor de lucru de mare încărcare pe GPU
- Integrarea runner-ilor de modele și a API-urilor
Scalarea Sarcinilor de Lucru GPU cu Docker
- Strategii pentru antrenament distribuit pe GPU
- Scalarea microserviciilor de inferență
- Coordonarea sistemelor AI cu multiple containere
Securitate și Fiabilitate pentru Containere cu Suport GPU
- Asigurarea accesului sigur la GPU în medii partajate
- Consolidarea imaginilor containerelor
- Gestionarea actualizărilor, versiunilor și compatibilității
Rezumat și Pași Următori
Cerințe
- Înțelegerea elementelor de bază ale învățării profunde
- Experiență cu Python și framework-uri comune de AI
- Familiaritate cu conceptele de bază ale containerizării
Publicul țintă
- Ingineri de învățare profundă
- Echipe de cercetare și dezvoltare
- Antrenori de modele AI
Mărturii (2)
Cum instrucționează formatorii cunoștințele cu atâta eficacitate
Vu Thoai Le - Reply Polska sp. z o. o.
Curs - Certified Kubernetes Administrator (CKA) - exam preparation
Tradus de catre o masina
instrutorul avea o mulțime de cunoștințe și răbdare de împărtășit cu noi
Bogdan Olaru
Curs - Introduction to Docker
Tradus de catre o masina