Schița de curs
Introducere în Containerizarea Accelerată de GPU
- Înțelegerea utilizării GPU în fluxurile de lucru de învățare profundă
- Cum sprijină Docker sarcinile de lucru bazate pe GPU
- Considerații cheie de performanță
Instalarea și Configurarea NVIDIA Container Toolkit
- Configurarea driverelor și compatibilitatea CUDA
- Validarea accesului la GPU în interiorul containerelor
- Configurarea mediului de runtime
Construirea de Imagini Docker cu Suport GPU
- Utilizarea imaginilor de bază CUDA
- Împachetarea framework-urilor de AI în containere pregătite pentru GPU
- Gestionarea dependențelor pentru antrenament și inferență
Rularea Sarcinilor de AI Accelerate de GPU
- Executarea job-urilor de antrenament folosind GPU
- Gestionarea sarcinilor de lucru cu multiple GPU
- Monitorizarea utilizării GPU
Optimizarea Performanței și Alocării Resurselor
- Limitarea și izolarea resurselor GPU
- Optimizarea memoriei, dimensiunilor loturilor și plasării dispozitivelor
- Reglarea performanței și diagnosticarea
Inferență Containerizată și Servirea Modelelor
- Construirea de containere pregătite pentru inferență
- Servirea sarcinilor de lucru de mare încărcare pe GPU
- Integrarea runner-ilor de modele și a API-urilor
Scalarea Sarcinilor de Lucru GPU cu Docker
- Strategii pentru antrenament distribuit pe GPU
- Scalarea microserviciilor de inferență
- Coordonarea sistemelor AI cu multiple containere
Securitate și Fiabilitate pentru Containere cu Suport GPU
- Asigurarea accesului sigur la GPU în medii partajate
- Consolidarea imaginilor containerelor
- Gestionarea actualizărilor, versiunilor și compatibilității
Rezumat și Pași Următori
Cerințe
- Înțelegerea elementelor de bază ale învățării profunde
- Experiență cu Python și framework-uri comune de AI
- Familiaritate cu conceptele de bază ale containerizării
Publicul țintă
- Ingineri de învățare profundă
- Echipe de cercetare și dezvoltare
- Antrenori de modele AI
Mărturii (5)
OC este nou pentru noi și am învățat multe, iar laboratoarele au fost excelente
sharkey dollie
Curs - OpenShift 4 for Administrators
Tradus de catre o masina
Mulțumitor și la punct. Practică cu manipulare directă
Gil Matias - FINEOS
Curs - Introduction to Docker
Tradus de catre o masina
Laboratoare și discuții tehnice.
Dinesh Panchal - AXA XL
Curs - Advanced Docker
Tradus de catre o masina
A oferat o bază solidă pentru Docker și Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Curs - Docker (introducing Kubernetes)
Tradus de catre o masina
Am apprécier în principal cunoștințele instruirii.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Curs - Docker, Kubernetes and OpenShift for Developers
Tradus de catre o masina