Schița de curs

Introducere în Containerizarea Accelerată de GPU

  • Înțelegerea utilizării GPU în fluxurile de lucru de învățare profundă
  • Cum sprijină Docker sarcinile de lucru bazate pe GPU
  • Considerații cheie de performanță

Instalarea și Configurarea NVIDIA Container Toolkit

  • Configurarea driverelor și compatibilitatea CUDA
  • Validarea accesului la GPU în interiorul containerelor
  • Configurarea mediului de runtime

Construirea de Imagini Docker cu Suport GPU

  • Utilizarea imaginilor de bază CUDA
  • Împachetarea framework-urilor de AI în containere pregătite pentru GPU
  • Gestionarea dependențelor pentru antrenament și inferență

Rularea Sarcinilor de AI Accelerate de GPU

  • Executarea job-urilor de antrenament folosind GPU
  • Gestionarea sarcinilor de lucru cu multiple GPU
  • Monitorizarea utilizării GPU

Optimizarea Performanței și Alocării Resurselor

  • Limitarea și izolarea resurselor GPU
  • Optimizarea memoriei, dimensiunilor loturilor și plasării dispozitivelor
  • Reglarea performanței și diagnosticarea

Inferență Containerizată și Servirea Modelelor

  • Construirea de containere pregătite pentru inferență
  • Servirea sarcinilor de lucru de mare încărcare pe GPU
  • Integrarea runner-ilor de modele și a API-urilor

Scalarea Sarcinilor de Lucru GPU cu Docker

  • Strategii pentru antrenament distribuit pe GPU
  • Scalarea microserviciilor de inferență
  • Coordonarea sistemelor AI cu multiple containere

Securitate și Fiabilitate pentru Containere cu Suport GPU

  • Asigurarea accesului sigur la GPU în medii partajate
  • Consolidarea imaginilor containerelor
  • Gestionarea actualizărilor, versiunilor și compatibilității

Rezumat și Pași Următori

Cerințe

  • Înțelegerea elementelor de bază ale învățării profunde
  • Experiență cu Python și framework-uri comune de AI
  • Familiaritate cu conceptele de bază ale containerizării

Publicul țintă

  • Ingineri de învățare profundă
  • Echipe de cercetare și dezvoltare
  • Antrenori de modele AI
 21 Ore

Numărul de participanți


Pret per participant

Mărturii (5)

Cursuri viitoare

Categorii înrudite