Intrati in legatura

Schița de curs

Introducere în containerizarea accelerată prin GPU

  • Înțelegerea utilizării GPU în fluxurile de lucru de deep learning
  • Cum Docker susține sarcinile bazate pe GPU
  • Considerații cheie privind performanța

Instalarea și configurarea NVIDIA Container Toolkit

  • Setarea driverelor și compatibilitatea CUDA
  • Validarea accesului GPU în contenery
  • Configurarea mediului de runtime

Construirea de imagini Docker activate prin GPU

  • Folosirea imaginilor de bază CUDA
  • Empachetarea framework-urilor AI în contenery pregătite pentru GPU
  • Managementul dependențelor pentru training și inferență

Rularea de sarcini AI accelerate prin GPU

  • Executarea job-urilor de training folosind GPU-uri
  • Managementul sarcinilor multi-GPU
  • Monitorizarea utilizării GPU

Optimizarea performanței și alocarea resurselor

  • Limitarea și izolarea resurselor GPU
  • Optimizarea memoriei, a mărimii batch-urilor și a plasamentului pe dispozitive
  • Ajustarea performanței și diagnosticarea

Inferența în contenery și servirea modelelor

  • Construirea contenery-urilor pregătite pentru inferență
  • Servirea sarcinilor cu încărcare ridicată pe GPU-uri
  • Integrarea model runners și a API-urilor

Scalarea sarcinilor GPU cu Docker

  • Strategii pentru training distribuit pe GPU
  • Scalarea microserviciilor de inferență
  • Coordonarea sistemelor AI multi-contenery

Securitatea și fiabilitatea pentru contenery activate prin GPU

  • Asigurarea accesului sigur la GPU în medii partajate
  • Întărirea imaginilor de contenery
  • Managementul actualizărilor, al versiunilor și al compatibilității

Rezumat și pași următori

Cerințe

  • Înțelegerea fundamentelor de deep learning
  • Experiență cu Python și cu framework-uri AI comune
  • Familiaritate cu conceptele de bază ale containerizării

Publicul țintă

  • Ingineri de deep learning
  • Echipe de cercetare și dezvoltare
  • Traineri de modele AI
 21 Ore

Numărul de participanți


Pret per participant

Mărturii (3)

Cursuri viitoare

Categorii înrudite