Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Schița de curs
Introducere în Huawei CloudMatrix
- Ecosistemul CloudMatrix și fluxul de deployment
- Modele, formate și moduri de deployment suportate
- Cazuri de utilizare tipice și chipseturi suportate
Pregătirea modelelor pentru deployment
- Exportul modelelor din instrumentele de training (MindSpore, TensorFlow, PyTorch)
- Utilizarea ATC (Ascend Tensor Compiler) pentru conversia formatelor
- Modele cu forme statice vs. dinamice
Deployment pe CloudMatrix
- Crearea serviciilor și înregistrarea modelelor
- Implementarea serviciilor de inferență prin UI sau CLI
- Rutare, autentificare și control al accesului
Servirea cererilor de inferență
- Fluxuri de inferență batch vs. în timp real
- Pipeline-uri de preprocesare și postprocesare a datelor
- Apelarea serviciilor CloudMatrix din aplicații externe
Monitorizare și optimizarea performanței
- Log-uri de deployment și tracking al cererilor
- Scalarea resurselor și load balancing
- Ajustarea latenței și optimizarea throughput-ului
Integrarea cu instrumente enterprise
- Conectarea CloudMatrix cu OBS și ModelArts
- Utilizarea workflow-urilor și versionării modelelor
- CI/CD pentru deployment-ul și rollback-ul modelelor
Pipeline de inferență end-to-end
- Implementarea unui pipeline complet de clasificare a imaginilor
- Benchmarking și validarea acurateței
- Simularea failover-ului și alertelor de sistem
Rezumat și pașii următori
Cerințe
- Înțelegerea fluxurilor de lucru pentru antrenarea modelelor AI
- Experiență cu framework-uri ML bazate pe Python
- Familiaritate de bază cu conceptele de deployment în cloud
Audiență
- Echipe de AI ops
- Ingineri de machine learning
- Specialiști în deployment cloud care lucrează cu infrastructura Huawei
21 Ore
Mărturii (1)
Stilul deschis si cald al trainerului, limbajul accesibil.