Curs de pregatire Implementarea modelelor AI cu CANN și procesoarele Ascend AI

Introducere în CANN și procesoarele Ascend AI

• Ce este CANN? Rolul său în stack-ul AI de calcul al Huawei
• Prezentarea arhitecturii procesoarelor Ascend (310, 910 etc.)
• Prezentarea framework-urilor AI suportate și a lanțului de instrumente

Conversia și compilarea modelelor

• Folosirea instrumentului ATC pentru conversia modelelor (TensorFlow, PyTorch, ONNX)
• Crearea și validarea fișierelor de model OM
• Gestionarea operatorilor nesuportați și a problemelor comune de conversie

Implementarea cu MindSpore și alte framework-uri

• Implementarea modelelor cu MindSpore Lite
• Integrarea modelelor OM cu API-uri Python sau SDK-uri C++
• Lucrul cu Ascend Model Manager

Optimizarea performanței și profiling

• Înțelegerea optimizărilor AI Core, de memorie și de tiling
• Profiling-ul execuției modelelor cu instrumentele CANN
• Cele mai bune practici pentru îmbunătățirea vitezei de inferență și a utilizării resurselor

Gestionarea erorilor și depanarea

• Erori comune de implementare și rezolvarea lor
• Citirea log-urilor și folosirea instrumentului de diagnosticare a erorilor
• Testarea unitară și validarea funcțională a modelelor implementate

Scenarii de implementare edge și cloud

• Implementarea pe Ascend 310 pentru aplicații edge
• Integrarea cu API-uri și microservicii bazate pe cloud
• Studii de caz din lumea reală în computer vision și NLP

Rezumat și pașii următori