Schița de curs

Introducere în Cambricon și Arhitectura MLU

  • Prezentare generală a portofoliului de cipuri AI Cambricon
  • Arhitectura MLU și pipeline-ul de instrucțiuni
  • Tipuri de modele și cazuri de utilizare acceptate

Instalarea Lanțului de Instrumente de Dezvoltare

  • Instalarea BANGPy și SDK-ului Neuware
  • Configurarea mediului pentru Python și C++
  • Compatibilitatea modelelor și preprocesarea

Dezvoltarea Modelelor cu BANGPy

  • Structura tensorului și gestionarea formelor
  • Construcția graficului de calcul
  • Suport pentru operații personalizate în BANGPy

Implementare cu Runtime-ul Neuware

  • Conversia și încărcarea modelelor
  • Controlul execuției și inferenței
  • Practici de implementare la margine și în centre de date

Optimizarea Performanței

  • Maparea memoriei și ajustarea straturilor
  • Urmărirea și profilarea execuției
  • Gâtuiri comune și remedieri

Integrarea MLU în Aplicații

  • Utilizarea API-urilor Neuware pentru integrarea aplicațiilor
  • Suport pentru streaming și modele multiple
  • Scenarii de inferență hibridă CPU-MLU

Proiect și Caz de Utilizare End-to-End

  • Laborator: Implementarea unui model de viziune sau NLP
  • Inferență la margine cu integrare BANGPy
  • Testarea acurateței și a debitului

Rezumat și Pași Următori

Cerințe

  • Înțelegerea structurilor modelelor de învățare automată
  • Experiență cu Python și/sau C++
  • Cunoașterea conceptelor de implementare și accelerare a modelelor

Publicul Țintă

  • Dezvoltatori AI încorporați
  • Ingineri ML care implementează la margine sau în centre de date
  • Dezvoltatori care lucrează cu infrastructura AI din China
 21 Ore

Numărul de participanți


Pret per participant

Cursuri viitoare

Categorii înrudite