Intrati in legatura

Schița de curs

Introducere în Cambricon și arhitectura MLU

  • Prezentarea portofoliului de cipuri AI al Cambricon
  • Arhitectura MLU și pipeline-ul de instrucțiuni
  • Tipuri de modele acceptate și cazuri de utilizare

Instalarea toolchain-ului de dezvoltare

  • Instalarea BANGPy și a SDK-ului Neuware
  • Configurarea mediului pentru Python și C++
  • Compatibilitatea modelelor și preprocessing

Dezvoltarea modelelor cu BANGPy

  • Structura tensorilor și gestionarea formei
  • Construirea grafului de calcul
  • Suport pentru operații personalizate în BANGPy

Implementarea cu runtime-ul Neuware

  • Conversia și încărcarea modelelor
  • Controlul execuției și al inferenței
  • Practici de implementare pe edge și data center

Optimizarea performanței

  • Maparea memoriei și acordarea fină a layer-elor
  • Urmărirea execuției și profiling
  • Bottleneck-uri comune și soluții

Integrarea MLU în aplicații

  • Utilizarea API-urilor Neuware pentru integrarea aplicațiilor
  • Suport pentru streaming și modele multiple
  • Scenarii de inferență hibridă CPU-MLU

Proiect end-to-end și caz de utilizare

  • Laborator: Implementarea unui model de vision sau NLP
  • Inferență edge cu integrare BANGPy
  • Testarea acurateții și a throughput-ului

Rezumat și pași următori

Cerințe

  • Înțelegerea structurilor modelelor de machine learning
  • Experiență cu Python și/sau C++
  • Familiaritate cu conceptele de implementare și accelerare a modelelor

Public țintă

  • Dezvoltatori AI embedded
  • Ingineri ML care implementează pe edge sau datacenter
  • Dezvoltatori care lucrează cu infrastructura AI din China
 21 Ore

Numărul de participanți


Pret per participant

Mărturii (1)

Cursuri viitoare

Categorii înrudite