Schița de curs

Introducere în Edge AI și Ascend 310

  • Panoramă generală a lui Edge AI: tendințe, constrângeri și aplicații
  • Arhitectura chipului Huawei Ascend 310 și setul de instrumente suportat
  • Pozitionarea lui CANN în stratul de implementare AI la marginea rețelei

Prepararea și Conversia Modelului

  • Exportarea modelelor instruite din TensorFlow, PyTorch și MindSpore
  • Utilizarea ATC pentru a converti modelele în format OM pentru dispozitivele Ascend
  • Gestionarea operatiunilor nesuportate și strategii de conversie ușoară

Dezvoltarea Pipelinelor de Inferență cu AscendCL

  • Utilizarea API-ului AscendCL pentru a executa modelele OM pe Ascend 310
  • Preprocesarea/suprapreprocesarea intrării/ieșirii, gestionarea memoriei și controlul dispozitivului
  • Implementarea în containerizare ușoară sau medii de runtime ușoare

Optimizare pentru Constrângeri la Marginea Rețelei

  • Reducerea mărimei modelului, ajustarea preciziei (FP16, INT8)
  • Utilizarea profilerului CANN pentru a identifica zidurile de bocan
  • Gestionarea alăturării memoriei și fluxului de date pentru performanță

Implementare cu MindSpore Lite

  • Utilizarea runtime-ului MindSpore Lite pentru obiecte mobile și integrat
  • Compararea lui MindSpore Lite cu pipelina brută AscendCL
  • Ambalarea modelelor de inferență pentru implementare specifică dispozitivului

Scenarii și Studii de caz pentru Implementarea la Marginea Rețelei

  • Studiu de caz: camera inteligentă cu model de detectare a obiectelor pe Ascend 310
  • Studiu de caz: clasificare în timp real într-un hub senzor IoT
  • Monitorizarea și actualizarea modelelor implementate la marginea rețelei

Rezumat și Pasii Următori

Cerințe

  • Experiență cu fluxurile de lucru pentru dezvoltarea sau punerea în producție a modelelor AI
  • Cunoștințe de bază despre sisteme înglobate, Linux, și Python
  • Familiaritate cu cadrele pentru învățare profundă precum TensorFlow sau PyTorch

Publicul-țintă

  • Dezvoltatorii de soluții IoT
  • Inginerii AI înglobat
  • Integratorii sistemelor edge și specialistii în punerea în producție a modelului AI
 14 ore

Numărul de participanți


Pret per participant

Upcoming Courses

Categorii înrudite