Intrati in legatura
 Durata 21 ore

Schița de curs

Introducere în TinyML și AI embedded

  • Caracteristicile implementării modelelor TinyML
  • Constrângerile în mediile de microcontrolere
  • Prezentarea toolchain-urilor pentru AI embedded

Fundamentele optimizării modelelor

  • Înțelegerea gulerelor de strangulare computaționale (bottlenecks)
  • Identificarea operațiilor intensive în memorie
  • Profilarea performanței de bază

Tehnici de cuantizare

  • Strategii de cuantizare post-training
  • Training cu sensibilitate la cuantizare (quantization-aware training)
  • Evaluarea compromisurilor dintre acuratețe și resurse

Pruning și compresie

  • Metode de pruning structurat și nestructurat
  • Partajarea ponderilor și sparsitatea modelelor
  • Algoritmi de compresie pentru inferență ușoară

Optimizare conștientă de hardware

  • Implementarea modelelor pe sisteme ARM Cortex-M
  • Optimizare pentru extensii DSP și accelsratoare
  • Considerații privind mapping-ul memoriei și fluxul datelor

Benchmarking și validare

  • Analiza latenței și a puterii de procesare (throughput)
  • Măsurarea consumului de putere și energie
  • Testarea acurateței și a robusteții

Fluxuri de implementare și instrumente

  • Utilizarea TensorFlow Lite Micro pentru implementare embedded
  • Integrarea modelelor TinyML cu pipeline-urile Edge Impulse
  • Testare și depanare pe hardware real

Strategii avansate de optimizare

  • Căutare de arhitectură neurală pentru TinyML
  • Abordări hibride de cuantizare și pruning
  • Distilarea modelelor pentru inferență embedded

Rezumat și pași următori

Cerințe

  • Înțelegerea fluxurilor de lucru în machine learning
  • Experiență cu sistemele integrate sau dezvoltarea bazată pe microcontrolere
  • Familiaritate cu programarea în Python

Persoanele vizate

  • Cercetători în AI
  • Ingineri în ML embedded
  • Profesioniști care lucrează la sisteme de inferență cu resurse limitate

Numărul de participanți


Pret per participant

Cursuri viitoare

Categorii înrudite