Schița de curs
Introducere în optimizarea Edge AI
- Prezentare generală a edge AI și a provocărilor sale
- Importanța optimizării modelelor pentru dispozitivele de margine
- Studii de caz de modele AI optimizate în aplicații de margine
Tehnici de comprimare a modelelor
- Introducere în comprimarea modelelor
- Tehnici de reducere a dimensiunii modelului
- Exerciții practice pentru comprimarea modelelor
Metode de cuantificare
- Prezentare generală a cuantificării și a beneficiilor acesteia
- Tipuri de cuantificare (post-formare, formare care ține seama de cuantificare)
- Exerciții practice de cuantificare a modelelor
Pruning și alte tehnici de optimizare
- Introducere în pruning
- Metode de tăiere a modelelor de inteligență artificială
- Alte tehnici de optimizare (de exemplu, distilarea cunoștințelor)
- Exerciții practice pentru curățarea și optimizarea modelelor
Implementarea modelelor optimizate pe dispozitive de margine
- Pregătirea mediului dispozitivelor de margine
- Implementarea și testarea modelelor optimizate
- Rezolvarea problemelor de implementare
- Exerciții practice pentru implementarea modelelor
Instrumente și cadre pentru optimizare
- Prezentare generală a instrumentelor și cadrelor (de exemplu, TensorFlow Lite, ONNX)
- Utilizarea TensorFlow Lite pentru optimizarea modelelor
- Exerciții practice cu instrumente de optimizare
Aplicații din lumea reală și studii de caz
- Trecerea în revistă a proiectelor de optimizare AI de succes în domeniul edge AI
- Discuții despre cazuri de utilizare specifice industriei
- Proiect practic pentru construirea și optimizarea unei aplicații din lumea reală
Rezumat și pași următori
Cerințe
- Înțelegerea conceptelor de inteligență artificială și învățare automată
- Experiență în dezvoltarea de modele AI
- Abilități de programare de bază (Python recomandat)
Audiență
- Dezvoltatorii AI
- Inginerii de învățare automată
- Arhitecți de sistem
Mărturii (2)
the ML ecosystem not only MLFlow but Optuna, hyperops, docker , docker-compose
Guillaume GAUTIER - OLEA MEDICAL
Curs - MLflow
I enjoyed participating in the Kubeflow training, which was held remotely. This training allowed me to consolidate my knowledge for AWS services, K8s, all the devOps tools around Kubeflow which are the necessary bases to properly tackle the subject. I wanted to thank Malawski Marcin for his patience and professionalism for training and advice on best practices. Malawski approaches the subject from different angles, different deployment tools Ansible, EKS kubectl, Terraform. Now I am definitely convinced that I am going into the right field of application.