Curs de pregatire Edge & Lightweight Agents: Deploying On-Device Agentic Workloads with Python

Introducere în Edge și AI Agentic

• Prezentarea generală a AI agentic și a edge computing-ului
• Considerații privind latența, confidențialitatea și lățimea de bandă
• Comparație arhitecturală: agenți cloud vs. agenți edge

Proiectarea arhitecturii pentru agenți ușori

• Descompunerea buclei de agent pentru sistemele cu resurse limitate
• Design asincron pentru computație eficientă
• Echilibrarea dintre autonomie și conectivitate

Setarea mediului de dezvoltare

• Instalarea framework-urilor Python pentru edge AI
• Configurarea TensorFlow Lite și PyTorch Mobile
• Implementarea mediilor de test pe Raspberry Pi sau dispozitive similare

Implementarea inferenței pe dispozitiv

• Convertirea și cuantizarea modelelor pentru deploy pe edge
• Rulează inferență cu TensorFlow Lite și ONNX Runtime
• Integrarea rezultatelor de inferență în buclele de decizie ale agentului

Integrarea agenților cu hardware și IoT

• Conectarea senzorilor, actuatorilor și modulelor IoT
• Colectarea și procesarea locală a datelor (pipelines)
• Operare offline și comportament declanșat de evenimente

Optimizare și monitorizare

• Tuning-ul performanței pentru putere redusă și viteză mare
• Caching pe edge și tehnici de compresie a modelelor
• Monitorizarea și debug-ul agenților edge

Proiect Hands-on: Implementarea unui agent ușor pe hardware edge

• Proiectarea unui agent mic autonom pentru o sarcină IoT sau robotică
• Implementarea inferenței modelului și a logicii locale
• Testare și optimizare pentru latență și fiabilitate

Rezumat și pașii următori