Schița de curs
Introducere în Inferența AI cu Docker
- Înțelegerea sarcinilor de inferență AI
- Beneficiile inferenței containerizate
- Scenarii și constrângeri de implementare
Construirea Containerelor de Inferență AI
- Selectarea imaginilor de bază și a framework-urilor
- Împachetarea modelelor preantrenate
- Structurarea codului de inferență pentru execuția în container
Securizarea Serviciilor AI Containerizate
- Minimizarea suprafeței de atac a containerelor
- Gestionarea secretelor și a fișierelor sensibile
- Strategii sigure de rețea și expunere a API-urilor
Tehnici de Implementare Portabilă
- Optimizarea imaginilor pentru portabilitate
- Asigurarea unor medii de execuție predictibile
- Gestionarea dependențelor pe diverse platforme
Implementarea și Testarea Locală
- Rularea serviciilor local cu Docker
- Depanarea containerelor de inferență
- Testarea performanței și fiabilității
Implementarea pe Servere și VM-uri în Cloud
- Adaptarea containerelor pentru medii remote
- Configurarea accesului securizat la servere
- Implementarea API-urilor de inferență pe VM-uri în cloud
Utilizarea Docker Compose pentru Sisteme AI Multi-Serviciu
- Orchestrarea inferenței cu componente de suport
- Gestionarea variabilelor de mediu și a configurațiilor
- Scalarea microserviciilor cu Compose
Monitorizarea și Întreținerea Serviciilor de Inferență AI
- Abordări de logare și observabilitate
- Detectarea defecțiunilor în pipeline-urile de inferență
- Actualizarea și versionarea modelelor în producție
Rezumat și Pași Următori
Cerințe
- Înțelegerea conceptelor de bază ale învățării automate
- Experiență cu Python sau dezvoltare backend
- Familiaritate cu conceptele de bază ale containerizării
Publicul țintă
- Dezvoltatori
- Ingineri backend
- Echipe care implementează servicii AI
Mărturii (3)
Cum instrucționează formatorii cunoștințele cu atâta eficacitate
Vu Thoai Le - Reply Polska sp. z o. o.
Curs - Certified Kubernetes Administrator (CKA) - exam preparation
Tradus de catre o masina
instrutorul avea o mulțime de cunoștințe și răbdare de împărtășit cu noi
Bogdan Olaru
Curs - Introduction to Docker
Tradus de catre o masina
Cunoașterea și schimburile cu Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curs - Docker and Kubernetes
Tradus de catre o masina