Schița de curs
Introducere în inferența AI cu Docker
- Înțelegerea sarcinilor de lucru pentru inferență AI
- Avantajele inferenței containerizate
- Scenarii și constrângeri ale implementării
Construirea containerelor pentru inferența AI
- Selectarea imaginilor de bază și a framework-urilor
- Packaging-ul modelelor preantrenate
- Structurarea codului de inferență pentru execuția în container
Sécurizarea serviciilor AI containerizate
- Minimizarea suprafeței de atac a containerelor
- Gestionarea secretelor și a fișierelor sensibile
- Strategii sigure de rețea și expunere API
Tehnici de implementare portabilă
- Optimizarea imaginilor pentru portabilitate
- Asigurarea mediilor de execuție predictibile
- Gestionarea dependențelor între platforme
Implementare locală și testare
- Rularea serviciilor local cu Docker
- Depanarea containerelor de inferență
- Testarea performanței și fiabilității
Implementare pe servere și mașini virtuale în cloud
- Adaptarea containerelor pentru medii remote
- Configurarea accesului sigur la server
- Implementarea API-urilor de inferență pe mașini virtuale din cloud
Utilizarea Docker Compose pentru sisteme AI multi-servicii
- Orchestrarea inferenței cu componente suport
- Gestionarea variabilelor de mediu și a configurațiilor
- Scalarea microserviciilor cu Compose
Monitorizarea și mentenanța serviciilor de inferență AI
- Abordări de logging și observabilitate
- Detectarea eșecurilor în pipeline-urile de inferență
- Actualizarea și versiunile modelelor în producție
Sinteză și pași următori
Cerințe
- O înțelegere de bază a conceptelor de învățare automată
- Experiență cu Python sau dezvoltarea backend
- Familiaritate cu conceptele fundamentale ale containerizării
Audiența țintă
- Dezvoltatori
- Ingineri backend
- Echipelor care implementează servicii AI
Mărturii (3)
Cum instrucționează formatorii cunoștințele cu atâta eficacitate
Vu Thoai Le - Reply Polska sp. z o. o.
Curs - Certified Kubernetes Administrator (CKA) - exam preparation
Tradus de catre o masina
instrutorul avea o mulțime de cunoștințe și răbdare de împărtășit cu noi
Bogdan Olaru
Curs - Introduction to Docker
Tradus de catre o masina
Cunoașterea și schimburile cu Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curs - Docker and Kubernetes
Tradus de catre o masina