Schița de curs
Introducere la Inferința AI cu Docker
- Înțelegerea sarcinilor de inferință AI
- Avantajele containerizării inferinței
- Scenarii și constrângeri de implementare
Construirea Containerelor de Inferință AI
- Selectarea imaginilor de bază și a framework-urilor
- Pachetarea modelelor preantrenate
- Structurarea codului de inferință pentru execuția containerizată
Securizarea Serviciilor AI Containerizate
- Minimizarea suprafeței de atac a containerelor
- Gestionarea secretelor și fișierelor sensibile
- Strategii de rețele sigure și expunere API
Tehnici Portabile de Implementare
- Optimizarea imaginilor pentru portabilitate
- Asigurarea unor medii de rulare predictibile
- Gestionarea dependențelor pe platforme diverse
Implementarea Locală și Testarea
- Rularea serviciilor local cu Docker
- Depanarea containerelor de inferință
- Testarea performanței și fiabilității
Implementarea pe Servere și VM-uri Cloud
- Adaptarea containerelor pentru medii remote
- Configurarea accesului sigur la servere
- Implementarea API-urilor de inferință pe VM-uri cloud
Utilizarea Docker Compose pentru Sisteme AI Multi-Serviciu
- Orchestrarea inferinței cu componente de sprijin
- Gestionarea variabilelor de mediu și configurărilor
- Scalarea microserviciilor cu Compose
Monitorizarea și Menținerea Serviciilor de Inferință AI
- Abordări pentru logging și observabilitate
- Detectarea eșecurilor în pipeline-urile de inferință
- Actualizarea și versionarea modelelor în producție
Rezumat și Următoarele Pași
Cerințe
- O înțelegere a conceptelor de bază ale învățării automatice
- Experiență cu Python sau dezvoltarea backend
- Familiarizare cu conceptele fundamentale de containerizare
Audientă
- Dezvoltatori
- Ingineri backend
- Echipe care implementează servicii AI
Mărturii (5)
OC este nou pentru noi și am învățat mult, iar laboratoarele au fost excelente
sharkey dollie
Curs - OpenShift 4 for Administrators
Tradus de catre o masina
Felicitări informative și la punct. Practică manuală (Note: There seems to be a minor typo in the original text, "pratice" instead of "practice". The translation provided corrects this to "practică" in Romanian.)
Gil Matias - FINEOS
Curs - Introduction to Docker
Tradus de catre o masina
Laboratoare și discuții tehnice.
Dinesh Panchal - AXA XL
Curs - Advanced Docker
Tradus de catre o masina
A oferit o bază solidă pentru Docker și Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Curs - Docker (introducing Kubernetes)
Tradus de catre o masina
M-am bucurat în principal de cunoștințele formatorului.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Curs - Docker, Kubernetes and OpenShift for Developers
Tradus de catre o masina