Intrati in legatura

Schița de curs

Introducere în inferența AI cu Docker

  • Înțelegerea sarcinilor de lucru pentru inferență AI
  • Avantajele inferenței containerizate
  • Scenarii și constrângeri ale implementării

Construirea containerelor pentru inferența AI

  • Selectarea imaginilor de bază și a framework-urilor
  • Packaging-ul modelelor preantrenate
  • Structurarea codului de inferență pentru execuția în container

Sécurizarea serviciilor AI containerizate

  • Minimizarea suprafeței de atac a containerelor
  • Gestionarea secretelor și a fișierelor sensibile
  • Strategii sigure de rețea și expunere API

Tehnici de implementare portabilă

  • Optimizarea imaginilor pentru portabilitate
  • Asigurarea mediilor de execuție predictibile
  • Gestionarea dependențelor între platforme

Implementare locală și testare

  • Rularea serviciilor local cu Docker
  • Depanarea containerelor de inferență
  • Testarea performanței și fiabilității

Implementare pe servere și mașini virtuale în cloud

  • Adaptarea containerelor pentru medii remote
  • Configurarea accesului sigur la server
  • Implementarea API-urilor de inferență pe mașini virtuale din cloud

Utilizarea Docker Compose pentru sisteme AI multi-servicii

  • Orchestrarea inferenței cu componente suport
  • Gestionarea variabilelor de mediu și a configurațiilor
  • Scalarea microserviciilor cu Compose

Monitorizarea și mentenanța serviciilor de inferență AI

  • Abordări de logging și observabilitate
  • Detectarea eșecurilor în pipeline-urile de inferență
  • Actualizarea și versiunile modelelor în producție

Sinteză și pași următori

Cerințe

  • O înțelegere de bază a conceptelor de învățare automată
  • Experiență cu Python sau dezvoltarea backend
  • Familiaritate cu conceptele fundamentale ale containerizării

Audiența țintă

  • Dezvoltatori
  • Ingineri backend
  • Echipelor care implementează servicii AI
 14 Ore

Numărul de participanți


Pret per participant

Mărturii (3)

Cursuri viitoare

Categorii înrudite