Intrati in legatura
 Durata 14 ore

Schița de curs

Introducere în inferența AI cu Docker

  • Înțelegerea volumelor de lucru pentru inferența AI
  • Beneficiile inferenței containerizate
  • Scenarii de deployment și constrângeri

Construirea containerelor de inferență AI

  • Selectarea imaginilor de bază și a framework-urilor
  • Împachetarea modelelor pre-antrenate
  • Structurarea codului de inferență pentru execuția în container

Securizarea serviciilor AI containerizate

  • Minimizarea suprafeței de atac a containerului
  • Gestionarea secretelor și a fișierelor sensibile
  • Strategii de rețelistică sigură și de expunere a API-urilor

Tehnici de deployment portabil

  • Optimizarea imaginilor pentru portabilitate
  • Asigurarea unor medii de runtime previzibile
  • Gestionarea dependențelor pe diferite platforme

Deployment local și testare

  • Rularea serviciilor local cu Docker
  • Depanarea containerelor de inferență
  • Testarea performanței și fiabilității

Deployment pe servere și VM-uri în cloud

  • Adaptarea containerelor pentru medii remote
  • Configurarea accesului securizat la server
  • Lansarea API-urilor de inferență pe VM-uri în cloud

Utilizarea Docker Compose pentru sisteme AI cu mai multe servicii

  • Orchestrarea inferenței împreună cu componentele suport
  • Gestionarea variabilelor de mediu și a configurărilor
  • Scalarea microserviciilor cu Compose

Monitorizarea și mentenanța serviciilor de inferență AI

  • Abordări de logging și observabilitate
  • Detectarea defecțiunilor în pipeline-urile de inferență
  • Actualizarea și versionarea modelelor în producție

Rezumat și pașii următori

Cerințe

  • Înțelegerea conceptelor de bază de machine learning
  • Experiență cu Python sau development backend
  • Familiaritate cu conceptele fundamentale despre containere

Public țintă

  • Developeri
  • Ingineri backend
  • Echipe care lansează servicii AI

Numărul de participanți


Pret per participant

Mărturii (2)

Cursuri viitoare

Categorii înrudite