Schița de curs

Introducere la Inferința AI cu Docker

  • Înțelegerea sarcinilor de inferință AI
  • Avantajele containerizării inferinței
  • Scenarii și constrângeri de implementare

Construirea Containerelor de Inferință AI

  • Selectarea imaginilor de bază și a framework-urilor
  • Pachetarea modelelor preantrenate
  • Structurarea codului de inferință pentru execuția containerizată

Securizarea Serviciilor AI Containerizate

  • Minimizarea suprafeței de atac a containerelor
  • Gestionarea secretelor și fișierelor sensibile
  • Strategii de rețele sigure și expunere API

Tehnici Portabile de Implementare

  • Optimizarea imaginilor pentru portabilitate
  • Asigurarea unor medii de rulare predictibile
  • Gestionarea dependențelor pe platforme diverse

Implementarea Locală și Testarea

  • Rularea serviciilor local cu Docker
  • Depanarea containerelor de inferință
  • Testarea performanței și fiabilității

Implementarea pe Servere și VM-uri Cloud

  • Adaptarea containerelor pentru medii remote
  • Configurarea accesului sigur la servere
  • Implementarea API-urilor de inferință pe VM-uri cloud

Utilizarea Docker Compose pentru Sisteme AI Multi-Serviciu

  • Orchestrarea inferinței cu componente de sprijin
  • Gestionarea variabilelor de mediu și configurărilor
  • Scalarea microserviciilor cu Compose

Monitorizarea și Menținerea Serviciilor de Inferință AI

  • Abordări pentru logging și observabilitate
  • Detectarea eșecurilor în pipeline-urile de inferință
  • Actualizarea și versionarea modelelor în producție

Rezumat și Următoarele Pași

Cerințe

  • O înțelegere a conceptelor de bază ale învățării automatice
  • Experiență cu Python sau dezvoltarea backend
  • Familiarizare cu conceptele fundamentale de containerizare

Audientă

  • Dezvoltatori
  • Ingineri backend
  • Echipe care implementează servicii AI
 14 ore

Numărul de participanți


Pret per participant

Mărturii (5)

Cursuri viitoare

Categorii înrudite