Intrati in legatura

Schița de curs

Fundațiile implementării AI hibride

  • Înțelegerea modelelor de deploy hibrid, cloud și edge
  • Caracteristicile sarcinilor de lucru AI și constrângerile infrastructurii
  • Alegerea topologiei de implementare potrivite

Containerizarea sarcinilor de lucru AI cu Docker

  • Crearea de containere de inferență GPU și CPU
  • Gestionarea imaginilor și registrelor sigure
  • Implementarea mediilor reproducibile pentru AI

Implementarea serviciilor AI în medii cloud

  • Executarea inferenței pe AWS, Azure și GCP prin Docker
  • Punerea la dispoziție a computației cloud pentru servirea modelelor
  • Sigurizarea endpoint-urilor AI bazate pe cloud

Tehnici de implementare Edge și On-Premise

  • Executarea AI pe dispozitive IoT, gateway-uri și microsere
  • Runtimi lightweight pentru medii edge
  • Gestionarea conectivității intermitente și a persistenței locale

Rețea hibridă și conectivitate securizată

  • Tunelare securizată între edge și cloud
  • Certificate, secrete și acces bazat pe token-uri
  • Ajustarea performanței pentru inferență cu latență redusă

Orchestrarea implementărilor AI distribuite

  • Folosirea K3s, K8s sau orchestrării lightweight pentru configurații hibride
  • Descoperirea serviciilor și programarea sarcinilor de lucru
  • Automatizarea strategiilor de rollout multi-locație

Monitorizare și observabilitate în toate mediile

  • Urmărirea performanței inferenței în diverse locații
  • Jurnalizare centralizată pentru sistemele AI hibride
  • Detectarea defecțiunilor și recuperare automată

Scalarea și optimizarea sistemelor AI hibride

  • Scalaritatea clusterelor edge și a nodurilor cloud
  • Optimizarea utilizării lățimii de bandă și a cache-ului
  • Echilibrarea încărcărilor de computație între cloud și edge

Rezumat și pași următori

Cerințe

  • O înțelegere a conceptelor de containerizare
  • Experiență cu operațiuni la linia de comandă Linux
  • Familiaritate cu fluxurile de lucru de implementare a modelelor AI

Audiența țintă

  • Arhitecti de infrastructură
  • Ingineri pentru Fiabilitatea Sitelor (SRE)
  • Dezvoltatori edge și IoT
 21 Ore

Numărul de participanți


Pret per participant

Mărturii (3)

Cursuri viitoare

Categorii înrudite