Curs de pregatire Consultanță Big Data

Această formare condusă de un instructor, live în România (online sau la fața locului) este destinată profesioniștilor avansați în domeniul datelor care doresc să optimizeze fluxurile de procesare a datelor, să asigure integritatea datelor și să implementeze soluții robuste de tip data lakehouse care să poată gestiona complexitatea aplicațiilor moderne de big data.

La finalul acestei formări, participanții vor putea:

• Să înțeleagă în profunzime arhitectura Iceberg, inclusiv gestionarea metadatelor și structura fișierelor.
• Să configureze Iceberg pentru performanță optimă în diverse medii și să-l integreze cu multiple motoare de procesare a datelor.
• Să gestioneze tabele Iceberg la scară largă, să efectueze schimbări complexe de scheme și să gestioneze evoluția partițiilor.
• Să stăpânească tehnici de optimizare a performanței interogărilor și a eficienței scanării datelor pentru seturi de date mari.
• Să implementeze mecanisme pentru a asigura consistența datelor, să gestioneze garanțiile tranzacționale și să facă față defecțiunilor în medii distribuite.

Acest training condus de un instructor, live în România (online sau la fața locului), este destinat profesioniștilor de date de nivel începător care doresc să dobândească cunoștințele și abilitățile necesare pentru a utiliza eficient Apache Iceberg în gestionarea seturilor de date la scară largă, asigurarea integrității datelor și optimizarea fluxurilor de procesare a datelor.

La finalul acestui training, participanții vor putea:

• Să înțeleagă în profunzime arhitectura, caracteristicile și beneficiile Apache Iceberg.
• Să învețe despre formatele de tabele, partiționarea, evoluția schemei și capacitățile de time travel.
• Să instaleze și să configureze Apache Iceberg în diferite medii.
• Să creeze, să gestioneze și să manipuleze tabele Iceberg.
• Să înțeleagă procesul de migrare a datelor de la alte formate de tabele la Iceberg.

Acest training condus de un instructor, live în România (online sau la fața locului), este destinat specialiștilor și inginerilor de date de nivel intermediar care doresc să utilizeze Google Colab și Apache Spark pentru procesarea și analiza datelor mari.

La sfârșitul acestui training, participanții vor putea:

• Să configureze un mediu de lucru pentru date mari folosind Google Colab și Spark.
• Să proceseze și să analizeze eficient seturi mari de date cu Apache Spark.
• Să vizualizeze date mari într-un mediu colaborativ.
• Să integreze Apache Spark cu instrumente bazate pe cloud.

Apache Hadoop este cel mai popular cadru pentru procesarea Big Data pe clustere de servere. În acest curs de trei (opțional, patru) zile, participanții vor învăța despre beneficiile și cazurile de utilizare ale Hadoop și ale ecosistemului său, cum să planifice implementarea și creșterea clusterului, cum să instaleze, să întrețină, să monitorizeze, să depaneze și să optimizeze Hadoop. De asemenea, vor exersa încărcarea masivă de date în cluster, se vor familiariza cu diverse distribuții Hadoop și vor exersa instalarea și gestionarea instrumentelor din ecosistemul Hadoop. Cursul se încheie cu o discuție despre securizarea clusterului cu Kerberos.

“…Materialele au fost foarte bine pregătite și acoperite pe larg. Laboratorul a fost foarte util și bine organizat”
— Andrew Nguyen, Principal Integration DW Engineer, Microsoft Online Advertising

Audiență

Administratori Hadoop

Format

Prelegeri și laboratoare practice, echilibru aproximativ 60% prelegeri, 40% laboratoare.

Apache NiFi este o platformă open-source, bazată pe flux, pentru integrarea datelor și procesarea evenimentelor. Permite rutarea, transformarea și medierea automată a datelor în timp real între sisteme disparate, cu o interfață web și control detaliat.

Această instruire condusă de un instructor, în format live (pe fața locului sau la distanță), este destinată administratorilor și inginerilor de nivel intermediar care doresc să implementeze, să gestioneze, să securizeze și să optimizeze fluxurile de date NiFi în medii de producție.

La finalul acestei instruiri, participanții vor putea:

• Să instaleze, să configureze și să întrețină clustere Apache NiFi.
• Să proiecteze și să gestioneze fluxuri de date din surse și destinații variate.
• Să implementeze automatizarea fluxurilor, rutarea și logica de transformare.
• Să optimizeze performanța, să monitorizeze operațiunile și să depaneze probleme.

Formatul Cursului

• Prezentare interactivă cu discuții despre arhitecturi din lumea reală.
• Laboratoare practice: construirea, implementarea și gestionarea fluxurilor.
• Exerciții bazate pe scenarii într-un mediu de laborator live.

Opțiuni de Personalizare a Cursului

• Pentru a solicita o instruire personalizată pentru acest curs, vă rugăm să ne contactați pentru a aranja.

În acest training condus de un instructor, participanții vor învăța elementele de bază ale programării bazate pe fluxuri, dezvoltând o serie de extensii demo, componente și procesoare folosind Apache NiFi.

La sfârșitul acestui training, participanții vor putea:

• Să înțeleagă arhitectura NiFi și conceptele de flux de date.
• Să dezvolte extensii folosind NiFi și API-uri ale terților.
• Să dezvolte propriul procesor Apache NiFi.
• Să ingere și să proceseze date în timp real din formate de fișiere și surse de date diverse și neobișnuite.

Acest training oferă o introducere practică în construirea de fluxuri de lucru scalabile de procesare a datelor și Machine Learning folosind PySpark. Participanții vor învăța cum funcționează Apache Spark în ecosistemele moderne de Big Data și cum să proceseze eficient seturi mari de date folosind principiile calculului distribuit.

Acest training condus de un instructor, live în România (online sau la fața locului) este destinat inginerilor care doresc să configureze și să implementeze sistemul Apache Spark pentru procesarea unor volume foarte mari de date.

La sfârșitul acestui training, participanții vor putea:

• Instala și configura Apache Spark.
• Procesare și analiză rapidă a seturilor de date foarte mari.
• Înțelege diferența dintre Apache Spark și Hadoop MapReduce și când să folosească fiecare.
• Integrarea Apache Spark cu alte instrumente de învățare automată.

Acest training condus de un instructor, live în România (online sau la fața locului) este destinat administratorilor de sistem de la nivel începător până la intermediar care doresc să implementeze, să întrețină și să optimizeze clustere Spark.

La finalul acestui training, participanții vor putea:

• Instala și configura Apache Spark în diverse medii.
• Gestiona resursele clusterului și monitoriza aplicațiile Spark.
• Optimiza performanța clusterelor Spark.
• Implementa măsuri de securitate și asigura disponibilitate ridicată.
• Depana și rezolva probleme comune ale Spark.

Curba de învățare a Apache Spark crește încet la început, fiind nevoie de mult efort pentru a obține primele rezultate. Acest curs își propune să treacă peste această parte dificilă inițială. După parcurgerea acestui curs, participanții vor înțelege elementele de bază ale Apache Spark, vor face distincția clară între RDD și DataFrame, vor învăța API-urile Python și Scala, vor înțelege executoarele și sarcinile etc. De asemenea, urmând cele mai bune practici, acest curs se concentrează puternic pe implementarea în cloud, Databricks și AWS. Studenții vor înțelege, de asemenea, diferențele dintre AWS EMR și AWS Glue, unul dintre cele mai recente servicii Spark oferite de AWS.

AUDIENȚĂ:

Inginer de Date, DevOps, Specialist în Știința Datelor

În acest training condus de un instructor, în format live în România, participanții vor învăța cum să folosească împreună Python și Spark pentru a analiza date mari, lucrând la exerciții practice.

La finalul acestui training, participanții vor fi capabili să:

• Învețe cum să folosească Spark cu Python pentru a analiza date mari.
• Lucreze la exerciții care imită cazuri din lumea reală.
• Folosească diferite instrumente și tehnici pentru analiza datelor mari folosind PySpark.

Acest training condus de un instructor, live în România (online sau la fața locului) este destinat dezvoltatorilor care doresc să utilizeze și să integreze Spark, Hadoop și Python pentru a procesa, analiza și transforma seturi de date mari și complexe.

La sfârșitul acestui training, participanții vor putea:

• Să configureze mediul necesar pentru a începe procesarea datelor mari cu Spark, Hadoop și Python.
• Să înțeleagă caracteristicile, componentele de bază și arhitectura Spark și Hadoop.
• Să învețe cum să integreze Spark, Hadoop și Python pentru procesarea datelor mari.
• Să exploreze instrumentele din ecosistemul Spark (Spark MlLib, Spark Streaming, Kafka, Sqoop, Kafka și Flume).
• Să construiască sisteme de recomandare bazate pe filtrare colaborativă asemănătoare cu cele de la Netflix, YouTube, Amazon, Spotify și Google.
• Să utilizeze Apache Mahout pentru a scala algoritmii de învățare automată.

Spark SQL este modulul Apache Spark pentru lucrul cu date structurate și nestructurate. Spark SQL oferă informații despre structura datelor, precum și despre calculul efectuat. Aceste informații pot fi folosite pentru a realiza optimizări. Două utilizări comune pentru Spark SQL sunt:
- executarea interogărilor SQL.
- citirea datelor dintr-o instalare Hive existentă.

În acest training condus de un instructor, live (la fața locului sau la distanță), participanții vor învăța cum să analizeze diverse tipuri de seturi de date folosind Spark SQL.

La sfârșitul acestui training, participanții vor putea:

• Instala și configura Spark SQL.
• Efectua analize de date folosind Spark SQL.
• Interoga seturi de date în diferite formate.
• Vizualiza date și rezultate ale interogărilor.

Formatul cursului

• Curs interactiv și discuții.
• Multe exerciții și practică.
• Implementare practică într-un mediu live-lab.

Opțiuni de personalizare a cursului

• Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.

Stratio este o platformă centrată pe date care integrează big data, inteligența artificială și guvernanța într-o singură soluție. Modulele sale Rocket și Intelligence permit explorarea rapidă a datelor, transformarea și analiza avansată în medii enterprise.

Această sesiune de formare condusă de un instructor (online sau la fața locului) este destinată profesioniștilor de date de nivel intermediar care doresc să utilizeze eficient modulele Rocket și Intelligence din Stratio cu PySpark, concentrându-se pe structuri de buclă, funcții definite de utilizator și logica avansată a datelor.

La finalul acestei formări, participanții vor putea:

• Să navigheze și să lucreze în platforma Stratio folosind modulele Rocket și Intelligence.
• Să aplice PySpark în contextul ingerării, transformării și analizei datelor.
• Să utilizeze bucle și logică condițională pentru a controla fluxurile de date și sarcinile de inginerie a caracteristicilor.
• Să creeze și să gestioneze funcții definite de utilizator (UDF) pentru operații reutilizabile de date în PySpark.

Formatul cursului

• Prelegere interactivă și discuții.
• Multe exerciții și practică.
• Implementare practică într-un mediu live-lab.

Opțiuni de personalizare a cursului

• Pentru a solicita o formare personalizată pentru acest curs, vă rugăm să ne contactați pentru a aranja.