Események betöltése

DP-203T00: Data Engineering on Microsoft Azure

Időtartam: 4 nap

Időpontok hamarosan

450.000 Ft + ÁFA / Fő
Azure Data Engineering és valós idejű adatfeldolgozás

A modern vállalatok működésének egyik legfontosabb alapja az adatok hatékony gyűjtése, feldolgozása és elemzése. A nagy mennyiségű strukturált és strukturálatlan adat kezelése ma már nem csupán technológiai kérdés, hanem versenyelőnyt meghatározó tényező. Az Azure Data Engineering képzés átfogó tudást biztosít azok számára, akik szeretnének batch és valós idejű (real-time) analitikai megoldásokat tervezni és megvalósítani a Microsoft Azure adatplatform technológiáival.

A tanfolyam során a résztvevők megismerik azokat az alapvető számítási (compute) és tárolási (storage) technológiákat, amelyek egy modern analitikai rendszer alapját képezik. Részletesen foglalkozunk az

  • Azure Synapse Analytics,
  • Azure Databricks
  • Azure Data Lake Storage

működésével, valamint azok szerepével az adatmérnöki folyamatokban.

A képzés bemutatja, hogyan lehet interaktívan felfedezni a data lake-ben tárolt adatokat, és miként lehet különböző adatbetöltési (ingestion) technikákat alkalmazni.

A résztvevők megtanulják, hogyan használható az Apache Spark az Azure Synapse Analytics vagy az Azure Databricks környezetben az adatok feldolgozására és átalakítására. Emellett megismerik az Azure Data Factory és az Azure Synapse Pipelines eszközeit, amelyek segítségével nagyléptékű adatmozgatási és adattranszformációs folyamatok építhetők ki.

Kiemelt figyelmet fordítunk az adatbiztonságra is. A képzés bemutatja, hogyan biztosítható az adatok védelme tárolás közben (at rest) és továbbítás során (in transit), valamint hogyan valósíthatók meg megfelelőségi és jogosultságkezelési megoldások.

A tanfolyam végén a résztvevők képesek lesznek egy teljes, valós idejű analitikai rendszer megtervezésére és implementálására, amely képes nagy mennyiségű adat folyamatos feldolgozására és üzleti értékké alakítására.

Mit nyújt a képzés?

A képzés gyakorlatorientált megközelítéssel mutatja be az Azure adatplatform eszköztárát. A résztvevők megtanulják:

  • adatbetöltési és adatfeldolgozási folyamatok tervezését
  • batch és streaming adatfeldolgozási megoldások implementálását
  • adattranszformációk végrehajtását Apache Spark és Data Factory segítségével
  • adatbiztonsági és megfelelőségi mechanizmusok kialakítását
  • valós idejű analitikai rendszerek létrehozását

Tematika:

1. modul – Compute és storage megoldások az adatmérnöki feladatokhoz

  • Azure Synapse Analytics áttekintése
  • Azure Databricks bemutatása
  • Azure Data Lake Storage
  • Delta Lake architektúra
  • Adatfolyamok kezelése Azure Stream Analytics segítségével

2. modul – Interaktív lekérdezések Azure Synapse serverless SQL pool segítségével

  • Serverless SQL pool képességei
  • Lekérdezések a data lake-ben
  • Metaadat objektumok létrehozása
  • Felhasználó- és jogosultságkezelés

3. modul – Adatfeltárás és transzformáció Azure Databricks környezetben

  • Adatok beolvasása és kiírása
  • DataFrame-ek használata
  • Haladó DataFrame műveletek

4. modul – Adattranszformáció Apache Spark segítségével

  • Big data engineering Apache Spark alapokon
  • Spark notebookok használata
  • SQL és Spark integráció

5–7. modul – Adatbetöltés és orkestráció

  • Adatbetöltési best practice-ek
  • Petabájt méretű adatbetöltés Azure Data Factory segítségével
  • Pipeline-ok és adatmozgatási folyamatok kialakítása

8. modul – End-to-end biztonság

  • Adatbiztonság Azure Synapse környezetben
  • Azure Key Vault használata
  • Megfelelőségi kontrollok

9. modul – HTAP megoldások Azure Synapse Link segítségével

  • Hibrid tranzakcionális és analitikai feldolgozás
  • Azure Cosmos DB integráció

10–11. modul – Valós idejű adatfeldolgozás

  • Azure Event Hubs használata
  • Stream Analytics megoldások
  • Streaming feldolgozás Azure Databricks structured streaming segítségével

Előfeltétel:

A képzés sikeres elvégzéséhez ajánlott:

  • felhőalapú számítástechnikai alapismeretek
  • alapvető adatkezelési és adatmodellezési ismeretek
  • adatmegoldásokkal kapcsolatos szakmai tapasztalat

Előfeltétel tanfolyamok:

  • AZ-900T00-A: Microsoft Azure Fundamentals
  • DP-900T00-A: Microsoft Azure Data Fundamentals