Senior Spark & Data Lakehouse Engineer

Upvanta sp. z o.o.; Wrocław; Hybrid; PLN 180,000 - 270,000; Full time

Job summary

Upvanta sp. z o.o. poszukuje doświadczonego Spark / Data Lakehouse Developera do projektowania i rozwoju rozwiązań do przetwarzania i rekoncyliacji danych w środowisku Big Data.

Będziesz współtworzyć nowoczesną architekturę Data Lakehouse opartą o Apache Spark, MongoDB oraz Apache Iceberg, dbając o jakość, wydajność i niezawodność procesów danych. Minimalne 4 lata doświadczenia z Spark, PySpark, MongoDB Spark Connector, Iceberg i Python.

Qualifications

• Minimum 4 lata doświadczenia komercyjnego w pracy z Apache Spark.
• Bardzo dobra znajomość PySpark, Spark SQL, DataFrame API oraz Structured Streaming.
• Doświadczenie w integracji Apache Spark z MongoDB przy użyciu MongoDB Spark Connector.
• Praktyczna znajomość Apache Iceberg oraz zarządzania wersjonowanymi tabelami danych.
• Doświadczenie w budowie rozwiązań Data Lake / Data Lakehouse.
• Dobra znajomość języka Python.
• Doświadczenie z Jenkins oraz budową pipeline'ów CI/CD.
• Znajomość narzędzi monitoringu i observability (Prometheus, Grafana).
• Doświadczenie w pracy zgodnie z Agile (Scrum/Kanban).
• Znajomość Jira i Confluence.

Responsibilities

• Projektowanie i implementacja procesów rekoncyliacji danych w Apache Spark (PySpark, Spark SQL).
• Porównywanie danych pomiędzy warstwą ODS (MongoDB) a systemami źródłowymi oraz identyfikowanie rozbieżności.
• Tworzenie i rozwój reguł jakości danych, wykrywanie braków, duplikatów oraz anomalii.
• Budowa i utrzymanie warstw Data Lakehouse w modelu Raw / Bronze / Silver / Gold.
• Praca z Apache Iceberg i zarządzanie wersjonowanymi zbiorami danych.
• Optymalizacja wydajności procesów Spark oraz kosztów przetwarzania danych.
• Tworzenie i rozwijanie pipeline'ów CI/CD dla aplikacji Spark.
• Implementacja monitoringu, metryk i alertowania dla procesów danych.
• Automatyzacja wdrożeń z wykorzystaniem Docker, Kubernetes oraz Spark Operator.
• Analiza i rozwiązywanie problemów związanych z jakością, spójnością i dostępnością danych.
• Tworzenie dokumentacji technicznej, diagramów architektury oraz runbooków.
• Współpraca z Data Engineerami, DevOps Engineerami, Analitykami Biznesowymi i zespołami produktowymi.
• Udział w code review oraz mentoring mniej doświadczonych członków zespołu.

Skills

Apache Spark

PySpark

Spark SQL

MongoDB Spark Connector

Apache Iceberg

Data Lake / Data Lakehouse

Python

Jenkins

CI/CD pipelines

Prometheus

Grafana

Jira

Confluence

Agile (Scrum/Kanban)

Kubernetes

Docker

Spark Operator

OpenTelemetry

Dynatrace

Azure / AWS / GCP

Tools

MongoDB

Jenkins

Kubernetes

Docker

Spark Operator

Prometheus

Grafana

OpenTelemetry

Dynatrace

Apache Iceberg

MongoDB Spark Connector

Jira

Confluence

Azure

AWS

GCP

Job description

Upvanta sp. z o.o. poszukuje doświadczonego Spark / Data Lakehouse Developera do projektowania i rozwoju rozwiązań do przetwarzania i rekoncyliacji danych w środowisku Big Data.

Będziesz współtworzyć nowoczesną architekturę Data Lakehouse opartą o Apache Spark, MongoDB oraz Apache Iceberg, dbając o jakość, wydajność i niezawodność procesów danych. Minimalne 4 lata doświadczenia z Spark, PySpark, MongoDB Spark Connector, Iceberg i Python.