Data Engineer with GCP

Clurgo Ltd.; Kraków; Hybrid; PLN 180,000 - 280,000; Full time

Job summary

Clurgo Ltd. poszukuje doświadczonego specjalisty Data Engineering do projektowania i utrzymania batchowych oraz streamingowych pipeline'ów danych w Google Cloud Platform. Dołączysz do zespołu realizującego ETL/ELT, integrację danych i optymalizację zapytań.

Wymagane jest 10+ lat doświadczenia, znajomość GCP, Pythona, SQL, Apache Beam, Airflow oraz praktyki DevOps. Praca w modelu hybrydowym z Krakowa, współpraca z klientami i interesariuszami.

Qualifications

• Minimum 10 lat doświadczenia w branży IT, specjalizacja Data Engineering.
• Praktyczna znajomość Google Cloud Platform (GCP).
• Umiejętność kodowania w Pythonie i solidna znajomość SQL.
• Doświadczenie z Apache Beam, Dataflow, Airflow i CI/CD.
• Podstawy DevOps, Git i skrypty API.

Responsibilities

• Projektowanie, rozwój i utrzymanie batchowych i streamingowych pipeline'ów danych w GCP.
• Budowanie ETL/ELT z Dataflow, Apache Beam i Python.
• Projektowanie i optymalizacja modeli danych i zapytań w PostgreSQL/PL/SQL.
• Tworzenie i utrzymywanie workflowów w Airflow/Cloud Composer.
• Integracja danych z wielu źródeł oraz przygotowywanie do analityki w BigQuery i Cloud SQL.
• Zapewnianie jakości danych, monitoringu i niezawodności pipeline'ów.
• Współpraca z zespołami biznesowymi i analitycznymi; praktyki Agile i DevOps w CI/CD.
• Praca z Git i Jenkins w obszarze procesów DevOps.

Skills

Data engineering

Python programming

GCP experience

Agile / DevOps mindset

Tools

Dataflow

Apache Beam

Airflow

Cloud Composer

Python

SQL

PostgreSQL

PL/SQL

BigQuery

Cloud SQL

Cloud Storage

Pub/Sub

Google Cloud SDK

Git

Jenkins

Job description

Clurgo to firma stworzona przez developerów dla developerów. Nasze zespoły łączą pełne spektrum kompetencji - od rozwoju oprogramowania i infrastruktury, przez analizę oraz testy, aż po strategiczne zarządzanie produktem i procesami. Realizujemy różnorodne projekty IT dla klientów z wielu branż, dbając o dobre praktyki programistyczne i zachowanie work-life balance. Tworzymy rozwiązania, które mają znaczenie - dla firm w Polsce i na całym świecie.

Dołącz do projektu dużej organizacji z sektora finansowego obejmującego projektowanie, rozwój i utrzymaniebatchowych oraz strumieniowych pipeline'ów danych w środowisku Google Cloud Platform. Będziesz pracować nad rozwiązaniami ETL/ELT, integracją danych, orkiestracją procesów oraz optymalizacją modeli danych i zapytań.

Technologie i narzędzia: GCP, Dataflow, Apache Beam, Airflow, Cloud Composer, Python, SQL, PostgreSQL, PL/SQL, BigQuery, Cloud SQL, Cloud Storage, Pub/Sub, Google Cloud SDK, Git, Jenkins

Szukamy Ciebie, jeśli:

posiadasz minimum 10 lat doświadczenia w branży IT, w tym silne doświadczenie w obszarze Data Engineering

masz praktyczne doświadczenie z usługami Google Cloud Platform (GCP)

potrafisz kodować w Pythonie

bardzo dobrze znasz SQL, PostgreSQL oraz PL/SQL

masz doświadczenie zApache Beam

posiadasz dobrą znajomośćGoogle Cloud SDK, API oraz skryptów

znasz podstawy DevOps, w tym Git, CI/CD, procesy release'owe

Mile widziane:

• znajomość Dataproc
• doświadczenie w pracy z dużymi, rozproszonymi zbiorami danych
• doświadczenie w rozwiązaniach streamingowych i architekturach event-driven
• doświadczenie w bezpośredniej współpracy z klientem i interesariuszami biznesowymi

Zadania:

• projektowanie, rozwój i utrzymanie batchowych oraz streamingowych pipeline'ów danych z wykorzystaniem usług GCP
• budowanie procesów ETL/ELT przy użyciu Dataflow, Apache Beam i Python
• projektowanie oraz optymalizacja modeli danych i zapytań w PostgreSQL i PL/SQL
• tworzenie i utrzymywanie workflowów orkiestracyjnych w Airflow / Cloud Composer
• integracja danych z wielu źródeł oraz przygotowywanie ich do analityki i raportowania w BigQuery i Cloud SQL
• zapewnianie jakości danych, walidacji, monitoringu oraz niezawodności pipeline'ów
• optymalizacja wydajności procesów przetwarzania danych i zapytań SQL
• współpraca z zespołami biznesowymi, analitycznymi i aplikacyjnymi przy przekładaniu wymagań na rozwiązania techniczne
• stosowanie praktyk Agile i DevOps w zakresie CI/CD, testowania, wdrażania i utrzymania rozwiązań
• praca z Git i Jenkins w obszarze procesów DevOps

Czego możesz się spodziewać:

• współpracy w oparciu o kontrakt B2B
• pracy hybrydowej: 8 dni w miesiącu z biura w Krakowie
• profesjonalnego procesu rekrutacyjnego – zawsze otrzymasz od nas feedback niezależnie od decyzji