Data Engineer with GCP

Clurgo; Kraków; Hybrid; PLN 240,000 - 360,000; Full time

Benefits offered by this job

Contract B2B

Hybrid work in Kraków

Job summary

Clurgo poszukuje specjalisty Data Engineer z silnym zapleczem w GCP i z co najmniej 10-letnim doświadczeniem w IT. Będziesz projektować i utrzymywać batchowe oraz streamingowe pipeline'y danych, implementować ETL/ELT z Dataflow i Apache Beam, a także optymalizować modele danych i zapytania w PostgreSQL/PL/SQL.

Praca w modelu hybrydowym w Krakowie, z wysokimi standardami jakości i współpracą z interesariuszami.

Qualifications

• Co najmniej 10 lat doświadczenia w branży IT, w tym w Data Engineering.
• Doświadczenie z usługami Google Cloud Platform (GCP).
• Umiejętność kodowania w Pythonie.
• Biegła znajomość SQL, PostgreSQL i PL/SQL.
• Doświadczenie z Apache Beam.
• Dobra znajomość Google Cloud SDK, API oraz skryptów.
• Znajomość podstaw DevOps, w tym Git, CI/CD, procesy release'owe.

Responsibilities

• Projektowanie, rozwój i utrzymanie batchowych oraz streamingowych pipeline'ów danych z wykorzystaniem usług GCP.
• Budowanie procesów ETL/ELT przy użyciu Dataflow, Apache Beam i Python.
• Projektowanie i optymalizacja modeli danych i zapytań w PostgreSQL i PL/SQL.
• Tworzenie i utrzymywanie workflowów orkiestracyjnych w Airflow / Cloud Composer.
• Integracja danych z wielu źródeł oraz przygotowywanie ich do analityki i raportowania w BigQuery i Cloud SQL.
• Zapewnianie jakości danych, walidacji, monitoringu oraz niezawodności pipeline'ów.
• Optymalizacja wydajności procesów przetwarzania danych i zapytań SQL.
• Współpraca z zespołami biznesowymi, analitycznymi i aplikacyjnymi.

Skills

Data engineering

Python programming

SQL

PostgreSQL

PL/SQL

Apache Beam

DevOps basics

Git

CI/CD

Tools

GCP

Dataflow

Airflow

Cloud Composer

BigQuery

Cloud SQL

Pub/Sub

Google Cloud SDK

Jenkins

Git

Job description

Clurgo to firma stworzona przez developerów dla developerów. Nasze zespoły łączą pełne spektrum kompetencji - od rozwoju oprogramowania i infrastruktury, przez analizę oraz testy, aż po strategiczne zarządzanie produktem i procesami. Realizujemy różnorodne projekty IT dla klientów z wielu branż, dbając o dobre praktyki programistyczne i zachowanie work-life balance. Tworzymy rozwiązania, które mają znaczenie - dla firm w Polsce i na całym świecie.

Dołącz do projektu dużej organizacji z sektora finansowego obejmującego projektowanie, rozwój i utrzymanie batchowych oraz strumieniowych pipeline'ów danych w środowisku Google Cloud Platform. Będziesz pracować nad rozwiązaniami ETL/ELT, integracją danych, orkiestracją procesów oraz optymalizacją modeli danych i zapytań.

Technologie i narzędzia: GCP, Dataflow, Apache Beam, Airflow, Cloud Composer, Python, SQL, PostgreSQL, PL/SQL, BigQuery, Cloud SQL, Cloud Storage, Pub/Sub, Google Cloud SDK, Git, Jenkins

Szukamy Ciebie, jeśli:

• posiadasz minimum 10 lat doświadczenia w branży IT, w tym silne doświadczenie w obszarze Data Engineering
• masz praktyczne doświadczenie z usługami Google Cloud Platform (GCP)
• potrafisz kodować w Pythonie
• bardzo dobrze znasz SQL, PostgreSQL oraz PL/SQL
• masz doświadczenie z Apache Beam
• posiadasz dobrą znajomość Google Cloud SDK, API oraz skryptów
• znasz podstawy DevOps, w tym Git, CI/CD, procesy release'owe

Mile widziane:

• znajomość Dataproc
• doświadczenie w pracy z dużymi, rozproszonymi zbiorami danych
• doświadczenie w rozwiązaniach streamingowych i architekturach event-driven
• doświadczenie w bezpośredniej współpracy z klientem i interesariuszami biznesowymi

Zadania:

• projektowanie, rozwój i utrzymanie batchowych oraz streamingowych pipeline'ów danych z wykorzystaniem usług GCP
• budowanie procesów ETL/ELT przy użyciu Dataflow, Apache Beam i Python
• projektowanie oraz optymalizacja modeli danych i zapytań w PostgreSQL i PL/SQL
• tworzenie i utrzymywanie workflowów orkiestracyjnych w Airflow / Cloud Composer
• integracja danych z wielu źródeł oraz przygotowywanie ich do analityki i raportowania w BigQuery i Cloud SQL
• zapewnianie jakości danych, walidacji, monitoringu oraz niezawodności pipeline'ów
• optimizacja wydajności procesów przetwarzania danych i zapytań SQL
• współpraca z zespołami biznesowymi, analitycznymi i aplikacyjnymi przy przekładaniu wymagań na rozwiązania techniczne
• stosowanie praktyk Agile i DevOps w zakresie CI/CD, testowania, wdrażania i utrzymania rozwiązań
• praca z Git i Jenkins w obszarze procesów DevOps

Czego możesz się spodziewać:

• współpracy w oparciu o kontrakt B2B
• pracy hybrydowej: 8 dni w miesiącu z biura w Krakowie
• profesjonalnego procesu rekrutacyjnego - zawsze otrzymasz od nas feedback niezależnie od decyzji

Poznaj nas lepiej https://www.facebook.com/clurgo/