Senior Data Engineer - Google Cloud Platform Berlin (m/w/d)

United States Digital Space LLC; Berlin; Vor Ort; EUR 60.000 - 80.000; Vollzeit

Zusammenfassung

United States Digital Space LLC mit Sitz in Berlin sucht einen erfahrenen Data Engineer. Sie sind verantwortlich für die Entwicklung und den Betrieb von Datenflüssen in der Google Cloud, wobei Sie auf moderne Best Practices setzen.

Der ideale Kandidat hat mehrjährige Erfahrung in Data Engineering oder Software Engineering, Kenntnisse in Google Cloud und Apache Kafka, sowie sehr gute Fähigkeiten in Python und Spark. Fließende Englisch- und gute Deutschkenntnisse sind erforderlich.

Qualifikationen

• Mehrjährige Erfahrung im Data Engineering oder Software Engineering.
• Kenntnisse in Google Cloud Platform und Apache Kafka.
• Sehr gute Kenntnisse in Python und Spark.
• Erfahrung mit CI/CD und automatisierten Tests.

Aufgaben

• Entwickeln von hochperformanten Datenflüssen im Google Cloud Data Lakehouse.
• Optimierung der Cloud-Architektur und Sicherstellung der Skalierbarkeit.
• Anwendung moderner Software-Engineering-Methoden.
• Unterstützung der Weiterentwicklung von Orchestrierungs-Tools.
• Implementierung automatisierter Validierungsprozesse.

Kenntnisse

Data Engineering

Big Data

Cloud-Infrastruktur

Google Cloud Platform

Apache Kafka

Python

Spark

Kubernetes/Docker

Apache Airflow

dbt

Versionsverwaltung (Git)

Jobbeschreibung

Standort: Karl-Liebknecht-Straße 32, 10178 Berlin

Abteilung / Bereich: IT - BI, AI & Data

Schwarz Digits schafft das technologische Fundament für digitale Entscheidungsfreiheit in Europa. Als IT- und Digitalsparte der Schwarz Gruppe entwickeln und verantworten wir einerseits die IT-Infrastrukturen für die Handelssparten Lidl und Kaufland sowie die Schwarz Produktion und PreZero. Gleichzeitig agieren wir als unabhängiger Anbieter am externen Markt, um Unternehmen in ganz Europa bei ihrer digitalen Transformation zu unterstützen. Unsere Kernleistungen bündeln wir in den Bereichen Cloud, Cyber Security, Data & AI, Communication und Workspace. Trage auch du zur digitalen Entscheidungsfreiheit in Europa bei.

Bei uns arbeitest du an der Schnittstelle zwischen Agilität und Sicherheit: Du profitierst von den schnellen Entscheidungswegen, genießt echte Gestaltungsspielräume in deinen Projekten und baust dabei auf das stabile Fundament der Schwarz Gruppe.

Deine Aufgaben

• Data Product Engineering: Du konzipierst, entwickelst und betreibst hochperformante Batch- und Streaming-Datenflüsse in unserem zentralen Google Cloud Data Lakehouse für Analytics- und Machine-Learning-Anwendungsfälle.
• Architektur & Skalierung: Du optimierst die Cloud-Architektur (GCP), stellst die Skalierbarkeit unserer Lösungen sicher und entwickelst unsere Standards für die Datenverarbeitung in Echtzeit und Batch weiter.
• Software Excellence: Du wendest moderne Software-Engineering-Methoden an und setzt neue Maßstäbe für CI/CD, automatisiertes Testing und Deployment-Prozesse in der Datenorganisation.
• Framework-Mitgestaltung: Du unterstützt die Weiterentwicklung unserer zentralen Orchestrierungs-Tools (auf Basis von Airflow und dbt), um die Effizienz und Qualität der Datenbereitstellung unternehmensweit zu steigern.
• Datenqualität & Governance: Du implementierst automatisierte Validierungsprozesse (z. B. für Streaming-Events) und stellst die Einhaltung von Sicherheits- und Datenschutzstandards sicher.
• Agile Kollaboration: Du arbeitest in interdisziplinären Teams eng mit Product Ownern, Data Scientists und Fachbereichen zusammen, um komplexe Business-Anforderungen in technische Lösungen zu übersetzen.

Dein Profil

• Erfahrung: Mehrjährige fundierte Erfahrung im Data Engineering, Big Data Umfeld oder Software Engineering, idealerweise in einer Senior-Rolle.
• Cloud & Streaming-Expertise: Du bringst fundierte Kenntnisse in Cloud-Infrastrukturen mit (Google Cloud Platform) sowie tiefe Erfahrung in der Verarbeitung von Echtzeitdaten mit Apache Kafka.
• Tech-Stack: Sehr gute Kenntnisse in Python und Spark. Du bist sicher im Umgang mit Containerisierung (Kubernetes/Docker).
• Orchestrierung & Transformation: Erfahrung mit Tools wie Apache Airflow und Transformationen via dbt ist von großem Vorteil.
• Software Best Practices: Du bist sicher im Umgang mit dem Softwareentwicklungszyklus, Versionsverwaltung (Git) sowie DevOps-Prinzipien und automatisierten Tests.
• Konzeptionelle Stärke: Du begeisterst dich für moderne Architektur-Konzepte wie Data Lakehouses und Data Mesh und hast Freude daran, technologische Standards aktiv mitzugestalten.
• Persönlichkeit: Analytisches Denkvermögen, ein agiles Mindset sowie eine eigenverantwortliche und lösungsorientierte Arbeitsweise.
• Sprachen: Sehr gute Englischkenntnisse; Deutschkenntnisse sind bevorzugt.