Data Engineer - Berlin (m/w/d)

Schwarz Digits; Berlin; Vor Ort; EUR 90.000 - 120.000; Vollzeit

Zusammenfassung

Schwarz Digits arbeitet als IT- und Digitalsparte der Schwarz Gruppe an der Schnittstelle von Agilität und Sicherheit. Wir entwickeln skalierbare ETL/ELT-Pipelines, Lakehouse-Lösungen und datengetriebene Architekturen für Europa.

Du bringst mindestens vier Jahre Erfahrung im Data- oder Software-Engineering mit, kennst Python‑Entwicklung gründlich und hast praktische Erfahrungen mit Open-Table-Formaten sowie Cloud-Technologien.

Qualifikationen

• Mindestens vier Jahre Erfahrung im Data- oder Software-Engineering.
• Fundierte Kenntnisse in Python-Entwicklung und saubere Softwareprinzipien.
• Erfahrung mit Batch- und Streaming-ETL-Pipelines (Apache Spark o. Ä.).
• Erfahrung mit Open-Table-Formaten wie Apache Iceberg oder Delta Lake wünschenswert.
• Erfahrung mit Apache Airflow zur Orchestrierung von Workflows.
• Erfahrung mit Apache Kafka für Echtzeit-Messaging.
• Arbeiten in Cloud-Umgebungen, Docker/Kubernetes, ideal Google Cloud.

Aufgaben

• ETL/ELT-Pipelines entwickeln, betreiben und optimieren (Analytics/ML) auf GCP.
• Dateninfrastrukturen bauen, Zugriffskontrollen (RLS/CLS) implementieren und Kataloge verwalten.
• Event-Driven-Lösungen mit Kafka und Spark betreuen.
• Sauberen, gut getesteten Code schreiben (Unit/Integration/E2E-Tests).
• DevOps: Airflow-DAGs, CI/CD-Pipelines, Kubernetes-Deployments pflegen.
• Agile Kollaboration mit Data Scientists, Product Ownern und Fachbereichen.

Kenntnisse

Data Engineering

Software Engineering

Python

Agile Zusammenarbeit

Datenintegrität

Tools

Apache Spark

Apache Airflow

Apache Kafka

Docker

Kubernetes

Google Cloud Platform

Jobbeschreibung

Schwarz Digits schafft das technologische Fundament für digitale Entscheidungsfreiheit in Europa. Als IT- und Digitalsparte der Schwarz Gruppe entwickeln und verantworten wir einerseits die IT-Infrastrukturen für die Handelssparten Lidl und Kaufland sowie die Schwarz Produktion und PreZero. Gleichzeitig agieren wir als unabhängiger Anbieter am externen Markt, um Unternehmen in ganz Europa bei ihrer digitalen Transformation zu unterstützen. Unsere Kernleistungen bündeln wir in den Bereichen Cloud, Cyber Security, Data & AI, Communication und Workspace. Trage auch du zur digitalen Entscheidungsfreiheit in Europa bei. Bei uns arbeitest du an der Schnittstelle zwischen Agilität und Sicherheit: Du profitierst von den schnellen Entscheidungswegen, genießt echte Gestaltungsspielräume in deinen Projekten und baust dabei auf das stabile Fundament der Schwarz Gruppe.

Deine Aufgaben

• ETL & Data Pipelines: Du entwickelst, betreibst und optimierst skalierbare ETL/ELT-Pipelines für Analytics und ML auf GCP.
• Lakehouse & Governance: Du baust Dateninfrastrukturen mit Open-Table-Formaten (Iceberg, Delta Lake) und setzt Zugriffsrechte (RLS/CLS), Kataloge (Unity Catalog) sowie Datenvalidierungen um.
• Streaming & Messaging: Du entwickelst und betreust Event-Driven-Lösungen mit Apache Kafka und Apache Spark.
• Software Excellence: Du schreibst sauberen, gut getesteten Code (Unit-, Integrations- & E2E-Tests) und wendest bewährte Softwaremuster an.
• DevOps & Operations: Du pflegst Airflow-DAGs, CI/CD-Pipelines sowie Kubernetes-Deployments und überwachst die Systemgesundheit zur Vermeidung von Ausfällen.
• Agile Kollaboration: Du arbeitest eng mit Data Scientists, Product Ownern und Fachbereichen zusammen, um Anforderungen in robuste Datenlösungen zu übersetzen.

Dein Profil

• Du hast ausgeprägte Erfahrung im Data- oder Software Engineering über mindestens vier Jahre.
• Du verfügst über fundierte Kenntnisse in der Python-Entwicklung mit Fokus auf saubere Software-Prinzipien. JRE-Kenntnisse und praktische Erfahrung mit Softwaretests sind ein deutlicher Pluspunkt.
• Du bringst praktische Erfahrung in der Entwicklung von Batch- und Streaming-ETL-Pipelines mit. Du kennst dich mit Apache Spark oder ähnlichen Frameworks aus.
• Du weißt, wie man Schema-Evolution handhabt und Lakehouse-Speicherstrukturen pflegt. Wissen über moderne Open-Table-Formate wie Apache Iceberg oder Delta Lake, sind wünschenswert.
• Du orchestrierst komplexe Workflows souverän mittels Apache Airflow.
• Du verfügst über praktische Erfahrung mit Apache Kafka für Echtzeit-Messaging und Event-Processing.
• Du hast Erfahrung mit der Arbeit an containerisierten Anwendungen in Cloud-Umgebungen. Dies umfasst den praktischen Einsatz von Docker oder Kubernetes, vorzugsweise in der Google Cloud Platform.
• Du wendest etablierte Praktiken des DevOps- und Software-Engineering in deiner täglichen Arbeit an. Dazu gehören die Nutzung von Git, das Schreiben automatisierter Tests und das Bereitstellen von Code über CI/CD-Pipelines.
• Du verfolgst einen eigenverantwortlichen und detailorientierten Ansatz zur Gewährleistung von Datenintegrität. Du agierst erfolgreich in agilen Teamstrukturen und legst stets Wert auf hohe Qualität.