Data Engineer - Bad Friedrichshall (m/w/d)

Schwarz Digits; Bad Friedrichshall; Vor Ort; EUR 80.000 - 120.000; Vollzeit

Zusammenfassung

Schwarz Digits sucht eine erfahrene Data-/Software-Engineer in Baden-Württemberg, die skalierbare ETL-/ELT-Pipelines für Analytics und ML auf GCP entwickelt und betreibt.

Sie arbeiten an Lakehouse-Governance, Streaming mit Kafka/Spark, schreiben sauberen Code, und setzen DevOps-Praktiken (Airflow, Docker/Kubernetes, CI/CD) um – in enger Abstimmung mit Data Scientists und Fachbereichen.

Erfahrung mit Open-Table-Formaten (Iceberg/Delta Lake) und Schema-Evolution ist willkommen.

Qualifikationen

• Mindestens vier Jahre Erfahrung im Data- oder Software-Engineering.
• Fundierte Kenntnisse in der Python-Entwicklung mit Fokus auf saubere Software-Prinzipien; JRE-Kenntnisse und Tests sind ein Plus.
• Praktische Erfahrung in der Entwicklung von Batch- und Streaming-ETL-Pipelines; Kenntnisse von Apache Spark oder ähnlichen Frameworks.

Aufgaben

• ETL-/ELT-Pipelines für Analytics und ML auf GCP entwickeln, betreiben und optimieren.
• Lakehouse-Governance mit Open-Table-Formaten (Iceberg/Delta Lake) implementieren.
• Streaming- & Messaging-Lösungen mit Apache Kafka und Apache Spark betreuen.
• Sauberen, gut getesteten Code schreiben und bewährte Softwaremuster anwenden.
• DevOps & Operations: Airflow-DAGs, CI/CD-Pipelines und Kubernetes-Deployments pflegen und Systemgesundheit überwachen.
• Agile Kollaboration: enge Abstimmung mit Data Scientists, Product Ownern und Fachbereichen.

Kenntnisse

Python-Entwicklung

Daten-Engineering

Testen/Qualitätssicherung

Tools

Apache Spark

Apache Airflow

Apache Kafka

Docker

Kubernetes

Google Cloud Platform (GCP)

Jobbeschreibung

Schwarz Digits schafft das technologische Fundament für digitale Entscheidungsfreiheit in Europa. Als IT- und Digitalsparte der Schwarz Gruppe entwickeln und verantworten wir einerseits die IT-Infrastrukturen für die Handelssparten Lidl und Kaufland sowie die Schwarz Produktion und PreZero. Gleichzeitig agieren wir als unabhängiger Anbieter am externen Markt, um Unternehmen in ganz Europa bei ihrer digitalen Transformation zu unterstützen. Unsere Kernleistungen bündeln wir in den Bereichen Cloud, Cyber Security, Data & AI, Communication und Workspace. Trage auch du zur digitalen Entscheidungsfreiheit in Europa bei. Bei uns arbeitest du an der Schnittstelle zwischen Agilität und Sicherheit: Du profitierst von den schnellen Entscheidungswegen, genießt echte Gestaltungsspielräume in deinen Projekten und baust dabei auf das stabile Fundament der Schwarz Gruppe.

Deine Aufgaben

• ETL & Data Pipelines: Du entwickelst, betreibst und optimierst skalierbare ETL/ELT-Pipelines für Analytics und ML auf GCP.
• Lakehouse & Governance: Du baust Dateninfrastrukturen mit Open-Table-Formaten (Iceberg, Delta Lake) und setzt Zugriffsrechte (RLS/CLS), Kataloge (Unity Catalog) sowie Datenvalidierungen um.
• Streaming & Messaging: Du entwickelst und betreust Event-Driven-Lösungen mit Apache Kafka und Apache Spark.
• Software Excellence: Du schreibst sauberen, gut getesteten Code (Unit-, Integrations- & E2E-Tests) und wendest bewährte Softwaremuster an.
• DevOps & Operations: Du pflegst Airflow-DAGs, CI/CD-Pipelines sowie Kubernetes-Deployments und überwachst die Systemgesundheit zur Vermeidung von Ausfällen.
• Agile Kollaboration: Du arbeitest eng mit Data Scientists, Product Ownern und Fachbereichen zusammen, um Anforderungen in robuste Datenlösungen zu übersetzen.

Dein Profil

• Du hast ausgeprägte Erfahrung im Data- oder Software Engineering über mindestens vier Jahre.
• Du verfügst über fundierte Kenntnisse in der Python-Entwicklung mit Fokus auf saubere Software-Prinzipien. JRE-Kenntnisse und praktische Erfahrung mit Softwaretests sind ein deutlicher Pluspunkt.
• Du bringst praktische Erfahrung in der Entwicklung von Batch- und Streaming-ETL-Pipelines mit. Du kennst dich mit Apache Spark oder ähnlichen Frameworks aus.
• Du weißt, wie man Schema-Evolution handhabt und Lakehouse-Speicherstrukturen pflegt. Wissen über moderne Open-Table-Formate wie Apache Iceberg oder Delta Lake, sind wünschenswert.
• Du orchestrierst komplexe Workflows souverän mittels Apache Airflow.
• Du verfügst über praktische Erfahrung mit Apache Kafka für Echtzeit-Messaging und Event-Processing.
• Du hast Erfahrung mit der Arbeit an containerisierten Anwendungen in Cloud-Umgebungen. Dies umfasst den praktischen Einsatz von Docker oder Kubernetes, vorzugsweise in der Google Cloud Platform.
• Du wendest etablierte Praktiken des DevOps- und Software-Engineering in deiner täglichen Arbeit an. Dazu gehören die Nutzung von Git, das Schreiben automatisierter Tests und das Bereitstellen von Code über CI/CD-Pipelines.
• Du verfolgst einen eigenverantwortlichen und detailorientierten Ansatz zur Gewährleistung von Datenintegrität. Du agierst erfolgreich in agilen Teamstrukturen und legst stets Wert auf hohe Qualität.