Databricks Data Engineer | Freiberuflich

UMATR; Berlin; Vor Ort; EUR 83.000 - 152.000; Vollzeit

Zusammenfassung

UMATR in Berlin sucht einen erfahrenen Senior Databricks Data Engineer zur Unterstützung eines 6-monatigen Freelance-Vertrags. Du arbeitest an einer modernen Datenplattform, mit Databricks im Zentrum.

Zu deinen Aufgaben gehören der Aufbau skalierbarer Pipelines mit PySpark, Python und SQL, Delta Lake/Lakehouse-Architekturen, Migration von Workloads und Performance-Optimierung. Du bringst 5+ Jahre Data-Engineering-Erfahrung, Databricks-Expertise sowie Cloud-Kenntnisse (Azure/AWS/GCP) mit und

Qualifikationen

• 5+ Jahre Erfahrung im Data Engineering.
• Fundierte praktische Erfahrung mit Databricks.
• Sehr gute PySpark-, Python- und SQL-Kenntnisse.
• Fundiertes Verständnis von Delta Lake und Lakehouse-Architekturen.
• Erfahrung in der Entwicklung und Optimierung produktiver Datenpipelines.
• Erfahrung mit Cloud-Plattformen (Azure/AWS/GCP).
• Selbstständige Arbeitsweise und schnelle Verantwortungsübernahme.

Aufgaben

• Entwicklung und Aufbau skalierbarer Datenpipelines innerhalb von Databricks.
• Entwicklung produktionsreifer Workloads mit PySpark, Python und SQL.
• Umfangreiche Arbeit mit Delta Lake und Lakehouse-Architekturen.
• Unterstützung bei der Migration bestehender Workloads zu Databricks.
• Optimierung von Spark-Workloads und Pipeline-Performance.
• Aufbau zuverlässiger ETL-/ELT-Prozesse für große Datenmengen.
• Zusammenarbeit mit Data Scientists, Analytics Engineers und Cloud Engineers.
• Implementierung von Datenqualität, Tests und Monitoring.
• Mitwirkung an der übergreifenden Architektur und technischen Weiterentwicklung der Plattform.

Kenntnisse

Databricks

PySpark

Python

SQL

Delta Lake

Lakehouse

Eigenverantwortung

Cloud (Azure)

Cloud (AWS)

Cloud (GCP)

Jobbeschreibung

Wir arbeiten mit einem europäischen Technologieunternehmen zusammen, das sich aktuell in einer umfassenden Transformation seiner Datenplattform befindet. Dafür wird ein Senior Databricks Data Engineer gesucht, der das Team zunächst im Rahmen eines 6-monatigen Freelance-Vertrags unterstützt.

Du kommst in ein Umfeld, in dem die Datenplattform aktiv aufgebaut und modernisiert wird, wobei Databricks im Zentrum der Architektur steht.

Woran du arbeiten wirst

• Entwicklung und Aufbau skalierbarer Datenpipelines innerhalb von Databricks
• Entwicklung produktionsreifer Workloads mit PySpark, Python und SQL
• Umfangreiche Arbeit mit Delta Lake und Lakehouse-Architekturen
• Unterstützung bei der Migration bestehender Workloads zu Databricks
• Optimierung von Spark-Workloads und Verbesserung der Pipeline-Performance
• Aufbau zuverlässiger ETL-/ELT-Prozesse für große Datenmengen
• Zusammenarbeit mit Data Scientists, Analytics Engineers und Cloud Engineers
• Implementierung von Datenqualität, Tests und Monitoring
• Mitwirkung an der übergreifenden Architektur und technischen Weiterentwicklung der Plattform

Das bringst du mit

• 5+ Jahre Erfahrung im Bereich Data Engineering
• Fundierte praktische Erfahrung mit Databricks
• Sehr gute Kenntnisse in PySpark, Python und SQL
• Fundiertes Verständnis von Delta Lake und Lakehouse-Architekturen
• Erfahrung in der Entwicklung und Optimierung produktiver Datenpipelines
• Erfahrung mit Azure, AWS oder GCP
• Erfahrung in großen und komplexen Datenumgebungen
• Die Fähigkeit, selbstständig zu arbeiten und schnell Verantwortung zu übernehmen