Senior Data Engineer (d/w/m)

Spotmyenergy; Köln, Berlin; Hybrid; EUR 90.000 - 130.000; Vollzeit

Benefits dieser Stelle

Hybrid-friendly Arbeitsumgebung

Gestaltunsspielraum & Eigenverantwort

Zusammenfassung

SpotmyEnergy sucht einen Senior Data Engineer (d/w/m) in Köln, der das Data Lake und die BI-Plattform auf Databricks betreibt und Airflow-Pipelines für Messwerte und Energiedaten entwickelt.

Sie modellieren Datenbanken (Postgres, TimescaleDB) und arbeiten eng mit dem Data-Science-Team zusammen, um saubere Daten für alle Squads bereitzustellen. AWS-Kenntnisse und ein robustes Monitoring sind Voraussetzung.

Qualifikationen

• Mehrere Jahre Erfahrung im Aufbau und Betrieb produktiver Datenplattformen oder Data Lakes.
• Fundierte Kenntnisse in Databricks/Spark sowie Airflow oder vergleichbaren Orchestrierungstools.
• Sehr gutes SQL, tiefe Postgres-Erfahrung, TimescaleDB und sicherer Python.
• Sicherer Umgang mit AWS, idealerweise inklusive managed Airflow über Astronomer und Databricks als Hosted Service.

Aufgaben

• Aufbau und Betrieb des Data Lake sowie der BI-Plattform auf Databricks.
• Entwurf, Bau und Wartung von Airflow-Pipelines für Messwerte- und Energiedaten.
• Modellierung und Optimierung von Postgres- und Zeitreihendatenbanken.
• Monitoring, Alerting und Incident-Response, Früherkennung von Problemen.
• Bereitstellung sauberer, gut strukturierter Daten als Service für alle Squads.
• Technische Weiterentwicklung der Datenplattform und Einführung neuer Tools.
• Dokumentation und Wissensaustausch im Team.
• Enger Austausch mit dem Data-Science-Team.

Kenntnisse

Databricks/Spark

Airflow

SQL

Postgres

TimescaleDB

Python

AWS

Monitoring/Alerting

Tools

Astronomer

Databricks Hosted Service

Jobbeschreibung

Deine Mission

AlsSenior Data Engineer (d/w/m) bei SpotmyEnergy wirst Du Teil eines energiegeladenen Teams, das die Energiewende in die Haushalte bringt! Bei uns baust und betreibst Du das Rückgrat unserer Datenorganisation – unseren Data Lake und unsere BI-Plattform auf Databricks sowie die Airflow-Pipelines, die unsere Mess- und Energiedaten am Laufen halten. Unser Datenteam versteht sich als Service für das ganze Unternehmen, und genau hier kommst Du ins Spiel.
Du modellierst und optimierst unsere Postgres- und Zeitreihendatenbanken, denkst Monitoring und Alerting von Anfang an mit und sorgst dafür, dass jedes Squad auf saubere, gut dokumentierte Daten zugreifen kann. Mit modernen Tools auf AWS und einem Team im Rücken baust Du eine Plattform, die mit uns mitwächst.

Deine Verantwortlichkeiten

• Aufbau und Betrieb unseres Data Lake sowie der BI-Plattform auf Databricks
• Entwurf, Bau und Wartung von Airflow-Pipelines für Messwert- und Energiedaten
• Modellierung und Optimierung unserer Postgres- und Zeitreihendatenbanken
• Verantwortung für Monitoring, Alerting und Incident Response, damit Probleme früh auffallen statt spät
• Bereitstellung sauberer, gut strukturierter Daten als Service für alle Squads, inklusive eigener Deep-Dive-Analysen bei Bedarf
• Technische Weiterentwicklung der Datenplattform, inklusive Auswahl und Einführung neuer Tools, wo sie echten Mehrwert bringen
• Dokumentation und aktive Wissensteilung im Team, statt Wissen nur im eigenen Kopf zu behalten
• Enger Austausch mit dem Data-Science-Team, das sich auf die Plattform als Fundament verlassen können soll

Dein Profil

• Mehrere Jahre Erfahrung im Aufbau und Betrieb produktiver Datenplattformen oder Data Lakes
• Fundierte Kenntnisse in Databricks/Spark sowie Airflow oder vergleichbaren Orchestrierungstools
• Sehr gutes SQL, tiefe Postgres-Erfahrung, Erfahrung mit Zeitreihendatenbanken wie TimescaleDB und sicheres Python
• Sicherer Umgang mit AWS, idealerweise inklusive managed Airflow über Astronomer und Databricks als Hosted Service
• Ein echtes Zuverlässigkeits-Mindset – Monitoring, Alerting und mögliche Fehlerfälle werden von Anfang an mitgedacht
• Starker Teamplayer mit fließenden Deutschkenntnissen und Erfahrung im Energiesektor sind ein Plus

Unser Offer

• Mission & Growth:Werde Teil eines wachstumsstarken Scale-ups, das die Energiewende mit smarten, skalierbaren Lösungen aktiv vorantreibt

• Impact auf allen Ebenen:Bei uns baust Du die Datenplattform, auf die sich das ganze Unternehmen verlässt, und siehst direkt, wie Deine Arbeit jedes Squad und jede Entscheidung im Unternehmen beeinflusst

• Spot Spirit:Ein motiviertes, wertschätzendes Team mit kurzen Wegen, offener Kommunikation und Events, die uns zusammenschweißen

• Flexibilität:Moderne, hybrid-friendly Arbeitsumgebung mit viel Gestaltungsspielraum und Eigenverantwortung