Data Engineer (Databricks)

Capitole; Santiago de Compostela; Presencial; EUR 60.000 - 90.000; Jornada completa

Descripción de la vacante

Capitole busca un Data Engineer Senior para diseñar y operar la plataforma de datos que alimenta un sistema de pricing dinámico e inteligencia de negocio en retail de alto volumen.

Serás referente técnico de la arquitectura de datos, desde ingesta de ERP/POS/e-commerce hasta exposición para ML y BI, con dominio profundo de Databricks y Azure Data Factory.

Formación

• 5+ años de experiencia en ingeniería de datos en entornos productivos.
• Dominio de Databricks como plataforma principal (Delta Lake, Unity Catalog).
• Diseño e implementación de capas Bronze/Silver/Gold y SLA por capa.
• Modelado dimensional (Kimball); esquemas estrella y copo de nieve; claves surrogate.
• PySpark y SQL avanzado (window functions, CTEs, optimización de queries).
• Azure Data Factory: orquestación y movimiento de datos.
• Patrones de ingesta incremental: CDC, watermark, Delta Merge/upsert.
• Control de versiones (Git) y DataOps básicos.

Responsabilidades

• Diseño y evolución de la arquitectura Medallion sobre Databricks/Delta Lake.
• Definición de estándares de ingesta, particionado y versionado de tablas Delta.
• Gobierno de la plataforma: Unity Catalog, permisos, linaje y calidad de datos.
• Selección de patrones de procesamiento: batch, micro-batch y near real-time.
• Diseño de modelos dimensionales para pricing, forecasting y personalization.
• Definición de tablas de hechos y dimensiones (POS, catálogo, tiendas, calendario).
• Colaboración con ML para feature store en la capa Gold.
• Documentación del modelo de datos en catálogo semántico para negocio.
• Construcción de pipelines desde ERP, POS, APIs, feeds de Retail Media y NPS.
• Orquestación con Azure Data Factory; mantener lógica de transformación en Databricks.

Conocimientos

Databricks

Delta Lake

Unity Catalog

PySpark SQL

Structured Streaming

Azure Data Factory

Dimensional Modeling

Kimball Modeling

DataOps basics

Data quality tools

Data governance

Herramientas

dbt

Kafka

Purview

Delta tooling

Descripción del empleo

Data Engineer (Databricks) Capitole Santiago de Compostela, A Coruña, santiago (comarca); provincia de la coruña; galicia, Spain

Descripción del trabajo

Buscamos un/a Data Engineer Senior para diseñar y operar la plataforma de datos que alimenta un sistema de pricing dinámico e inteligencia de negocio en entornos retail de alto volumen. La persona seleccionada será el referente técnico de la arquitectura de datos: desde la ingesta de fuentes operacionales (ERP, POS, e-commerce, footfall) hasta la exposición de datos listos para consumo por modelos de ML y herramientas de BI.

El rol requiere dominio profundo de Databricks como plataforma central y sólido conocimiento de la arquitectura Medallion (Bronze / Silver / Gold), así como experiencia en modelado de datos dimensional y capacidad para trabajar con Azure Data Factory como orquestador de pipelines.

Responsabilidades principales

• Diseño y evolución de la arquitectura Medallion (Bronze → Silver → Gold) sobre Databricks / Delta Lake.
• Definición de estándares de ingesta, particionado, compactación y versionado de tablas Delta.
• Gobierno de la plataforma: Unity Catalog, gestión de permisos, linaje de datos y calidad (Great Expectations o similar).
• Evaluación y decisión de patrones de procesamiento: batch, micro-batch (Structured Streaming) y near real-time según el caso de uso.
• Diseño de modelos dimensionales (esquemas estrella y copo de nieve) orientados a casos de uso de pricing, forecasting y personalización.
• Definición de tablas de hechos y dimensiones: transacciones POS, catálogo de productos, maestro de tiendas, calendario promocional.
• Colaboración con el equipo de ML para diseñar y mantener el feature store sobre la capa Gold.
• Documentación del modelo de datos en un catálogo semántico accesible para usuarios de negocio y analítica.
• Construcción de pipelines de ingesta desde fuentes heterogéneas: ERP (SAP u otros), POS, APIs de e-commerce, feeds de Retail Media, NPS.
• Uso de Azure Data Factory para orquestación de movimientos de datos entre sistemas origen y el lakehouse — con preferencia por mantener la lógica de transformación en Databricks (PySpark / SQL).
• Implementación de patrones de ingesta incremental (CDC, watermark, upsert con Delta Merge) para minimizar latencia y coste.
• Testing de pipelines: validaciones de schema, checks de completitud y pruebas de regresión sobre datos.
• Monitorización de jobs en Databricks Workflows: alertas, reintentos y gestión de dependencias.
• Optimización de costes de cómputo: sizing de clusters, uso de Photon, Auto Loader y optimizaciones de Delta (OPTIMIZE / ZORDER).
• Soporte a incidencias de datos en producción (on-call rotatorio con el equipo).

Colaboración

• Trabajo estrecho con Data Scientists para garantizar que el feature store cubra los requisitos de los modelos de pricing y recomendación.
• Acompañamiento a analistas de negocio en la definición de métricas y KPIs sobre la capa Gold.
• Participación en code reviews, definición de convenciones de nombrado y estándares de calidad del equipo.

Requisitos imprescindibles

• 5+ años de experiencia en ingeniería de datos en entornos productivos.
• Experiencia sólida con Databricks como plataforma principal; Delta Lake, Databricks Workflows, Unity Catalog.
• Diseño e implementación de capas Bronze / Silver / Gold, granularidad, particionado y SLA por capa.
• Dominio de modelado dimensional (Kimball); diseño de esquemas estrella y copo de nieve; claves surrogadas, SCDs y tablas de hechos.
• PySpark y SQL avanzado (window functions, CTEs, optimización de queries).
• Azure Data Factory: conocimiento funcional para orquestación y movimiento de datos
• Experiencia con patrones de ingesta incremental: CDC, watermark, Delta Merge / upsert.
• Familiaridad con control de versiones (Git) y prácticas de DataOps básicas.

Valorables

• Experiencia en retail, travel retail o sectores con datos transaccionales de alto volumen.
• Conocimiento de herramientas de calidad de datos: Great Expectations, Soda o similar.
• Experiencia con dbt (data build tool) para transformaciones SQL sobre la capa Silver/Gold.
• Familiaridad con eventos en streaming: Kafka, Event Hubs o Databricks Structured Streaming.
• Conocimiento de herramientas de catálogo y linaje: Purview, Alation o Unity Catalog avanzado.
• Experiencia colaborando con equipos de ML en el diseño de feature stores (Feast, Tecton o solución custom).