Senior Data Engineer — Aws, Spark & Lakehouse (Remote)

Pyyne Digital; Neuquén; A distancia; ARS 61.816.000 - 108.178.000; Jornada completa

Descripción de la vacante

Pyyne Digital busca un Ingeniero de Datos Senior para diseñar y operar pipelines ETL/ELT en Azure, garantizando ingesta y gobernanza de datos para analítica y modelos. Se trabajará con Azure Data Factory, Azure Databricks y almacenamiento en Data Lake Gen2, asegurando rendimiento y calidad.

Se valorará experiencia en Delta Lake, PySpark y herramientas de orquestación como Airflow, con opción de 100% remoto desde Argentina. Requisitos de dominio de SQL e inglés técnico.

Formación

• Experiencia comprobable en desarrollo de pipelines ETL/ELT en Azure.
• Dominio de Spark y PySpark para procesamiento distribuido.
• Sólidos conocimientos de SQL y modelado de datos analíticos.
• Diseño e implementación de pipelines escalables y gobernanza de datos.
• Conocimientos prácticos de Delta Lake, almacenamiento y seguridad de datos.

Responsabilidades

• Diseñar, desarrollar y operar pipelines ETL/ELT en Azure.
• Garantizar ingesta, transformación y disponibilidad de datos para analítica.
• Aplicar prácticas de calidad, rendimiento y gobernanza de datos.
• Modelar estructuras y optimizar consultas para reporting.
• Gestionar almacenamiento en Blob/Data Lake Gen2 y particionamiento.
• Automatizar despliegues y pruebas con CI/CD para artefactos de datos.

Conocimientos

SQL

Python

Spark

Data modeling

ETL/ELT design

CI/CD for data

Herramientas

Azure Data Factory

Azure Databricks

Azure Blob Storage

Azure Data Lake Gen2

Delta Lake

Apache Spark

PySpark

Airflow

CI/CD para datos

Descripción del empleo

Senior Data Engineer Aws Spark Lake

Ubicación: Argentina | Puede ser 100% remoto

Integrarte a un equipo de datos para diseñar, desarrollar y operar pipelines ETL/ELT en Azure, garantizando la ingesta, transformación y disponibilidad de datos para consumidores de negocio y modelos analíticos. El rol implica responsabilidad técnica en la implementación de soluciones con Azure Data Factory, Azure Databricks y ecosistemas de almacenamiento (Blob Storage, Data Lake) aplicando buenas prácticas de calidad, rendimiento y gobernanza de datos.

• Integrarte a un equipo de datos para diseñar, desarrollar y operar pipelines ETL/ELT en Azure, garantizando la ingesta, transformación y disponibilidad de datos para consumidores de negocio y modelos analíticos. El rol implica responsabilidad técnica en la implementación de soluciones con Azure Data Factory, Azure Databricks y ecosistemas de almacenamiento (Blob Storage, Data Lake) aplicando buenas prácticas de calidad, rendimiento y gobernanza de datos.
• Diseñar y desarrollar pipelines de ingestión y transformación de datos utilizando Azure Data Factory y Azure Databricks.
• Implementar procesos ETL/ELT con Apache Spark y PySpark para procesamiento por lotes y en tiempo casi real.
• Modelar y optimizar consultas SQL y estructuras de datos para consumo analítico y reporting.
• Gestionar y organizar datos en Azure Blob Storage y Azure Data Lake (Gen2), definiendo particionamiento, formatos y políticas de retención.
• Construir pipelines reproducibles, parametrizables y observables; instrumentar logging, métricas y alertas.
• Colaborar con equipos de ciencia de datos, BI y producto para definir contratos de datos, SLAs y requisitos de calidad.
• Automatizar despliegues y pruebas de pipelines; aplicar control de versiones y prácticas CI/CD para artefactos de datos.
• Garantizar cumplimiento de políticas de seguridad y privacidad en el manejo de datos sensibles.
• Documentar arquitecturas, pipelines y runbooks; transferir conocimiento al equipo y participar en on-call rotativo cuando aplique.

Requisitos excluyentes

• Experiencia comprobable como Data Engineer (mín. 3 años) trabajando con Azure Data Factory y Azure Databricks.
• Dominio de Apache Spark y PySpark para procesamiento distribuido y optimización de jobs.
• Sólidos conocimientos de SQL: modelado, tuning y optimización de consultas.
• Experiencia en diseño e implementación de pipelines ETL/ELT y en integración de datos.
• Conocimiento práctico de Azure Blob Storage y Azure Data Lake (Gen2), incluyendo formatos como Parquet/Delta Lake.
• Familiaridad con herramientas de orquestación, monitorización y CI/CD aplicadas a datos.
• Inglés técnico: nivel intermedio (lectura de documentación y comunicación con equipos técnicos).
• Residir en Argentina.
• Experiencia con Delta Lake, optimizaciones de storage y compaction.
• Conocimientos en seguridad y gobernanza de datos: RBAC, Data Catalog, políticas de enmascaramiento.
• Familiaridad con Python avanzado y librerías de ingeniería de datos (pandas, numpy, airflow o equivalentes).
• Experiencia con performance tuning de Spark y troubleshooting de jobs en Databricks.
• Certificaciones Azure relacionadas con datos (DP-203, Azure Data Engineer Associate)