Remote Azure Data Engineer: Etl, Spark & Delta Lake

Visa Hunt; Rosario; Remote; ARS 53,807,000 - 107,614,000; Full time

Job summary

Visa Hunt busca un Data Engineer para unirse a un equipo de datos enfocado en diseñar, desarrollar y operar pipelines ETL/ELT en Azure. Se requiere experiencia con Azure Data Factory y Azure Databricks, además de dominio de Spark y PySpark para procesamiento distribuido.

También se demanda sólidos conocimientos en SQL, modelado de datos y gestión de datos en Data Lake/Gestion de almacenamiento en Azure. Se valorará experiencia con herramientas de orquestación como Airflow y prácticas CI/CD.

Qualifications

• Experiencia comprobable como Data Engineer con Azure Data Factory y Azure Databricks.
• Dominio de Apache Spark y PySpark para procesamiento distribuido.
• Sólidos conocimientos de SQL: modelado y tuning.
• Diseño e implementación de pipelines ETL/ELT.
• Conocimiento práctico de Azure Blob Storage y Data Lake Gen2.
• Familiaridad con herramientas de orquestación y CI/CD aplicadas a datos.
• Inglés técnico intermedio.
• Residir en Argentina.
• Experiencia con Delta Lake y optimizaciones de storage.
• Conocimientos en seguridad y gobernanza de datos: RBAC, Data Catalog.
• Python avanzado y librerías de ingeniería de datos (pandas, numpy, airflow).
• Certificaciones Azure (DP-203) o Databricks.
• Experiencia en entornos cloud a gran escala y trabajo ágil.

Responsibilities

• Diseñar, construir y operar pipelines ETL/ELT en Azure para ingestion/transformación de datos.
• Implementar procesos con Spark/PySpark para batch y near-real-time.
• Modelar y optimizar consultas SQL y estructuras de datos para analytics.
• Gestionar datos en Azure Blob Storage y Data Lake Gen2 con particionamiento y formatos.
• Construir pipelines reproducibles con logging, métricas y alertas.
• Colaborar con data science, BI y producto para definir contratos de datos y SLAs.
• Automatizar despliegues y pruebas de pipelines con CI/CD.
• Asegurar cumplimiento de políticas de seguridad y gobernanza de datos.

Skills

Azure Data Factory

Azure Databricks

SQL tuning

PySpark

Python

CI/CD

Data governance

Delta Lake

Data modeling

Security

Tools

Apache Airflow

Git

Job description

Ubicación: Argentina | Puede ser 100% remoto

Integrarte a un equipo de datos para diseñar, desarrollar y operar pipelines ETL/ELT en Azure, garantizando la ingesta, transformación y disponibilidad de datos para consumidores de negocio y modelos analíticos. El rol implica responsabilidad técnica en la implementación de soluciones con Azure Data Factory, Azure Databricks y ecosistemas de almacenamiento (Blob Storage, Data Lake) aplicando buenas prácticas de calidad, rendimiento y gobernanza de datos.

Diseñar y desarrollar pipelines de ingestión y transformación de datos utilizando Azure Data Factory y Azure Databricks.

Implementar procesos ETL/ELT con Apache Spark y PySpark para procesamiento por lotes y en tiempo casi real.

Modelar y optimizar consultas SQL y estructuras de datos para consumo analítico y reporting.

Gestionar y organizar datos en Azure Blob Storage y Azure Data Lake (Gen2), definiendo particionamiento, formatos y políticas de retención.

Construir pipelines reproducibles, parametrizables y observables; instrumentar logging, métricas y alertas.

Colaborar con equipos de ciencia de datos, BI y producto para definir contratos de datos, SLAs y requisitos de calidad.

Automatizar despliegues y pruebas de pipelines; aplicar control de versiones y prácticas CI/CD para artefactos de datos.

Garantizar cumplimiento de políticas de seguridad y privacidad en el manejo de datos sensibles.

Documentar arquitecturas, pipelines y runbooks; transferir conocimiento al equipo y participar en on-call rotativo cuando aplique.

Requisitos excluyentes

Experiencia comprobable como Data Engineer (mín. 3 años) trabajando con Azure Data Factory y Azure Databricks.

Dominio de Apache Spark y PySpark para procesamiento distribuido y optimización de jobs.

Sólidos conocimientos de SQL: modelado, tuning y optimización de consultas.

Experiencia en diseño e implementación de pipelines ETL/ELT y en integración de datos.

Conocimiento práctico de Azure Blob Storage y Azure Data Lake (Gen2), incluyendo formatos como Parquet/Delta Lake.

Familiaridad con herramientas de orquestación, monitorización y CI/CD aplicadas a datos.

Inglés técnico: nivel intermedio (lectura de documentación y comunicación con equipos técnicos).

Residir en Argentina.

Experiencia con Delta Lake, optimizaciones de storage y compaction.

Conocimientos en seguridad y gobernanza de datos: RBAC, Data Catalog, políticas de enmascaramiento.

Familiaridad con Python avanzado y librerías de ingeniería de datos (pandas, numpy, airflow o equivalentes).

Experiencia con performance tuning de Spark y troubleshooting de jobs en Databricks.

Certificaciones Azure relacionadas con datos (DP-203, Azure Data Engineer Associate) o Databricks.

Experiencia en entornos cloud a gran escala y en trabajo ágil con equipos multidisciplinarios.