Remote Azure Data Engineer: Etl & Spark Pipelines

Visa Hunt; La Pampa; Remote; ARS 900.000 - 1.500.000; Vollzeit

Zusammenfassung

Visa Hunt busca un Ingeniero de Datos para diseñar, construir y operar pipelines ETL/ELT en Azure, asegurando la ingesta, transformación y disponibilidad para consumo analítico y modelos de negocio.

Trabajará con Azure Data Factory, Azure Databricks y Delta Lake, implementará Spark/PySpark, optimizará consultas SQL y colaborará con equipos de data science y BI, manteniendo CI/CD, seguridad y auditoría de datos.

Qualifikationen

• Experiencia comprobable como Data Engineer (mín. 3 años).
• Experiencia con Azure Data Factory y Azure Databricks.
• Dominio de Apache Spark y PySpark para procesamiento distribuido.
• Conocimientos de SQL: modelado, tuning y optimización de consultas.
• Conocimiento práctico de Azure Blob Storage y Azure Data Lake Gen2 (Parquet/Delta Lake).
• Familiaridad con herramientas de orquestación, monitorización y CI/CD aplicadas a datos.
• Inglés técnico: lectura de documentación y comunicación con equipos técnicos.
• Residir en Argentina.
• Certificaciones Azure relacionadas con datos (DP-203, Azure Data Engineer) o Databricks.
• Experiencia en entornos cloud a gran escala y en trabajo ágil.

Aufgaben

• Diseñar, desarrollar y operar pipelines ETL/ELT en Azure.
• Garantizar ingesta, transformación y disponibilidad para consumo analítico.
• Instrumentar logging, métricas y alertas en pipelines de datos.
• Colaborar con equipos de data science, BI y producto para contratos de datos y SLAs.
• Automatizar despliegues y pruebas de pipelines; prácticas CI/CD y control de versiones.
• Garantizar cumplimiento de políticas de seguridad y gobernanza de datos.

Kenntnisse

Azure Data Factory

Azure Databricks

Apache Spark

PySpark

SQL

Python

Data governance

CI/CD for data

Tools

Azure Blob Storage

Azure Data Lake Gen2

Delta Lake

Parquet

Airflow

Git

Jobbeschreibung

Ubicación: Argentina | Puede ser 100% remoto

Integrarte a un equipo de datos para diseñar, desarrollar y operar pipelines ETL/ELT en Azure, garantizando la ingesta, transformación y disponibilidad de datos para consumidores de negocio y modelos analíticos. El rol implica responsabilidad técnica en la implementación de soluciones con Azure Data Factory, Azure Databricks y ecosistemas de almacenamiento (Blob Storage, Data Lake) aplicando buenas prácticas de calidad, rendimiento y gobernanza de datos.

Diseñar y desarrollar pipelines de ingestión y transformación de datos utilizando Azure Data Factory y Azure Databricks.

Implementar procesos ETL/ELT con Apache Spark y PySpark para procesamiento por lotes y en tiempo casi real.

Modelar y optimizar consultas SQL y estructuras de datos para consumo analítico y reporting.

Gestionar y organizar datos en Azure Blob Storage y Azure Data Lake (Gen2), definendo particionamiento, formatos y políticas de retención.

Construir pipelines reproducibles, parametrizables y observables; instrumentar logging, métricas y alertas.

Colaborar con equipos de ciencia de datos, BI y producto para definir contratos de datos, SLAs y requisitos de calidad.

Automatizar despliegues y pruebas de pipelines; aplicar control de versiones y prácticas CI/CD para artefactos de datos.

Garantizar cumplimiento de políticas de seguridad y privacidad en el manejo de datos sensibles.

Documentar arquitecturas, pipelines y runbooks; transferir conocimiento al equipo y participar en on-call rotativo cuando aplique.

Requisitos excluyentes

Experiencia comprobable como Data Engineer (mín. 3 años) trabajando con Azure Data Factory y Azure Databricks.

Dominio de Apache Spark y PySpark para procesamiento distribuido y optimización de jobs.

Sólidos conocimientos de SQL: modelado, tuning y optimización de consultas.

Experiencia en diseño e implementación de pipelines ETL/ELT y en integración de datos.

Conocimiento práctico de Azure Blob Storage y Azure Data Lake (Gen2), incluyendo formatos como Parquet/Delta Lake.

Familiaridad con herramientas de orquestación, monitorización y CI/CD aplicadas a datos.

Inglés técnico: nivel intermedio (lectura de documentación y comunicación con equipos técnicos).

Residir en Argentina.

Experiencia con Delta Lake, optimizaciones de storage y compaction.

Conocimientos en seguridad y gobernanza de datos: RBAC, Data Catalog, políticas de enmascaramiento.

Familiaridad con Python avanzado y librerías de ingeniería de datos (pandas, numpy, airflow o equivalentes).

Experiencia con performance tuning de Spark y troubleshooting de jobs en Databricks.

Certificaciones Azure relacionadas con datos (DP-203, Azure Data Engineer Associate) o Databricks.

Experiencia en entornos cloud a gran escala y en trabajo ágil con equipos multidisciplinarios.