Engenheiro De Dados

Beesby; Atibaia; Presencial; BRL 20.000 - 80.000; Tempo integral

Resumo da oferta

Uma empresa de tecnologia em dados está à procura de um profissional para evoluir seu ecossistema de dados baseado em DeltaLake e Spark. O candidato deverá desenvolver pipelines escaláveis em Python, otimizar performance e custos, e monitorar a saúde dos pipelines. Exigências incluem conhecimento avançado em SQL, Python, e metodologias ágeis. O local para esta vaga é em Atibaia, São Paulo, Brasil, com ênfase em soluções opensource.

Qualificações

• Experiência em modelagem de dados e SQL avançado.
• Desenvolvimento de pipelines em Python e Airflow.
• Familiaridade com DeltaLake e arquiteturas medalhão.

Responsabilidades

• Desenvolver e operar pipelines escaláveis baseados em Python.
• Modelar dados, otimizando custo e performance.
• Monitorar saúde e custos dos pipelines.

Conhecimentos

SQL avançado

Python

Spark

Deltalake

Comunicação clara

Ferramentas

GitHub

Airflow

Superset

Descrição da oferta de emprego

segue certinha a vaga : Procuramos um profissional para ajudar a evolução do nosso ecossistema de dados baseado DeltaLake / Spark / Superset, governança, qualidade e performance. Papel hands-on, autonomia e impacto direto no negócio.

Responsabilidades

• Desenvolver e operar pipelines escaláveis baseados em Python.
• Modelar dados, usando um arquitetura medalhão, otimizando custo e performance.
• Otimizar consultas, partições, índices e storage (Parquet / Delta).
• Monitorar saúde / custos dos pipelines e documentar arquitetura, fluxos e dicionário de dados.

Requisitos obrigatórios

• SQL avançado e modelagem.
• Python, Spark, Deltalake e Arquitetura Medalhão.
• Desenvolvimento de pipelines em python e Airflow;
• Versionamento com GitHub e CI / CD.
• Métodos ágeis e comunicação clara com públicos técnicos e de negócio.

Diferenciais

• Conhecimentos de Superset (implantação / uso).
• Conhecimento de Lakehouse.
• Boas práticas de Data Viz.
• Inglês técnico.

Importante é menos foco microsoft e mais foco opensource, python, spark, airdlow, etc