Databricks Data Engineer| Senior | (Remote)

AI/R; Brasil; Presencial; BRL 180 000 - 280 000; Tempo integral

Resumo da oferta

Compass UOL está buscando um Engenheiro de Dados para reconstruir pipelines do DW legado em Databricks, utilizando PySpark e Spark SQL. A posição envolve implementação das camadas bronze/silver/gold, ingestão CDC/batch e validação de paridade com o Lakehouse.

Você trabalhará com Databricks, Delta Lake e ferramentas de CI/CD, além de otimizar performance e custos. Experiência em AWS e Azure Synapse é desejável e haverá documentação técnica das regras migradas.

Qualificações

• Experiência sólida com Engenharia de Dados.
• Desenvolvimento de pipelines batch em escala com PySpark e Python.
• SQL avançado e modelagem de dados em DW.
• Databricks e Delta Lake em produção, com arquitetura bronze/silver/gold.
• Migração/reconstrução de pipelines ETL com CDC/batch de fontes legadas para Spark.
• Ecossistema AWS e Azure Synapse.
• Git e CI/CD aplicados a pipelines de dados.

Responsabilidades

• Reconstruir pipelines do DW legado em Databricks (PySpark / Spark SQL) a partir de especificações.
• Implementar camadas bronze, silver e gold seguindo o template medalhão e padrões de ingestão.
• Executar waves de reconstrução por domínio, em coexistência com o DW legado até o cutover.
• Implementar regras de negócio e transformações com testes automatizados nos pipelines.
• Realizar reconciliação e validação de paridade entre DW legado e Lakehouse.
• Otimizar performance e custo dos pipelines (particionamento, OPTIMIZE/Z-ORDER, dimensionamento).
• Contribuir com documentação técnica das regras migradas e apoiar priorização das waves.

Conhecimentos

PySpark

Python

SQL

Data Engineering

Testes de pipelines

Ferramentas

Databricks

Delta Lake

Delta Live Tables

Lakeflow

Git & CI/CD

AWS (S3, Glue, EMR, Athena, Lambda, DMS, Step Functions)

Azure Synapse

Descrição da oferta de emprego

Responsabilidades e atribuições

• Reconstruir os pipelines do DW legado em Databricks (PySpark / Spark SQL), a partir das especificações geradas pela engenharia reversa;
• Implementar as camadas bronze, silver e gold seguindo o template medalhão, os padrões de ingestão (CDC/batch) e o padrão de reconstrução definidos pelo projeto;
• Executar as waves de reconstrução por domínio, em coexistência com o DW legado até o cutover;
• Implementar regras de negócio e transformações com testes automatizados nos pipelines;
• Realizar a reconciliação e a validação de paridade dos dados entre o DW legado e o Lakehouse;
• Otimizar performance e custo dos pipelines (particionamento, OPTIMIZE/Z-ORDER, dimensionamento de jobs);
• Contribuir com a documentação técnica das regras migradas e apoiar a priorização das waves.

Requisitos e qualificações

• Experiência sólida com Engenharia de Dados;
• PySpark e Python avançados: desenvolvimento de pipelines batch em escala, com testes e boas práticas de engenharia;
• SQL avançado e modelagem de dados: transformações complexas, tuning de performance e modelagem relacional/dimensional em contexto de DW;
• Databricks e Delta Lake: jobs, workflows e arquitetura medalhão (bronze, silver, gold) em produção; Delta Live Tables / Lakeflow e Asset Bundles;
• Migração / reconstrução de pipelines ETL: tradução de regras de negócio de ferramentas legadas para Spark (sem lift-and-shift), com ingestão CDC/batch de bancos relacionais;
• Ecossistema AWS: S3, Glue, EMR, Athena, Lambda, DMS e Step Functions;
• Azure Synapse: experiência com o ambiente legado (SQL pools e pipelines) para apoiar a engenharia reversa;
• Qualidade e reconciliação de dados: testes automatizados, DQ gates e comparação legado × novo para aceite de paridade;
• Git e CI/CD aplicados a pipelines de dados.

Desejáveis

• Conhecimento de DataStage (leitura de jobs para engenharia reversa) — diferencial importante;
• Experiência prévia em programas de migração de DW para lakehouse — diferencial importante;
• Unity Catalog (permissões, lineage) e contratos de dados;
• Experiência no mercado financeiro ou de crédito;
• Certificações Databricks (Data Engineer Associate / Professional).

Become a Compasser, be part of AI/R.

Compass UOL is a global firm and part of the AI Revolution Company, together transforming organizations using Artificial Intelligence, Generative AI, and other of today’s most advanced technologies.

We equip our team with proprietary and external AI-driven tools to design and build digital-native platforms, integrating cutting-edge technologies and enabling companies to innovate, transform their businesses, and drive success in their markets.

To achieve this, we attract and develop the best talent, creating opportunities that enhance people’s lives and highlight the positive impact of disruptive technologies.

We empower borderless talent and promote knowledge and opportunities in the latest market trends, driving significant personal and professional growth.

Join us and be part of the AI-driven revolution.