Databricks Data Engineer | Senior (Remote)

AI/R; Brasil; In loco; BRL 223.000 - 446.000; Tempo pieno

Vantaggi offerti da questo lavoro

Vale-refeição

Plano de saúde

Plano odontológico

Auxílio home office

Seguro de vida

Certificações e capacitação

Programa de indicações

Descrizione del lavoro

Compass UOL está recrutando para atuar em Engenharia de Dados, desenvolvendo e evoluindo soluções com o ecossistema Databricks. O papel envolve definição de arquiteturas Lakehouse/Medallion, pipelines com PySpark/Delta Lake, e integração de dados via Azure Data Factory.

Responsável por APIs REST, automações em Python e governança de dados, com foco em desempenho, escalabilidade e redução de custos. Liderança técnica e orientação de equipe são diferenciais desejados.

Competenze

• Experiência sólida e avançada em projetos produtivos com Databricks.

Mansioni

• Desenvolver, implementar e evoluir soluções de Engenharia de Dados com Databricks;
• Definir arquiteturas de dados Lakehouse e Medallion (Bronze, Silver, Gold);
• Desenvolver, otimizar e manter pipelines com Databricks, PySpark, Spark SQL e Delta Lake;
• Ingestão, processamento e integração de dados, incluindo CDC e Structured Streaming;
• Orquestrar pipelines e integrações via Azure Data Factory (ADF);
• Desenvolver APIs REST, microsserviços e automações com Python;
• Garantir governança, segurança, linhagem e controle de acesso aos dados;
• Otimizar performance, escalabilidade e custos;
• Coordenar observabilidade e sustentação de pipelines em produção;
• Ser referência técnica e orientar a equipe com boas práticas de engenharia de dados.

Conoscenze

Databricks

PySpark

Spark SQL

Delta Lake

Azure Data Factory

Python

Unity Catalog

Git

CI/CD

Data Governance

Strumenti

Azure Data Factory

Databricks Workflows

Auto Loader

Photon

Declarative Automation Bundles

Descrizione del lavoro

• Atuar no desenvolvimento, implementação e evolução de soluções de Engenharia de Dados utilizando o ecossistema Databricks;
• Definir e implementar arquiteturas de dados escaláveis, baseadas no modelo Lakehouse e na arquitetura Medallion (Bronze, Silver e Gold);
• Desenvolver, otimizar e manter pipelines de dados utilizando Databricks, PySpark, Spark SQL e Delta Lake;
• Implementar soluções de ingestão, processamento e integração de dados, incluindo CDC e Structured Streaming;
• Atuar na orquestração de pipelines e integração de sistemas por meio do Azure Data Factory (ADF);
• Desenvolver APIs REST, microsserviços e automações utilizando Python;
• Garantir a governança, segurança, linhagem e controle de acesso aos dados;
• Realizar otimizações de performance, escalabilidade e custos de processamento;
• Atuar na observabilidade, monitoramento e sustentação de pipelines em produção;
• Ser referência técnica para o time, orientando profissionais e estabelecendo boas práticas de Engenharia de Dados.

Descrição da vaga

• Atuar no desenvolvimento, implementação e evolução de soluções de Engenharia de Dados utilizando o ecossistema Databricks;
• Definir e implementar arquiteturas de dados escaláveis, baseadas no modelo Lakehouse e na arquitetura Medallion (Bronze, Silver e Gold);
• Desenvolver, otimizar e manter pipelines de dados utilizando Databricks, PySpark, Spark SQL e Delta Lake;
• Implementar soluções de ingestão, processamento e integração de dados, incluindo CDC e Structured Streaming;
• Atuar na orquestração de pipelines e integração de sistemas por meio do Azure Data Factory (ADF);
• Desenvolver APIs REST, microsserviços e automações utilizando Python;
• Garantir a governança, segurança, linhagem e controle de acesso aos dados;
• Realizar otimizações de performance, escalabilidade e custos de processamento;
• Atuar na observabilidade, monitoramento e sustentação de pipelines em produção;
• Ser referência técnica para o time, orientando profissionais e estabelecendo boas práticas de Engenharia de Dados.

Responsabilidades e atribuições

• Atuar no desenvolvimento, implementação e evolução de soluções de Engenharia de Dados utilizando o ecossistema Databricks;
• Definir e implementar arquiteturas de dados escaláveis, baseadas no modelo Lakehouse e na arquitetura Medallion (Bronze, Silver e Gold);
• Desenvolver, otimizar e manter pipelines de dados utilizando Databricks, PySpark, Spark SQL e Delta Lake;
• Implementar soluções de ingestão, processamento e integração de dados, incluindo CDC e Structured Streaming;
• Atuar na orquestração de pipelines e integração de sistemas por meio do Azure Data Factory (ADF);
• Desenvolver APIs REST, microsserviços e automações utilizando Python;
• Garantir a governança, segurança, linhagem e controle de acesso aos dados;
• Realizar otimizações de performance, escalabilidade e custos de processamento;
• Atuar na observabilidade, monitoramento e sustentação de pipelines em produção;
• Ser referência técnica para o time, orientando profissionais e estabelecendo boas práticas de Engenharia de Dados.

Requisitos e qualificações

• Experiência sólida e avançada em projetos produtivos com Databricks;
• Domínio de PySpark, Spark SQL, Delta Lake e Apache Spark;
• Experiência com DLT / Lakeflow Spark Declarative Pipelines, CDC e Structured Streaming;
• Experiência com Liquid Clustering, Auto Loader e otimização de tabelas Delta;
• Conhecimento avançado em Unity Catalog, governança, segurança, linhagem e controle de acesso;
• Experiência na definição de arquiteturas de dados, modelo Lakehouse e arquitetura Medallion;
• Experiência com Azure Data Factory (ADF) para orquestração, ingestão e integração de dados;
• Domínio de Python para desenvolvimento de APIs REST, microsserviços e automações;
• Experiência com Spark Performance Tuning, Photon, particionamento, shuffle e análise de planos de execução;
• Conhecimento em Databricks Workflows, CI/CD, Git e Declarative Automation Bundles;
• Experiência com otimização de workloads, dimensionamento de recursos computacionais e redução de custos;
• Vivência com observabilidade, monitoramento e sustentação de pipelines em produção;
• Autonomia na resolução de problemas técnicos complexos e capacidade de tomada de decisão arquitetural;
• Experiência como referência técnica, apoiando e orientando outros profissionais.

Certificações: Fortemente desejável: Databricks Certified Data Engineer Associate. Databricks Certified Data Engineer Professional. Diferencial: Databricks Certified Associate Developer for Apache Spark.

• Desejável: certificações AWS, Azure ou GCP relacionadas à Engenharia de Dados e Arquitetura de Soluções.

Informações adicionais

Benefícios

• Vale-alimentação e/ou vale-refeição;
• Plano de saúde e plano odontológico;
• Plano de saúde para o seu pet;
• Auxílio home office (para vagas remotas);
• Kit de boas-vindas no onboarding;
• Seguro de vida;
• Zenklub, com acompanhamento psicológico e nutricional;
• TotalPass;
• Programa de Certificações e Capacitação Contínua com parceiros (Adobe, Anthropic, AWS, Google, Microsoft, Salesforce);
• Parcerias e descontos para o seu desenvolvimento;
• Acesso ao conteúdo UOL;
• Kit maternidade;
• Licença maternidade e paternidade estendidas;
• Programa de indicações.

Become a Compasser, be part of AI/R.

Compass UOL is a global firm and part of the AI Revolution Company, together transforming organizations using Artificial Intelligence, Generative AI, and other of today’s most advanced technologies.

We equip our team with proprietary and external AI-driven tools to design and build digital-native platforms, integrating cutting‑edge technologies and enabling companies to innovate, transform their businesses, and drive success in their markets.

To achieve this, we attract and develop the best talent, creating opportunities that enhance people’s lives and highlight the positive impact of disruptive technologies.

We empower borderless talent and promote knowledge and opportunities in the latest market trends, driving significant personal and professional growth.

Join us and be part of the AI-driven revolution.