Databricks / CI-CD - Senior DevOps Engineer (Remote)

Compass UOL; Brasile; Remoto; BRL 180.000 - 260.000; Tempo pieno

Descrizione del lavoro

A Compass UOL procura um engenheiro de DevOps/DataOps sênior para desenhar, implementar e manter pipelines CI/CD na plataforma Databricks. Você garantirá automação, governança e qualidade entre ambientes, com foco em DABs, Git e revisão de código.

É esperado domínio em Python ou Groovy, testes com Pytest e integração com AWS/Azure, além de práticas de observabilidade e gestão de artefatos. A posição é integral, com atuação em time multidisciplinar.

Competenze

• Sólida experiência e maturidade profissional em DevOps/DataOps, com atuação na concepção, implementação e sustentação de esteiras de CI/CD ponta a ponta.
• Domínio na implementação de esteiras de CI/CD em Jenkins, incluindo deploys, rollback e versionamento de releases.
• Domínio de controle de versão com Git, branching (trunk-based, GitFlow), pull requests, code review e proteção de branches.
• Conhecimento de engenharia de software com Python ou Groovy; modularização de projetos, empacotamento de bibliotecas (.wheel) e publicação em repositório de artefatos.
• Experiência prática com testes unitários e de integração em pipelines de dados usando Pytest com mocks, fixtures e métricas de código.
• Vivência com AWS/Azure em contextos de plataformas de dados (IAM, storage, rede, serviços gerenciados).

Mansioni

• Projetar, implementar e evoluir a esteira de CI/CD da plataforma Databricks, promovendo artefatos entre ambientes.
• Padronizar empacotamento e deploy de workloads com Databricks Asset Bundles (DABs) e criar templates reutilizáveis.
• Definir estratégia de versionamento (Git) e políticas de branching, revisão de código e release no repositório corporativo.
• Implementar gitflows e gates automatizados (testes, validação de contratos, lint e cobertura) priorizando merge.
• Assegurar modularização de projetos, empacotamento de bibliotecas (.wheel) e publicação em artifact registry.
• Disseminar boas práticas de engenharia, automação e governança, apoiando squads de dados nos deployments.
• Monitorar saúde, estabilidade e observabilidade das esteiras e artefatos em produção.

Conoscenze

CI/CD design

Git workflows

Python

Groovy

Test automation

Cloud platforms

DataOps mindset

Observability practices

Strumenti

Databricks

Jenkins

Git

Databricks Asset Bundles

Databricks CLI

Databricks Repos

Terraform

Bitbucket Pipelines

GitHub Actions

GitLab CI

Docker

Pytest

DataDog

Descrizione del lavoro

Job type: Full-time employee Full-time employee

• Projetar, implementar e evoluir a esteira de CI/CD da plataforma Databricks , garantindo a promoção automatizada e auditável de artefatos entre os ambientes de desenvolvimento, homologação e produção;
• Padronizar o empacotamento e o deploy de workloads com Databricks Asset Bundles (DABs) , disponibilizando templates reutilizáveis e escaláveis para os domínios de dados;
• Definir a estratégia de controle de versão (Git), políticas de branching ( trunk-based , GitFlow ou equivalente), fluxo de revisões de código ( code review ) , versionamento e release da plataforma no repositório corporativo (Bitbucket, GitHub ou GitLab);
• Definir e implementar gitflows e quality gates automatizados na esteira: testes unitários e de integração, validação de contratos de dados, análise estática de código, lint e cobertura mínima como pré-requisito de merge;
• Garantir a estruturação e modularização de projetos, empacotamento de bibliotecas em Python (construção de arquivos .wheel ) e publicação em artifact registry ;
• Disseminar boas práticas de engenharia de software, automação e governança, atuando como referência técnica e suportando as squads de dados nos deployments dos pipelines;
• Acompanhar a saúde, estabilidade e observabilidade das esteiras e dos artefatos da plataforma Lakehouse em produção.

Sólida experiência e maturidade profissional em DevOps ou DataOps, com atuação na concepção, implementação e sustentação de esteiras de CI/CD ponta a ponta;

• Domínio na implementação de esteiras de CI/CD em Jenkins, incluindo definição de estratégias de deploy, rollback e versionamento de releases;
• Domínio avançado de controle de versão com Git, estratégias de branching ( trunk-based, GitFlow), pull requests, code review e proteção de branches;
• Conhecimento avançado de engenharia de software com Python ou Groovy, com vivência prática em estruturação/modularização de projetos, empacotamento de bibliotecas (.wheel) e publicação em repositório de artefatos;
• Experiência prática na criação e automação de testes unitários e de integração aplicados a pipelines de dados utilizando Pytest (ou equivalente), com uso de mocks, fixtures e métricas de cobertura de código;
• Vivência sólida com ecossistemas de nuvem AWS ou Azure aplicados ao contexto de plataformas de dados (gestão de identidade/IAM, storage, rede e serviços gerenciados).
• Desejáveis: Vivência prática com Databricks Asset Bundles (DABs) , Databricks CLI e Databricks Repos; Experiência em projetos de migração de Data Warehouse legado para arquitetura Lakehouse Databricks ; Conhecimento em observabilidade e monitoramento de pipelines e infraestrutura com ferramentas como DataDog ou similares; Conhecimento em Infraestrutura como Código (IaC) com Terraform ; Experiência com outras ferramentas de esteira como Bitbucket Pipelines, GitLab CI ou GitHub Actions.