Databricks / CI-CD - Senior DevOps Engineer (Remote)

Ai R; Brazil; Remote; BRL 180,000 - 270,000; Full time

Job summary

Compass UOL é uma empresa global que atua na transformação de organizações via Inteligência Artificial e plataformas de dados. Procuramos um(a) profissional para projetar e evoluir a esteira de CI/CD da plataforma Databricks, promovendo artefatos entre os ambientes de desenvolvimento, homologação e produção.

O candidato terá atuação com Databricks Asset Bundles (DABs), Python/Groovy e governança de software, apoiando squads de dados nos deployments dos pipelines, com foco em qualidade, automação

Qualifications

• Sólida experiência e maturidade profissional em DevOps ou DataOps, com atuação na concepção, implementação e sustentação de esteiras de CI/CD ponta a ponta.
• Domínio na implementação de esteiras de CI/CD em Jenkins, incluindo definição de estratégias de deploy, rollback e versionamento de releases;
• Domínio avançado de controle de versão com Git, estratégias de branching (trunk-based, GitFlow), pull requests, code review e proteção de branches;
• Conhecimento avançado de engenharia de software com Python ou Groovy, com vivência prática em estruturação/modularização de projetos, empacotamento de bibliotecas (.wheel) e publicação em repositório de artefatos;
• Experiência prática na criação e automação de testes unitários e de integração aplicados a pipelines de dados utilizando Pytest (ou equivalente), com uso de mocks, fixtures e métricas de cobertura de código;
• Vivência sólida com ecossistemas de nuvem AWS ou Azure aplicados ao contexto de plataformas de dados (gestão de identidade/IAM, storage, rede e serviços gerenciados).

Responsibilities

• Projetar, implementar e evoluir a esteira de CI/CD da plataforma Databricks, garantindo a promoção automatizada e auditável de artefatos entre os ambientes de desenvolvimento, homologação e produção.
• Padronizar o empacotamento e o deploy de workloads com Databricks Asset Bundles (DABs), disponibilizando templates reutilizáveis e escaláveis para os domínios de dados.
• Definir a estratégia de controle de versão (Git), políticas de branching (trunk-based, GitFlow ou equivalente), fluxo de revisões de código (code review), versionamento e release da plataforma no repositório corporativo (Bitbucket, GitHub ou GitLab);
• Definir e implementar gitflows e quality gates automatizados na esteira: testes unitários e de integração, validação de contratos de dados, análise estática de código, lint e cobertura mínima como pré-requisito de merge;
• Garantir a estruturação e modularização de projetos, empacotamento de bibliotecas em Python (construção de arquivos .wheel) e publicação em artifact registry;
• Disseminar boas práticas de engenharia de software, automação e governança, atuando como referência técnica e suportando as squads de dados nos deployments dos pipelines;
• Acompanhar a saúde, estabilidade e observabilidade das esteiras e dos artefatos da plataforma Lakehouse em produção.

Skills

DevOps

DataOps

CI/CD

Git workflows

Python/Groovy

Pytest

Cloud AWS/Azure

Tools

Jenkins

Git

Databricks Asset Bundles (DABs)

Databricks CLI

Terraform

Bitbucket Pipelines / GitHub Actions / GitLab CI

DataDog

Job description

• Projetar, implementar e evoluir a esteira de CI/CD da plataforma Databricks, garantindo a promoção automatizada e auditável de artefatos entre os ambientes de desenvolvimento, homologação e produção;
• Padronizar o empacotamento e o deploy de workloads com Databricks Asset Bundles (DABs), disponibilizando templates reutilizáveis e escaláveis para os domínios de dados;
• Definir a estratégia de controle de versão (Git), políticas de branching (trunk-based, GitFlow ou equivalente), fluxo de revisões de código (code review), versionamento e release da plataforma no repositório corporativo (Bitbucket, GitHub ou GitLab);
• Definir e implementar gitflows e quality gates automatizados na esteira: testes unitários e de integração, validação de contratos de dados, análise estática de código, lint e cobertura mínima como pré-requisito de merge;
• Garantir a estruturação e modularização de projetos, empacotamento de bibliotecas em Python (construção de arquivos .wheel) e publicação em artifact registry;
• Disseminar boas práticas de engenharia de software, automação e governança, atuando como referência técnica e suportando as squads de dados nos deployments dos pipelines;
• Acompanhar a saúde, estabilidade e observabilidade das esteiras e dos artefatos da plataforma Lakehouse em produção.

Descrição da vaga

Responsabilidades e atribuições

• Projetar, implementar e evoluir a esteira de CI/CD da plataforma Databricks, garantindo a promoção automatizada e auditável de artefatos entre os ambientes de desenvolvimento, homologação e produção;
• Padronizar o empacotamento e o deploy de workloads com Databricks Asset Bundles (DABs), disponibilizando templates reutilizáveis e escaláveis para os domínios de dados;
• Definir a estratégia de controle de versão (Git), políticas de branching (trunk-based, GitFlow ou equivalente), fluxo de revisões de código (code review), versionamento e release da plataforma no repositório corporativo (Bitbucket, GitHub ou GitLab);
• Definir e implementar gitflows e quality gates automatizados na esteira: testes unitários e de integração, validação de contratos de dados, análise estática de código, lint e cobertura mínima como pré-requisito de merge;
• Garantir a estruturação e modularização de projetos, empacotamento de bibliotecas em Python (construção de arquivos .wheel) e publicação em artifact registry;
• Disseminar boas práticas de engenharia de software, automação e governança, atuando como referência técnica e suportando as squads de dados nos deployments dos pipelines;
• Acompanhar a saúde, estabilidade e observabilidade das esteiras e dos artefatos da plataforma Lakehouse em produção.

Requisitos e qualificações

• Sólida experiência e maturidade profissional em DevOps ou DataOps, com atuação na concepção, implementação e sustentação de esteiras de CI/CD ponta a ponta;
• Domínio na implementação de esteiras de CI/CD em Jenkins, incluindo definição de estratégias de deploy, rollback e versionamento de releases;
• Domínio avançado de controle de versão com Git, estratégias de branching (trunk-based, GitFlow), pull requests, code review e proteção de branches;
• Conhecimento avançado de engenharia de software com Python ou Groovy, com vivência prática em estruturação/modularização de projetos, empacotamento de bibliotecas (.wheel) e publicação em repositório de artefatos;
• Experiência prática na criação e automação de testes unitários e de integração aplicados a pipelines de dados utilizando Pytest (ou equivalente), com uso de mocks, fixtures e métricas de cobertura de código;
• Vivência sólida com ecossistemas de nuvem AWS ou Azure aplicados ao contexto de plataformas de dados (gestão de identidade/IAM, storage, rede e serviços gerenciados).
• Desejáveis: Vivência prática com Databricks Asset Bundles (DABs), Databricks CLI e Databricks Repos; Experiência em projetos de migração de Data Warehouse legado para arquitetura Lakehouse Databricks; Conhecimento em observabilidade e monitoramento de pipelines e infraestrutura com ferramentas como DataDog ou similares; Conhecimento em Infraestrutura como Código (IaC) com Terraform; Experiência com outras ferramentas de esteira como Bitbucket Pipelines, GitLab CI ou GitHub Actions.

Informações adicionais

#remote

Become a Compasser, be part of AI/R.

Compass UOL is a global firm and part of the AI Revolution Company, together transforming organizations using Artificial Intelligence, Generative AI, and other of today’s most advanced technologies.

We equip our team with proprietary and external AI-driven tools to design and build digital-native platforms, integrating cutting-edge technologies and enabling companies to innovate, transform their businesses, and drive success in their markets.

To achieve this, we attract and develop the best talent, creating opportunities that enhance people’s lives and highlight the positive impact of disruptive technologies.

We empower borderless talent and promote knowledge and opportunities in the latest market trends, driving significant personal and professional growth.

Join us and be part of the AI-driven revolution.