Databricks / CI-CD - Senior DevOps Engineer (Remote)

Compass-Uol; United States; Remote; USD 120,000 - 170,000; Full time

Job description

Job type: Full-time employee Full-time employee

• Projetar, implementar e evoluir a esteira de CI/CD da plataforma Databricks , garantindo a promoção automatizada e auditável de artefatos entre os ambientes de desenvolvimento, homologação e produção;
• Padronizar o empacotamento e o deploy de workloads com Databricks Asset Bundles (DABs) , disponibilizando templates reutilizáveis e escaláveis para os domínios de dados;
• Definir a estratégia de controle de versão (Git), políticas de branching ( trunk-based , GitFlow ou equivalente), fluxo de revisões de código ( code review ) , versionamento e release da plataforma no repositório corporativo (Bitbucket, GitHub ou GitLab);
• Definir e implementar gitflows e quality gates automatizados na esteira: testes unitários e de integração, validação de contratos de dados, análise estática de código, lint e cobertura mínima como pré-requisito de merge;
• Garantir a estruturação e modularização de projetos, empacotamento de bibliotecas em Python (construção de arquivos .wheel ) e publicação em artifact registry ;
• Disseminar boas práticas de engenharia de software, automação e governança, atuando como referência técnica e suportando as squads de dados nos deployments dos pipelines;
• Acompanhar a saúde, estabilidade e observabilidade das esteiras e dos artefatos da plataforma Lakehouse em produção.

Sólida experiência e maturidade profissional em DevOps ou DataOps, com atuação na concepção, implementação e sustentação de esteiras de CI/CD ponta a ponta;

• Domínio na implementação de esteiras de CI/CD em Jenkins, incluindo definição de estratégias de deploy, rollback e versionamento de releases;
• Domínio avançado de controle de versão com Git, estratégias de branching ( trunk-based, GitFlow), pull requests, code review e proteção de branches;
• Conhecimento avançado de engenharia de software com Python ou Groovy, com vivência prática em estruturação/modularização de projetos, empacotamento de bibliotecas (.wheel) e publicação em repositório de artefatos;
• Experiência prática na criação e automação de testes unitários e de integração aplicados a pipelines de dados utilizando Pytest (ou equivalente), com uso de mocks, fixtures e métricas de cobertura de código;
• Vivência sólida com ecossistemas de nuvem AWS ou Azure aplicados ao contexto de plataformas de dados (gestão de identidade/IAM, storage, rede e serviços gerenciados).
• Desejáveis: Vivência prática com Databricks Asset Bundles (DABs) , Databricks CLI e Databricks Repos; Experiência em projetos de migração de Data Warehouse legado para arquitetura Lakehouse Databricks ; Conhecimento em observabilidade e monitoramento de pipelines e infraestrutura com ferramentas como DataDog ou similares; Conhecimento em Infraestrutura como Código (IaC) com Terraform ; Experiência com outras ferramentas de esteira como Bitbucket Pipelines, GitLab CI ou GitHub Actions.