Engenheiro(a) de Dados Pleno

Bridge & Co.; United States; Remote; USD 100,000 - 150,000; Full time

Job summary

Bridge & Co. busca Engenheiro(a) de Dados Pleno para construir e sustentar pipelines no Data Hub, desde ingestão até validação automatizada. Trabalho em modelo remoto, com foco em confiabilidade da base antes de dashboards e análises de negócio.

É preciso dominar Databricks (notebooks, Jobs, Delta), Python e PySpark, SQL avançado e ter experiência em pipelines de ingestão/normalização, testes de qualidade de dados, observabilidade, CI/CD e documentação técnica.

Qualifications

• Experiência com Databricks (notebooks, Jobs e Delta).
• Domínio de Python e PySpark para transformação de dados.
• SQL avançado para manipular grandes volumes de dados.
• Experiência em pipelines de ingestão e normalização de dados.
• Testes automatizados de qualidade de dados e observabilidade.
• Versionamento, CI/CD e documentação técnica.
• Autonomia técnica para entregar sem acompanhamento.

Responsibilities

• Construir e sustentar pipelines de ingestão e normalização de dados no Databricks.
• Desenvolver rotinas de de/para e validação automatizada dos dados.
• Garantir a confiabilidade da base antes de painéis/visualizações.
• Criar testes automatizados de qualidade de dados e observabilidade.
• Lidar com dados inconsistentes e fontes instáveis mantendo pipelines estáveis.
• Refatorar pipelines e códigos legados quando necessário.
• Medir e comunicar ganhos de eficiência das iniciativas.
• Manter versionamento, CI/CD e documentação técnica atualizados.

Skills

Databricks

Python

PySpark

SQL

Data pipelines

Testes automatizados

Observabilidade

CI/CD

Documentação técnica

Autonomia

Tools

Delta Lake

Job description

Que tal fazer parte do nosso time como Engenheiro(a) de Dados Pleno?

Sua missão será construir e sustentar os pipelines de dados do Data Hub, da ingestão à normalização, ao de/para e à validação automatizada, garantindo a confiabilidade da base antes que qualquer visualização chegue às áreas de negócio.

Essa é uma oportunidade no modelo remoto.

RESPONSABILIDADES E ATRIBUIÇÕES

Como Engenheiro(a) de Dados Pleno, você focará em:

• Construir e sustentar pipelines de ingestão e normalização de dados no Databricks.
• Desenvolver as rotinas de de/para e de validação automatizada dos dados.
• Garantir a confiabilidade da base de dados antes que ela seja consumida em painéis e visualizações pelas áreas de negócio.
• Criar testes automatizados de qualidade de dados e estruturar a observabilidade dos pipelines.
• Lidar com dados inconsistentes e fontes instáveis, mantendo os pipelines funcionando de forma confiável.
• Refatorar pipelines e códigos legados sempre que necessário.
• Medir e comunicar os ganhos de eficiência de cada iniciativa.
• Manter versionamento, CI/CD e documentação técnica atualizados, além de estimar prazos das entregas.

REQUISITOS E QUALIFICAÇÕES

Como requisitos básicos, buscamos:

• Experiência com Databricks, incluindo notebooks, Jobs e Delta.
• Domínio de Python e PySpark.
• SQL avançado.
• Experiência na construção e sustentação de pipelines de ingestão e normalização de dados.
• Experiência com testes automatizados de qualidade de dados e observabilidade.
• Experiência com versionamento, CI/CD e documentação técnica.
• Autonomia técnica para conduzir entregas sem acompanhamento constante.
• Disciplina com documentação e com estimativa de prazos.