Analista de Dados Pleno

Eldorado; Campinas, São Paulo; Hybrid; BRL 120,000 - 180,000; Full time

Job summary

A Eldorado procura profissional de engenharia de dados para atuar com pipelines de ingestão, transformação e governança de dados. Você trabalhará com PySpark, SQL, Databricks e Azure Data Factory, desenvolvendo soluções que alimentem dashboards em Power BI e relatórios analíticos.

Espera-se experiência com formatos Parquet/Delta Lake, dbt e práticas de CI/CD. Disponibilidade para deslocamento a Campinas e São Paulo é um diferencial.

Qualifications

• Formação superior em Ciência da Computação, Engenharia ou equivalente.
• Experiência sólida em engenharia de dados com Python/PySpark e SQL.
• Conhecimento de Databricks (ou Spark) e Azure Data Factory.
• Conhecimento de formatos de dados analíticos (Parquet, Delta Lake).
• Conhecimento de dbt é desejável.
• Boas práticas de Git e CI/CD para pipelines de dados.
• Inglês avançado e disponibilidade de deslocamento para SP/Campinas.

Responsibilities

• Desenvolver e implantar pipelines de ingestão a partir de APIs REST, scraping e arquivos.
• Apoiar réplicas de leitura para sistemas legados com foco em performance.
• Implementar transformações de dados com PySpark e SQL.
• Apoiar benchmarks de custo e performance, ajudando no dimensionamento.
• Construir camadas Bronze/Silver/Gold seguindo arquitetura Medallion.
• Desenvolver pipelines de scraping resilientes com detecção de mudanças de layout.
• Contribuir para qualidade de dados, deduplicação e testes.
• Colaborar com governança para lineage e classificação de dados.
• Construir dashboards em Power BI e traduzir requisitos em modelos de dados.

Skills

Python

PySpark

SQL

Databricks

Azure Data Factory

Parquet

Delta Lake

dbt

Git

CI/CD

APIs

Education

Bacharelado em Ciência da Computação

Tools

Databricks

Azure Data Factory

Power BI

Job description

Job description

PcDs são sempre bem-vindas.

Buscamos pessoas apaixonadas por tecnologia. Alguém que se motive por desafios e atue com autonomia. Precisa gostar de trabalhar em equipe e possuir espírito colaborativo.

Main responsibilities

• Desenvolver e implantar pipelines de ingestão a partir de fontes heterogêneas: APIs REST, scraping web, procedures SQL de sistemas legados e arquivos;
• Apoiar a implementação de mecanismos de réplica somente leitura para sistemas que não oferecem acesso direto ao banco (ex.: ERPs legados), com atenção ao impacto de performance nos sistemas de origem;
• Implementar transformações de dados usando PySpark e SQL;
• Apoiar realização de benchmarks de custo e performance de processamento, contribuindo para a definição de dimensionamento mais eficiente;
• Apoiar desenvolvimento de camadas Bronze, Silver e Gold seguindo o padrão medallion architecture;
• Implementar pipelines de scraping resilientes, com mecanismos de detecção de mudança de layout e tratamento de bloqueio;
• Apoiar o desenvolvimento de camadas Bronze, Silver e Gold da plataforma, aplicando deduplicação, normalização e testes de qualidade de dados;
• Apoiar o desenvolvimento de mecanismos de contrato de dados (data contracts) e alertas de schema drift para integrações de terceiros;
• Construir dashboards e relatórios em Power BI a partir da camada de dados estruturada;
• Atuar para conteibuir com a tradução de requisitos de negócio em modelos de dados e visualizações eficazes;
• Implementar controle de acesso a dados nos relatórios (Row Level Security), alinhado às políticas de RBAC da empresa;
• Implementar testes de qualidade de dados e transformações declarativas usando dbt;
• Apoiar a configuração de recursos de self-service analytics (ex.: Fabric Copilot);
• Colaborar com o time de governança para garantir lineage e classificação adequada dos dados;
• Diagnosticar e resolver problemas de performance em pipelines e consultas;
• Realizar testes de aceitação com usuários finais e ajustar dashboards a partir do feedback.

Requirements and skills

• Formação superior em Ciência da Computação, Engenharia, ou equivalente;
• Experiência sólida em engenharia de dados,com Python/PySpark e SQL;
• Conhecimento sobre Databricks (ou Spark em geral) e ferramentas de orquestração como Azure Data Factory;
• Conhecimento de formatos de dados analíticos (Parquet, Delta Lake);
• Conhecimentocom dbt é desejável;
• Conhecimento de práticas de controle de versão (Git) e CI/CD para pipelines de dados;
• Experiência com integração de dados via API REST.- Conhecimento de boas práticas de visualização de dados e storytelling com dados,fonte de dados diversas (SQL, APIs, arquivos, Lakehouse/Warehouse) eimplementando segurança em nível de linha (Row Level Security);
• Disponibilidade para viagens para cidade de São Paulo é um diferencial;
• Inglês Avançado;
• Disponibilidade de deslocamento para Campinas e São Paulo.

Additional information

“O Instituto de Pesquisas Eldorado valoriza um ambiente diversificado e se orgulha de ser uma organização que oferece oportunidades de forma igualitária. Todos que se candidatarem serão avaliados, independentemente de raça, deficiência, cor, religião, sexo, identidade ou expressão de gênero, orientação sexual, nacionalidade ou idade”.