Analista de Dados Pleno

Instituto de Pesquisas Eldorado; Campinas; Vor Ort; BRL 120.000 - 240.000; Vollzeit

Zusammenfassung

O Instituto de Pesquisas Eldorado busca Engenheiro(a) de Dados para atuar em Campinas, integrando equipes de dados e governance, explorando pipelines de ingestão, transformação e visualização. O cargo exige experiência com PySpark, SQL e ferramentas de dados modernos; participação em iniciativas de performance e custo, bem como implementação de data contracts e RBAC.

O profissional apoiará a construção de camadas de dados Bronze/Silver/Gold, deduplicação e validações, contribuindo para

Qualifikationen

• Formação superior em Ciência da Computação, Engenharia, ou equivalente.
• Experiência sólida em engenharia de dados com Python/PySpark e SQL.
• Conhecimento sobre Databricks (ou Spark) e Azure Data Factory.
• Conhecimento de formatos de dados (Parquet, Delta Lake) e dbt é desejável.
• Práticas de controle de versão (Git) e pipelines de dados (CI/CD).
• Experiência com integração de dados via API REST e visualização de dados.
• Disponibilidade para viagens a São Paulo/Campinas.

Aufgaben

• Desenvolver e implantar pipelines de ingestão de fontes heterogêneas (APIs REST, scraping, SQL, arquivos).
• Implementar camadas Bronze, Silver e Gold seguindo medallion architecture.
• Construir dashboards e relatórios em Power BI a partir da camada de dados.
• Aplicar segurança em nível de linha (Row-Level Security) e governança de dados.
• Realizar benchmarks de custo e performance e ajustar pipelines para melhor dimensionamento.
• Diagnosticar e resolver problemas de performance em pipelines e consultas.
• Apoiar testes de qualidade de dados e validações declarativas com dbt.
• Colaborar com governança para lineage e classificação de dados.
• Viagens para Campinas e São Paulo conforme necessário.

Kenntnisse

Python/PySpark

SQL

Databricks

Azure Data Factory

dbt

Git/CI-CD

REST API

Power BI

Ausbildung

Bacharelado em Ciência da Computação

Tools

Databricks

Spark

Azure Data Factory

Parquet

Delta Lake

dbt

Git

CI/CD

Jobbeschreibung

Job description

PcDs são sempre bem-vindas.

Buscamos pessoas apaixonadas por tecnologia. Alguém que se motive por desafios e atue com autonomia. Precisa gostar de trabalhar em equipe e possuir espírito colaborativo.

Main responsibilities

• Desenvolver e implantar pipelines de ingestão a partir de fontes heterogêneas: APIs REST, scraping web, procedures SQL de sistemas legados e arquivos;
• Apoiar a implementação de mecanismos de réplica somente leitura para sistemas que não oferecem acesso direto ao banco (ex.: ERPs legados), com atenção ao impacto de performance nos sistemas de origem;
• Implementar transformações de dados usando PySpark e SQL;
• Apoiar realização de benchmarks de custo e performance de processamento, contribuindo para a definição de dimensionamento mais eficiente;
• Apoiar desenvolvimento de camadas Bronze, Silver e Gold seguindo o padrão medallion architecture;
• Implementar pipelines de scraping resilientes, com mecanismos de detecção de mudança de layout e tratamento de bloqueio;
• Apoiar o desenvolvimento de camadas Bronze, Silver e Gold da plataforma, aplicando deduplicação, normalização e testes de qualidade de dados;
• Apoiar o desenvolvimento de mecanismos de contrato de dados (data contracts) e alertas de schema drift para integrações de terceiros;
• Construir dashboards e relatórios em Power BI a partir da camada de dados estruturada;
• Atuar para conteibuir com a tradução de requisitos de negócio em modelos de dados e visualizações eficazes;
• Implementar controle de acesso a dados nos relatórios (Row Level Security), alinhado às políticas de RBAC da empresa;
• Implementar testes de qualidade de dados e transformações declarativas usando dbt;
• Apoiar a configuração de recursos de self-service analytics (ex.: Fabric Copilot);
• Colaborar com o time de governança para garantir lineage e classificação adequada dos dados;
• Diagnosticar e resolver problemas de performance em pipelines e consultas;
• Realizar testes de aceitação com usuários finais e ajustar dashboards a partir do feedback.

Requirements and skills

• Formação superior em Ciência da Computação, Engenharia, ou equivalente;
• Experiência sólida em engenharia de dados,com Python/PySpark e SQL;
• Conhecimento sobre Databricks (ou Spark em geral) e ferramentas de orquestração como Azure Data Factory;
• Conhecimento de formatos de dados analíticos (Parquet, Delta Lake);
• Conhecimentocom dbt é desejável;
• Conhecimento de práticas de controle de versão (Git) e CI/CD para pipelines de dados;
• Experiência com integração de dados via API REST.- Conhecimento de boas práticas de visualização de dados e storytelling com dados,fonte de dados diversas (SQL, APIs, arquivos, Lakehouse/Warehouse) eimplementando segurança em nível de linha (Row Level Security);
• Disponibilidade para viagens para cidade de São Paulo é um diferencial;
• Inglês Avançado;
• Disponibilidade de deslocamento para Campinas e São Paulo.

Additional information

“O Instituto de Pesquisas Eldorado valoriza um ambiente diversificado e se orgulha de ser uma organização que oferece oportunidades de forma igualitária. Todos que se candidatarem serão avaliados, independentemente de raça, deficiência, cor, religião, sexo, identidade ou expressão de gênero, orientação sexual, nacionalidade ou idade”.