Analista de dados

Instituto-De-Pesquisas-Eldorado; Campinas; Vor Ort; BRL 120.000 - 180.000; Vollzeit

Zusammenfassung

O Instituto de Pesquisas Eldorado busca profissional graduado em computação com forte atuação em engenharia de dados. O candidato trabalhará com PySpark, SQL, Databricks e construção de pipelines desde ingestão até a entrega de dados confiáveis para dashboards.

Também será responsável por implementar camadas Bronze/Silver/Gold, testar qualidade de dados e apoiar a governança de dados, incluindo RBAC e contratos de dados, além de colaborar com times de BI para visualizações eficazes.

Qualifikationen

• Experiência em engenharia de dados, Python/PySpark e SQL em nível pleno.
• Conhecimento de Databricks (ou Spark) e ferramentas de orquestração.
• Conhecimento de estruturas Parquet/Delta Lake e práticas de versionamento (Git).

Aufgaben

• Desenvolver e implantar pipelines de ingestão a partir de APIs REST, scraping, SQL de sistemas legados e arquivos.
• Implementar camadas Bronze, Silver e Gold seguindo arquitetura medallion.
• Construir dashboards e relatórios em Power BI a partir da camada de dados estruturada.

Kenntnisse

Python / PySpark

SQL

ETL/Data pipelines

Data visualization storytelling

Ausbildung

Graduação completa em Ciência da Computação / Engenharia de Computação / Análise de Sistemas

Tools

Databricks

Azure Data Factory

dbt

Git / CI-CD

Jobbeschreibung

Job description

PcDs são sempre bem-vindas.

Buscamos pessoas apaixonadas por tecnologia. Alguém que se motive por desafios e atue com autonomia. Precisa gostar de trabalhar em equipe e possuir espírito colaborativo.

Main responsibilities

• Desenvolver e implantar pipelines de ingestão a partir de fontes heterogêneas: APIs REST, scraping web, procedures SQL de sistemas legados e arquivos;
• Apoiar a implementação de mecanismos de réplica somente leitura para sistemas que não oferecem acesso direto ao banco (ex.: ERPs legados), com atenção ao impacto de performance nos sistemas de origem;
• Implementar transformações de dados usando PySpark e SQL;
• Apoiar realização de benchmarks de custo e performance de processamento, contribuindo para a definição de dimensionamento mais eficiente;
• Apoiar desenvolvimento de camadas Bronze, Silver e Gold seguindo o padrão medallion architecture;
• Implementar pipelines de scraping resilientes, com mecanismos de detecção de mudança de layout e tratamento de bloqueio;
• Apoiar o desenvolvimento de camadas Bronze, Silver e Gold da plataforma, aplicando deduplicação, normalização e testes de qualidade de dados;
• Apoiar o desenvolvimento de mecanismos de contrato de dados (data contracts) e alertas de schema drift para integrações de terceiros;
• Construir dashboards e relatórios em Power BI a partir da camada de dados estruturada;
• Atuar para conteibuir com a tradução de requisitos de negócio em modelos de dados e visualizações eficazes;
• Implementar controle de acesso a dados nos relatórios (Row Level Security), alinhado às políticas de RBAC da empresa;
• Implementar testes de qualidade de dados e transformações declarativas usando dbt;
• Apoiar a configuração de recursos de self-service analytics (ex.: Fabric Copilot);
• Colaborar com o time de governança para garantir lineage e classificação adequada dos dados;
• Diagnosticar e resolver problemas de performance em pipelines e consultas;
• Realizar testes de aceitação com usuários finais e ajustar dashboards a partir do feedback.

Requirements and skills

• Superior completo em Ciência da Computação, Engenharia da Computação, Análise de Sistemas ou equivalente;
• Experiência em engenharia de dados, python/PySpark e SQL - em nível pleno;
• Conhecimento sobre Databricks (ou Spark em geral) e ferramentas de orquestração como Azure Data Factory;
• Conhecimento de formatos de dados analíticos (Parquet, Delta Lake);
• Conhecimentocom dbt é desejável;
• Conhecimento de práticas de controle de versão (Git) e CI/CD para pipelines de dados;
• Experiência com integração de dados via API REST;
• Conhecimento de boas práticas de visualização de dados e storytelling com dados;
• Experiência com fontes de dados diversas (SQL, APIs, arquivos, Lakehouse/Warehouse);
• Experiência implementando segurança em nível de linha (Row Level Security);
• Disponibilidade para viagens para cidade de São Paulo é um diferencial
• Desejável inglês avançado.

Additional information

“O Instituto de Pesquisas Eldorado valoriza um ambiente diversificado e se orgulha de ser uma organização que oferece oportunidades de forma igualitária. Todos que se candidatarem serão avaliados, independentemente de raça, deficiência, cor, religião, sexo, identidade ou expressão de gênero, orientação sexual, nacionalidade ou idade”.