Engenheiro de Dados - Pleno

FCamara; Brasil; Presencial; BRL 120 000 - 180 000; Tempo integral

Resumo da oferta

A FCamara busca um Engenheiro de Dados pleno para atuar no design, implementação e otimização de pipelines de dados (ETL) com foco em escalabilidade e confiabilidade.

Você trabalhará com Airflow, Grafana e serviços de nuvem (AWS/GCP/Azure) para monitorar, automatizar e melhorar fluxos de dados, além de colaborar com equipes de dados e engenharia para entregar soluções eficientes.

Qualificações

• Proficiência em SQL e em linguagens de programação como Python ou Java.
• Experiência com ferramentas de ETL e integração de dados.
• Sólido entendimento de arquiteturas de dados em nuvem (AWS, Google Cloud, Azure).
• Conhecimento profundo em Apache Airflow para gerenciamento de workflows.
• Habilidade em configurar e utilizar Grafana para monitoramento.
• Conhecimento de serviços de cloud (S3, BigQuery, Redshift) e boas práticas de custos.

Responsabilidades

• Desenvolvimento de Pipelines de Dados: projetar, implementar e otimizar pipelines de ETL.
• Utilizar Apache Airflow para orquestrar tarefas de processamento de dados.
• Implementação de Cloud Functions e serviços de nuvem para automação de processos.
• Integrar serviços de dados na nuvem para escalabilidade e eficiência.
• Monitoramento com Grafana e implementação de alertas e métricas de dados.
• Documentar processos e participar de propostas de melhoria de fluxos de dados.
• Trabalhar com ciência de dados, analistas e desenvolvedores para atender requisitos do negócio.

Ferramentas

Apache Airflow

Grafana

AWS

Google Cloud

Azure

S3

BigQuery

Redshift

Descrição da oferta de emprego

Job description

A FCamara está em busca de uma pessoa para atuar como Engenheiro de Dados - Pleno.

Main responsibilities

Desenvolvimento de Pipelines de Dados:

Projetar, implementar e otimizar pipelines de ETL (Extração, Transformação e Carga) para garantir a fluidez dos dados entre sistemas.

Utilizar ferramentas como Apache Airflow para orquestrar e agendar tarefas de processamento de dados.

Implementação de Cloud Functions:

Criar e gerenciar funções em ambientes de cloud (ex.: AWS Lambda, Google Cloud Functions) para automação de processos e manipulação de dados.

Integrar serviços de dados na nuvem para melhorar a escalabilidade e a eficiência.

Monitoramento e Observabilidade:

Configurar e manter dashboards em Grafana para monitorar o desempenho de pipelines de dados e identificar possíveis gargalos.

Implementar alertas e métricas para garantir a integridade e a disponibilidade dos dados.

Documentação e Melhoria Contínua:

Documentar processos e rotinas de dados para garantir a transparência e facilitar a manutenção.

Participar de Engineering Change Proposals (ECP) para propor melhorias e inovações nos fluxos de trabalho e na arquitetura de dados.

Colaboração Interdisciplinar:

Trabalhar em estreita colaboração com equipes de ciência de dados, analistas e desenvolvedores para entender requisitos e garantir que as soluções atendam às necessidades do negócio.

Participar de reuniões de planejamento e revisão para alinhar objetivos e prioridades.

Qualidade de Dados:

Implementar e monitorar processos de validação de dados para garantir a qualidade e a precisão das informações.

Realizar testes e auditorias nos pipelines de dados para identificar e corrigir problemas.

Requirements and skills

Requisitos e qualificações

Técnicos:

Proficiência em SQL e em linguagens de programação como Python ou Java.

Experiência com ferramentas de ETL e integração de dados.

Sólido entendimento de arquiteturas de dados em nuvem (ex.: AWS, Google Cloud, Azure).

Ferramentas de Orquestração:

Conhecimento profundo em Apache Airflow para gerenciamento de workflows.

Habilidade em configurar e utilizar ferramentas de monitoramento como Grafana.

Cloud Computing:

Familiaridade com serviços de cloud (ex.: S3, BigQuery, Redshift) e suas melhores práticas.

Conhecimento em gerenciamento de custos e otimização de recursos em ambientes de nuvem.