Data Engineer - GCP | SR (Hybrid/SP)

AI/R; Agudos; Presencial; BRL 90 000 - 150 000; Tempo integral

Resumo da oferta

AI/R procura engenheiro(a) de dados para construir e manter pipelines escaláveis, integrando BigQuery, Spark e Airflow, com foco em qualidade e performance.

O papel envolve modelagem de dados, conectando fontes via APIs, migração para BigQuery/Databricks e estruturação de modelos de IA para gerar insights estratégicos.

Qualificações

• Experiência avançada em GCP (BigQuery).
• Experiência com Apache Spark.
• Experiência com Airflow.
• Conhecimento em Kafka.
• Conhecimento em DBT.
• Experiência com bancos SQL/NoSQL (PostgreSQL, MongoDB, Cassandra).
• Experiência com plataformas cloud (Databricks, AWS Glue, BigQuery).
• Experiência com arquiteturas de Data Lake/Data Lakehouse.
• Desejável conhecimento na estruturação de modelos de IA.

Responsabilidades

• Construir e manter pipelines de dados escaláveis e confiáveis, utilizando tecnologias modernas de processamento distribuído.
• Organização e Estrutura das Bases de Dados e Modelagem de Dados.
• Gestão de Tabelas de Equivalência (DE/PARA).
• Conexão Direta com Fontes (APIs).
• Migração Estratégica para BigQuery (BQ) ou Microsoft Fabric.
• Estruturar modelos de IA para geração de insights estratégicos após a centralização dos dados.

Ferramentas

BigQuery

Apache Spark

Airflow

Kafka

DBT

SQL/NoSQL

Databricks

AWS Glue

BigQuery/Databricks

Descrição da oferta de emprego

• Construir e manter pipelines de dados escaláveis e confiáveis, utilizando tecnologias modernas de processamento distribuído para garantir a ingestão, transformação e disponibilização de dados com qualidade e performance;
• Organização e Estrutura das Bases de Dados e Modelagem de Dados;
• Gestão de Tabelas de Equivalência (DE/PARA);
• Conexão Direta com Fontes (APIs);
• Migração Estratégica para BigQuery (BQ) ou Microsoft Fabric;
• Estruturar modelos de IA para geração de insights estratégicos após a centralização dos dados;

Descrição da vaga

Responsabilidades e atribuições

• Construir e manter pipelines de dados escaláveis e confiáveis, utilizando tecnologias modernas de processamento distribuído para garantir a ingestão, transformação e disponibilização de dados com qualidade e performance;
• Organização e Estrutura das Bases de Dados e Modelagem de Dados;
• Gestão de Tabelas de Equivalência (DE/PARA);
• Conexão Direta com Fontes (APIs);
• Migração Estratégica para BigQuery (BQ) ou Microsoft Fabric;
• Estruturar modelos de IA para geração de insights estratégicos após a centralização dos dados;

Requisitos e qualificações

• Experiência e conhecimento avançado em GCP (BigQuery);
• Experiência com Apache Spark;
• Experiência com Airflow;
• Conhecimento em Kafka;
• Conhecimento em DBT;
• Experiência com bancos SQL/NoSQL (PostgreSQL, MongoDB, Cassandra);
• Experiência com plataformas cloud (Databricks, AWS Glue, BigQuery);
• Experiência com implementação de arquiteturas de Data Lake e Data Lakehouse;
• Desejável conhecimento na estruturação de modelos de IA;

Become a Compasser, be part of AI/R.

Compass UOL is a global firm and part of the AI Revolution Company, together transforming organizations using Artificial Intelligence, Generative AI, and other of today’s most advanced technologies.

We equip our team with proprietary and external AI-driven tools to design and build digital-native platforms, integrating cutting-edge technologies and enabling companies to innovate, transform their businesses, and drive success in their markets.

To achieve this, we attract and develop the best talent, creating opportunities that enhance people’s lives and highlight the positive impact of disruptive technologies.

We empower borderless talent and promote knowledge and opportunities in the latest market trends, driving significant personal and professional growth.

Join us and be part of the AI-driven revolution.