Data Engineer (Databricks) | PL (Remote)

AI/R; Brasil; Presencial; BRL 120 000 - 190 000; Tempo integral

Resumo da oferta

AI/R busca profissional para atuar em projeto de dados, desenvolvendo uma plataforma de Crédito Comercial e de Agronegócio. O papel envolve modelagem funcional e de dados alinhada às necessidades de negócio, além de construir e manter pipelines escaláveis com processamento moderno.

O candidato trabalhará com Spark, Airflow, Kafka, dbt e bancos SQL/NoSQL, bem como Databricks, AWS Glue e BigQuery, implementando Data Lake/Data Lakehouse com foco em qualidade e performance.

Qualificações

• Experiência com processamento distribuído usando Apache Spark.
• Experiência com Apache Airflow para orquestração de pipelines.
• Conhecimento em Apache Kafka para processamento e integração de dados em tempo real.
• Experiência com dbt (Data Build Tool) para transformação e modelagem de dados.
• Vivência com bancos de dados SQL e NoSQL (PostgreSQL, MongoDB, Cassandra).
• Experiência com plataformas de dados em nuvem (Databricks, AWS Glue, BigQuery).
• Conhecimento em Data Lake e Data Lakehouse.

Responsabilidades

• Desenvolvimento de uma plataforma de Crédito Comercial e de Agronegócio;
• Elaborar modelagem funcional e de dados levando em consideração as necessidades de negócio;
• Construção e manutenção de pipelines de dados escaláveis e confiáveis, utilizando tecnologias modernas de processamento;
• Ingestão, transformação e disponibilização de dados com qualidade e performance;

Conhecimentos

Spark

Airflow

Kafka

dbt

SQL

NoSQL

PostgreSQL

MongoDB

Cassandra

Databricks

AWS Glue

BigQuery

Data Lake/Data Lakehouse

Ferramentas

Spark

Airflow

Kafka

dbt

PostgreSQL

MongoDB

Cassandra

Databricks

AWS Glue

BigQuery

Data Lake/Data Lakehouse

Descrição da oferta de emprego

Descrição da vaga

Descrição da vaga

Responsabilidades e atribuições

• Desenvolvimento de uma plataforma de Crédito Comercial e de Agronegócio;
• Elaborar modelagem funcional e de dados levando em consideração as necessidades de negócio;
• Construção e manutenção de pipelines de dados escaláveis e confiáveis, utilizando tecnologias modernas de processamento;
• Ingestão, transformação e disponibilização de dados com qualidade e performance;

Requisitos e qualificações

• Experiência com Apache Spark para processamento distribuído de dados;
• Experiência com Apache Airflow para orquestração de pipelines de dados;
• Conhecimento em Apache Kafka para processamento e integração de dados em tempo real;
• Experiência com dbt (Data Build Tool) para transformação e modelagem de dados;
• Vivência com bancos de dados SQL e NoSQL, como PostgreSQL, MongoDB e Cassandra;
• Experiência com plataformas de dados em nuvem, como Databricks, AWS Glue e BigQuery;
• Conhecimento em implementação e manutenção de arquiteturas Data Lake e Data Lakehouse;

Become a Compasser, be part of AI/R.

Compass UOL is a global firm and part of the AI Revolution Company, together transforming organizations using Artificial Intelligence, Generative AI, and other of today’s most advanced technologies.

We equip our team with proprietary and external AI-driven tools to design and build digital-native platforms, integrating cutting-edge technologies and enabling companies to innovate, transform their businesses, and drive success in their markets.

To achieve this, we attract and develop the best talent, creating opportunities that enhance people’s lives and highlight the positive impact of disruptive technologies.

We empower borderless talent and promote knowledge and opportunities in the latest market trends, driving significant personal and professional growth.

Join us and be part of the AI-driven revolution.