Data Engineer (Azure/Databricks) | SR (Remote)

AI/R; Brasil; Presencial; BRL 180 000 - 300 000; Tempo integral

Resumo da oferta

AI/R busca profissional para atuar na construção de pipelines de dados escaláveis e confiáveis, utilizando tecnologias modernas de processamento distribuído para ingestão, transformação e disponibilização de dados com qualidade e performance.

O candidato ideal deve ter experiência com Databricks, Python e Apache Spark, além de conhecimentos em Data Factory, ADLS e bancos SQL/NoSQL. Será valorizada a experiência com Data Lake/Data Lakehouse e Airflow.

Qualificações

• Experiência com Databricks e Spark para construção de pipelines de dados escaláveis.
• Conhecimento em Data Factory e ADLS para ingestão, transformação e gestão de dados.
• Proficiente em Python para transformações e automação de ETL/ELT.
• Experiência com Airflow para orquestração de pipelines.
• Conhecimento de bancos SQL/NoSQL (PostgreSQL, MongoDB, Cassandra).

Responsabilidades

• Construção e manutenção de pipelines de dados escaláveis, com foco em ingestão, transformação e disponibilização de dados de alta qualidade.
• Modelagem de dados com Databricks, SAP Datasphere, Data Factory, ADLS, Python e bancos de dados.SQL Server e Oracle.
• Extração de dados e criação de data lake e tabelas para consumo interno.
• Estruturar RAG de contratos e documentos relevantes.
• ETL a partir de APIs e transformação de dados no Databricks.
• Desenvolvimento de ETL para análise de dados estruturados e não estruturados.

Conhecimentos

Databricks

Python

Apache Spark

Airflow

Data lake/data warehouse

Ferramentas

Data Factory

Azure Data Lake Storage

SQL/NoSQL databases

Descrição da oferta de emprego

Descrição da vaga

• Construção e manutenção de pipelines de dados escaláveis e confiáveis, utilizando tecnologias modernas de processamento distribuído para garantir a ingestão, transformação e disponibilização de dados com qualidade e performance;


• Desenvolver modelagem de dados, utilizando Databricks, SAP Datasphere, Data Factory, Azure Data Lake Storage (ADLS), Python e BD (SQL Server, Oracle).


• Extração de dados e criação de data lake de dados e tabelas;


• Estruturar RAG dos dos contratos e demais documentos;


• Realizar ETL a partir das APIs do CXL e transforma-los e trata-los em base de dados no Databricks;


• Desenvolvimento de ETL para análise de dados estruturados e não estruturados, utilizando API para análise de arquivos e validação dos dados;

Responsabilidades e atribuições

• Construção e manutenção de pipelines de dados escaláveis e confiáveis, utilizando tecnologias modernas de processamento distribuído para garantir a ingestão, transformação e disponibilização de dados com qualidade e performance;


• Desenvolver modelagem de dados, utilizando Databricks, SAP Datasphere, Data Factory, Azure Data Lake Storage (ADLS), Python e BD (SQL Server, Oracle).


• Extração de dados e criação de data lake de dados e tabelas;


• Estruturar RAG dos dos contratos e demais documentos;


• Realizar ETL a partir das APIs do CXL e transforma-los e trata-los em base de dados no Databricks;


• Estruturar tabelas de dados no Databricks;


• Desenvolvimento de ETL para análise de dados estruturados e não estruturados, utilizando API para análise de arquivos e validação dos dados;

Requisitos

• Experiência e conhecimento avançado no Databricks;


• Experiência com Data Factory, Azure Data Lake Storage (ADLS);


• Experiência na implementação de arquiteturas de Data Lake e Data Lakehouse;


• Experiência com Python, Apache Spark;


• Experiência com Airflow;


• Experiência com bancos SQL/NoSQL (PostgreSQL, MongoDB, Cassandra);

Desejável

• Conhecimento em Kafka;


• Conhecimento em DBT;


• Conhecimento em AWS Glue, BigQuery;


• Conhecimento em AI/RAG;


• Conhecimento em SAP Datasphere;

Become a Compasser, be part of AI/R.

Compass UOL is a global firm and part of the AI Revolution Company, together transforming organizations using Artificial Intelligence, Generative AI, and other of today’s most advanced technologies.

We equip our team with proprietary and external AI-driven tools to design and build digital-native platforms, integrating cutting-edge technologies and enabling companies to innovate, transform their businesses, and drive success in their markets.

To achieve this, we attract and develop the best talent, creating opportunities that enhance people’s lives and highlight the positive impact of disruptive technologies.

We empower borderless talent and promote knowledge and opportunities in the latest market trends, driving significant personal and professional growth.

Join us and be part of the AI-driven revolution.