Databricks Data Engineer | Senior (Remote)

AI/R; Brasil; Presencial; BRL 120 000 - 190 000; Tempo integral

Resumo da oferta

Compass UOL está recrutando engenheiro(a) de dados para projetar, construir e manter pipelines de ingestão, transformação e disponibilização de dados. O(a) profissional irá modelar dados em Data Lake/Data Lakehouse, promovendo soluções escaláveis com Databricks, Python e Azure Data Factory.

O candidato ideal possui sólida experiência com modelagem de dados, SQL e bancos relacionais, além de conhecimento em SAP Datasphere e ADLS.

Qualificações

• Formação superior completa em TI ou pós-graduação reconhecida pelo MEC (mínimo 360 horas).
• Experiência avançada com Databricks e modelagem de dados.
• Conhecimentos de Python e SQL.
• Conhecimento em Azure Data Factory e Azure Data Lake Storage (ADLS).
• Experiência com SAP Datasphere.
• Vivência com bancos de dados relacionais (SQL Server/Oracle).
• Diferencial: Spark, Airflow, Kafka, dbt e arquiteturas Data Lake/Data Lakehouse.

Responsabilidades

• Desenvolver e manter pipelines de ingestão, transformação e disponibilização de dados.
• Modelar e estruturar dados em Data Lake/Data Lakehouse.
• Desenvolver ETL/ELT com Databricks, Python e Azure Data Factory.
• Integrar dados de APIs, bancos e arquivos estruturados e não estruturados.
• Participar de projetos com SAP Datasphere e ADLS.
• Gerenciar processamento de dados com foco em performance e governança.
• Contribuir em iniciativas de IA Generativa, estruturação de bases para RAG e processamento de documentos.

Conhecimentos

Modelagem de dados

Python

SQL

ETL/ELT

Formação académica

Superior completo em TI ou pós-graduação (360h MEC)

Ferramentas

Databricks

Azure Data Factory

Azure Data Lake Storage (ADLS)

SAP Datasphere

Apache Spark

Airflow

Kafka

dbt

Descrição da oferta de emprego

• Desenvolver e manter pipelines de ingestão, transformação e disponibilização de dados;
• Modelar e estruturar dados em ambientes Data Lake e Data Lakehouse;
• Integrar dados provenientes de APIs, bancos de dados e arquivos estruturados e não estruturados;
• Atuar em projetos envolvendo SAP Datasphere e Azure Data Lake Storage (ADLS);
• Desenvolver soluções para processamento de dados com foco em performance, qualidade e governança;
• Participar de iniciativas de IA Generativa, como estruturação de bases para RAG e processamento de documentos;
• Colaborar com equipes multidisciplinares na evolução de soluções de dados.

Descrição da vaga

Responsabilidades e atribuições

• Desenvolver e manter pipelines de ingestão, transformação e disponibilização de dados;
• Modelar e estruturar dados em ambientes Data Lake e Data Lakehouse;
• Desenvolver processos de ETL/ELT utilizando Databricks, Python e Azure Data Factory.
• Integrar dados provenientes de APIs, bancos de dados e arquivos estruturados e não estruturados;
• Atuar em projetos envolvendo SAP Datasphere e Azure Data Lake Storage (ADLS);
• Desenvolver soluções para processamento de dados com foco em performance, qualidade e governança;
• Participar de iniciativas de IA Generativa, como estruturação de bases para RAG e processamento de documentos;
• Colaborar com equipes multidisciplinares na evolução de soluções de dados.

Requisitos e qualificações

• Ensino superior completo em Tecnologia da Informação ou pós-graduação em TI (mínimo de 360 horas reconhecidas pelo MEC);
• Experiência avançada com Databricks;
• Sólidos conhecimentos em modelagem de dados;
• Experiência com Python e SQL;
• Conhecimento em Azure Data Factory e Azure Data Lake Storage (ADLS);
• Experiência com SAP Datasphere;
• Vivência com bancos de dados relacionais, como SQL Server e Oracle;
• Experiência na construção e manutenção de pipelines de dados escaláveis e confiáveis;
• Diferencial: Conhecimento em Apache Spark, Airflow, Kafka ou dbt, experiência com arquiteturas Data Lake e Data Lakehouse, vivência com integrações via APIs, experiência em projetos de IA Generativa, RAG e processamento de documentos, conhecimento em outras plataformas cloud e ecossistemas de dados modernos.

Become a Compasser, be part of AI/R.

Compass UOL is a global firm and part of the AI Revolution Company, together transforming organizations using Artificial Intelligence, Generative AI, and other of today's most advanced technologies.

We equip our team with proprietary and external AI-driven tools to design and build digital-native platforms, integrating cutting-edge technologies and enabling companies to innovate, transform their businesses, and drive success in their markets.

To achieve this, we attract and develop the best talent, creating opportunities that enhance people's lives and highlight the positive impact of disruptive technologies.

We empower borderless talent and promote knowledge and opportunities in the latest market trends, driving significant personal and professional growth.

Join us and be part of the AI-driven revolution.