Engenheiro(a) Sênior de Dados | Databricks

Candidata ai; Brasil; In loco; BRL 260.000 - 420.000; Tempo pieno

Descrizione del lavoro

A empresa Candidata ai procura um Engenheiro(a) Sênior de Dados apaixonado(a) por tecnologia, inovação e resolução de problemas complexos. O foco está na construção de soluções modernas de dados com Databricks e em liderar pipelines escaláveis para dados, IA e DataOps.

Você trabalhará com equipes multidisciplinares para definir arquiteturas modernas, garantir qualidade e governança, e evoluir pipelines com observabilidade e práticas de CI/CD.

Competenze

• Experiência sólida em Engenharia de Dados.
• Mínimo de 2 anos de experiência prática no desenvolvimento de pipelines de dados utilizando Databricks.
• Experiência comprovada com Delta Lake, Delta Live Tables (Lakeflow Declarative Pipelines), Unity Catalog e Uniform (Iceberg).
• Experiência no desenvolvimento de pipelines de dados batch, micro-batch e streaming.
• Vivência na construção de soluções escaláveis e orientadas por configuração utilizando YAML.
• Experiência com ingestão e processamento de dados utilizando Auto Loader ou tecnologias similares.
• Conhecimento avançado em Apache Spark e processamento distribuído de dados.
• Experiência na construção de fluxos de orquestração de dados utilizando Databricks Workflows, Airflow, dbt ou ferramentas equivalentes.
• Conhecimento de práticas de qualidade, auditoria e observabilidade de dados.
• Experiência com ferramentas de qualidade de dados como Great Expectations, dbt, Collibra ou similares.
• Experiência com plataformas de Big Data, incluindo Apache Spark, Presto, Amazon EMR.
• Experiência com Data Warehouses em nuvem, como Snowflake, Amazon Redshift, Google BigQuery.
• Conhecimento avançado em SQL.
• Experiência em linguagens de programação orientadas a objetos, como Python, PySpark ou Java.
• Experiência com desenvolvimento e manutenção de pipelines DevOps e CI/CD.
• Conhecimento em Databricks Asset Bundles para automação, validação e testes.
• Familiaridade com bancos de dados NoSQL.
• Conhecimento de tecnologias de containers e ambientes distribuídos.
• Exposição a ferramentas e práticas de Inteligência Artificial e Machine Learning, incluindo MLflow.
• Inglês Fluente

Mansioni

• Desenvolver, implementar e otimizar soluções de dados utilizando a plataforma Databricks.
• Projetar e construir pipelines de dados escaláveis para processamento batch, micro-batch e streaming.
• Implementar soluções utilizando recursos avançados da plataforma Databricks, incluindo Delta Lake, Delta Live Tables (Lakeflow Declarative Pipelines), Unity Catalog e Uniform (Iceberg).
• Trabalhar em conjunto com equipes multidisciplinares para definir arquiteturas de dados modernas e alinhadas às necessidades do negócio.
• Garantir a qualidade, desempenho, confiabilidade e governança dos dados ao longo de todo o ciclo de vida das soluções.
• Desenvolver padrões reutilizáveis de ingestão, transformação e disponibilização de dados.
• Criar e manter processos de orquestração de workflows utilizando ferramentas como Databricks Workflows, Airflow, dbt ou soluções equivalentes.
• Implementar práticas de observabilidade, auditoria e monitoramento de pipelines de dados.
• Participar da definição e evolução de pipelines CI/CD para ambientes de dados.
• Apoiar iniciativas relacionadas a Inteligência Artificial, Machine Learning e DataOps.
• Manter-se atualizado sobre novas funcionalidades do Databricks, tendências de engenharia de dados e melhores práticas do mercado.

Conoscenze

Engenharia de Dados

SQL Avançado

Python

Spark

Data Pipelines

CI/CD

Airflow

dbt

MLflow

NoSQL

Data Quality

Observability

YAML

Goverança de dados

Inglês

Strumenti

Databricks

Delta Lake

Delta Live Tables

Unity Catalog

Uniform (Iceberg)

dbt

Airflow

Snowflake

Redshift

BigQuery

Terraform

Kubernetes

MLflow

Descrizione del lavoro

Estamos em busca de um(a) Engenheiro(a) Sênior de Dados apaixonado(a) por tecnologia, inovação e resolução de problemas complexos. Procuramos alguém com perfil investigativo, forte capacidade analítica e experiência prática na construção de soluções modernas de dados utilizando a plataforma Databricks.

Nesta posição, você terá papel fundamental no desenvolvimento de arquiteturas escaláveis de dados, atuando em projetos estratégicos para clientes de diferentes segmentos. Esperamos um profissional que combine excelência técnica, aprendizado contínuo e colaboração para impulsionar iniciativas de dados, analytics e inteligência artificial.

Principais responsabilidades

• Desenvolver, implementar e otimizar soluções de dados utilizando a plataforma Databricks.
• Projetar e construir pipelines de dados escaláveis para processamento batch, micro-batch e streaming.
• Implementar soluções utilizando recursos avançados da plataforma Databricks, incluindo Delta Lake, Delta Live Tables (Lakeflow Declarative Pipelines), Unity Catalog e Uniform (Iceberg).
• Trabalhar em conjunto com equipes multidisciplinares para definir arquiteturas de dados modernas e alinhadas às necessidades do negócio.
• Garantir a qualidade, desempenho, confiabilidade e governança dos dados ao longo de todo o ciclo de vida das soluções.
• Desenvolver padrões reutilizáveis de ingestão, transformação e disponibilização de dados.
• Criar e manter processos de orquestração de workflows utilizando ferramentas como Databricks Workflows, Airflow, dbt ou soluções equivalentes.
• Implementar práticas de observabilidade, auditoria e monitoramento de pipelines de dados.
• Participar da definição e evolução de pipelines CI/CD para ambientes de dados.
• Apoiar iniciativas relacionadas a Inteligência Artificial, Machine Learning e DataOps.
• Manter-se atualizado sobre novas funcionalidades do Databricks, tendências de engenharia de dados e melhores práticas do mercado.

Requisitos obrigatórios

• Experiência sólida em Engenharia de Dados.
• Mínimo de 2 anos de experiência prática no desenvolvimento de pipelines de dados utilizando Databricks.
• Experiência comprovada com:
  • Delta Lake
  • Delta Live Tables (Lakeflow Declarative Pipelines)
  • Unity Catalog
  • Uniform (Iceberg)
• Experiência no desenvolvimento de pipelines de dados batch, micro-batch e streaming.
• Vivência na construção de soluções escaláveis e orientadas por configuração utilizando YAML.
• Experiência com ingestão e processamento de dados utilizando Auto Loader ou tecnologias similares.
• Conhecimento avançado em Apache Spark e processamento distribuído de dados.
• Experiência na construção de fluxos de orquestração de dados utilizando Databricks Workflows, Airflow, dbt ou ferramentas equivalentes.
• Conhecimento de práticas de qualidade, auditoria e observabilidade de dados.
• Experiência com ferramentas de qualidade de dados como Great Expectations, dbt, Collibra ou similares.
• Experiência com plataformas de Big Data, incluindo:
  • Apache Spark
  • Presto
  • Amazon EMR
• Experiência com Data Warehouses em nuvem, como:
  • Snowflake
  • Amazon Redshift
  • Google BigQuery
• Conhecimento avançado em SQL.
• Experiência em linguagens de programação orientadas a objetos, como Python, PySpark ou Java.
• Experiência com desenvolvimento e manutenção de pipelines DevOps e CI/CD.
• Conhecimento em Databricks Asset Bundles para automação, validação e testes.
• Familiaridade com bancos de dados NoSQL.
• Conhecimento de tecnologias de containers e ambientes distribuídos.
• Exposição a ferramentas e práticas de Inteligência Artificial e Machine Learning, incluindo MLflow.
• Inglês Fluente

Diferenciais

• Certificação Databricks Data Engineer Associate.
• Certificação Databricks Data Engineer Professional.
• Experiência com Terraform ou outras ferramentas de Infraestrutura como Código (IaC).
• Vivência em projetos modernos de DataOps, MLOps e Platform Engineering.
• Experiência com engenharia de prompts e aplicações baseadas em IA Generativa.
• Participação em projetos de modernização de plataformas de dados em nuvem.
• Histórico de atuação em múltiplos projetos corporativos utilizando Databricks.

Competências comportamentais

• Perfil analítico e orientado à resolução de problemas.
• Curiosidade intelectual e interesse contínuo por novas tecnologias.
• Facilidade para atuar em ambientes dinâmicos e de constante evolução.
• Boa comunicação e capacidade de compartilhar conhecimento.
• Proatividade e senso de protagonismo.
• Capacidade de trabalhar de forma colaborativa em equipes multidisciplinares.
• Organização e atenção à qualidade das entregas.
• Mentalidade voltada para inovação e melhoria contínua.

Regime De Contratação

Cooperado

Departamento

Tecnologia da Informação