TECH LEAD II - Engenharia de Dados | São Paulo/SP

Omie

São Paulo

On-site

BRL 320,000 - 520,000

Full time

14 days+

A complete application in a minute

Tailored resume and cover letter, ready to send.

Get past ATS filters

Benefits offered by this job

Plano de Saúde Bradesco

Plano Odontológico Amil

Auxílio Home Office

VT e Fretado

Seguro de Vida Prudential

Job summary

A Omie, uma das empresas de tecnologia de maior crescimento no Brasil, busca engenheiro de dados sênior para desenhar e manter arquitetura de dados escalável na nuvem. Você trabalhará com AWS, Databricks e Delta Lake para criar um lakehouse robusto.

Você liderará projetos, mentorará a equipe, implementará governança de dados com Unity Catalog e otimizará desempenho e custos de SQL Warehouses, além de apoiar workloads de ML e IA com Databricks Genie.

Qualifications

Experiência 7+ anos em engenharia de dados, arquitetura de dados ou plataformas de big data.
Conhecimento avançado de AWS Data Lakes e migração cloud-to-lakehouse.
Experiência prática com AWS Glue e Databricks Jobs.
Domínio do Delta Lake (merge/upsert, OPTIMIZE, Z-ORDER).
Domínio da plataforma Databricks (PySpark, Delta Live Tables, Serverless SQL).
Governança com Unity Catalog para metadados, controle de acesso e auditoria em múltiplos workspaces.
Experiência com workloads de ML/IA e Databricks Genie, curadoria de espaços Genie e prompts.
Python e SQL avançados.

Responsibilities

Arquitetar e otimizar arquiteturas de dados na nuvem com AWS e Databricks.
Construir pipelines automáticos usando AWS Glue e Databricks Jobs/Workflows.
Desenvolver lakehouse em Delta Lake com gestão de schema e particionamento.
Gerenciar Unity Catalog e controle de acesso entre múltiplos workspaces.
Montar infra de dados para workloads de ML/IA e LLMs com Databricks Genie.
Monitorar performance e custo de SQL Warehouses e clusters Databricks.
Liderar tecnicamente e mentorar engenheiros de dados sênior e pleno.

Skills

Python

SQL

CI/CD

Mentorship

Tools

AWS

Databricks

Delta Lake

Unity Catalog

PySpark

Serverless SQL

Databricks Genie

AWS Glue

Delta Live Tables

Databricks Jobs/Workflows

Job description

A Omie tem como propósito trazer prosperidade para o ecossistema empreendedor brasileiro. Por isso, buscamos por pessoas com mentalidade de crescimento, valorizando perfis que tenham capacidade de adaptação, senso colaborativo e sejam motivadas pela inovação e pelo aprendizado contínuo.

Faça parte da história de uma das empresas de tecnologia que mais cresce no país!

#VempraOmie

Main responsibilities

Arquitetura & Ecossistema Cloud: Desenhar, construir e otimizar arquiteturas de plataforma de dados escaláveis, resilientes e seguras usando AWS e Databricks.
Engenharia de Pipelines & Data Lake: Construir pipelines automatizados usando AWS Glue, Databricks Jobs/Workflows, ingestão JDBC de fontes SQL Server multi-tenant e integrações via API REST (HubSpot, Jira, Sympla, Zoom).
Lakehouse Moderno: Arquitetar e manter o lakehouse em Delta Lake nas camadas bronze/silver/gold, com transações ACID, time travel, evolução de schema e estratégias de Z-ORDER/particionamento para custo e performance.
Governança & Segurança Corporativa: Arquitetar e manter controle de acesso granular, linhagem de dados e gestão de metadados via Databricks Unity Catalog em múltiplos workspaces, incluindo gestão de secret scopes e rotação de credenciais.
IA/ML & Analytics Conversacional: Construir e operacionalizar infraestrutura de dados para workloads de ML/IA e LLMs. Configurar espaços de Databricks AI/BI Genie, incluindo trusted assets, instructions e metric spaces, para suportar BI self-service em linguagem natural.
Otimização de Performance & Controle de Custo: Monitorar e otimizar SQL Warehouses e clusters de job do Databricks para performance e custo , incluindo atribuição via system.billing, dimensionamento de warehouse, detecção de ociosidade e tuning de queries.
Liderança Técnica & Mentoria: Guiar e mentorar engenheiros de dados sênior e pleno, estabelecendo boas práticas de engenharia em CI/CD, testes automatizados e versionamento.

Requirements and skills

Experiência: 7+ anos de experiência profissional em engenharia de dados, arquitetura de dados ou plataformas de big data.
Ecossistema AWS: Conhecimento avançado de AWS Data Lakes, incluindo experiência em migração cloud-to-lakehouse.
Orquestração & ETL: Experiência prática extensiva construindo workflows complexos de ingestão e transformação usando AWS Glue e Databricks Jobs.
Delta Lake: Conhecimento sólido de internals do Delta Lake — padrões de merge/upsert, otimização de tabelas (OPTIMIZE, Z-ORDER, VACUUM) e gestão de schema em escala.
Ecossistema Databricks: Domínio da plataforma Databricks, incluindo PySpark, Delta Live Tables e Serverless SQL Warehouses.
Governança: Experiência prática configurando e gerenciando Databricks Unity Catalog para gestão centralizada de metadados, controle de acesso e auditoria em múltiplos workspaces.
IA/ML & Databricks Genie: Experiência montando plataformas de dados para workflows de ML, MLOps e ferramentas conversacionais de IA, especificamente Databricks Genie, incluindo curadoria de Genie spaces, ajuste de prompts/instructions e integração com a semântica do Unity Catalog.
Programação & SQL: Proficiência avançada em Python e SQL.

Additional information

Saúde e bem‑estar