AWS Data Science | Specialist (Remote)

AI/R; Brasil; Presencial; BRL 360 000 - 520 000; Tempo integral

Resumo da oferta

AI/R está buscando um líder sênior de engenharia de dados para desenvolver e evoluir as capacidades da Feature Store, incluindo data lineage, feature views e camadas de serving em tempo real. Você projetará tabelas Iceberg e otimizará pipelines Spark para ML em escala.

Você estabelecerá governança, padrões de qualidade e rastreabilidade, trabalhando com serviços AWS (S3/EMR/Redshift) para entregar produtos de dados escaláveis.

Qualificações

• Experiência em engenharia de features em plataformas ML corporativas.
• Domínio avançado de Spark/PySpark para processamento distribuído em escala.
• Profundo conhecimento de Iceberg e arquiteturas lakehouse.
• Expertise em Redis para feature serving com baixa latência e serialização eficiente.
• Experiência sólida com AWS e serviços de dados em produção (S3, Glue, EMR, Redshift, Athena).

Responsabilidades

• Liderar o desenvolvimento e evolução das capacidades da Feature Store, incluindo data lineage, feature views, feature recommendation e novos motores de consulta.
• Projetar e implementar tabelas Apache Iceberg com foco em performance de leitura, versionamento e evolução de schema.
• Arquitetar e otimizar a camada de serving com Redis para features em tempo real com SLOs rigorosos de latência.
• Integrar e otimizar Amazon EMR como motor de consulta e processamento em escala.
• Definir e implementar pipelines de feature selection e transformação com rastreabilidade end-to-end.
• Estabelecer padrões de qualidade, versionamento e governança de features para toda a plataforma.
• Atuar como referência técnica para times de dados e ciência que consomem a Feature Store.

Conhecimentos

Engenharia de features

Apache Spark/PySpark

Apache Iceberg

Redis para serving

AWS data services

Ferramentas

Redis

Spark

Iceberg

Descrição da oferta de emprego

Descrição da vaga

Responsabilidades e atribuições

• Liderar o desenvolvimento e evolução das capacidades da Feature Store: data lineage, feature views, feature recommendation e novos motores de consulta;
• Projetar e implementar tabelas Apache Iceberg com foco em performance de leitura, versionamento e evolução de schema;
• Arquitetar e otimizar a camada de serving com Redis para features em tempo real com SLOs rigorosos de latência;
• Integrar e otimizar Amazon EMR como motor de consulta e processamento em escala;
• Definir e implementar pipelines de feature selection e transformação com rastreabilidade end-to-end;
• Estabelecer padrões de qualidade, versionamento e governança de features para toda a plataforma;
• Atuar como referência técnica para times de dados e ciência que consomem a Feature Store.

• Liderar o desenvolvimento e evolução das capacidades da Feature Store: data lineage, feature views, feature recommendation e novos motores de consulta;
• Projetar e implementar tabelas Apache Iceberg com foco em performance de leitura, versionamento e evolução de schema;
• Arquitetar e otimizar a camada de serving com Redis para features em tempo real com SLOs rigorosos de latência;
• Integrar e otimizar Amazon EMR como motor de consulta e processamento em escala;
• Definir e implementar pipelines de feature selection e transformação com rastreabilidade end-to-end;
• Estabelecer padrões de qualidade, versionamento e governança de features para toda a plataforma;
• Atuar como referência técnica para times de dados e ciência que consomem a Feature Store.

Requisitos e qualificações

• Expertise em engenharia de features em plataformas de ML corporativas (Feast, Tecton, Hopsworks ou equivalentes);
• Domínio avançado de Apache Spark/PySpark para processamento distribuído em escala;
• Profundo conhecimento de Apache Iceberg e arquiteturas lakehouse (comparativo com Delta Lake e Hudi);
• Expertise em Redis para feature serving em baixa latência, incluindo estratégias de cache invalidation e serialização eficiente;
• Experiência sólida com AWS e seus serviços de dados em produção (S3, Glue, EMR, Redshift, Athena).
• Desejável: Domínio de data lineage e catálogos de metadados (DataHub, OpenMetadata, Marquez) em produção, experiência com Amazon EMR: configuração, otimização de clusters e tuning de jobs Spark, expertise em práticas de MLOps com foco em versionamento e rastreabilidade de artefatos de dados, atuação anterior em contexto financeiro com dados de alta cardinalidade, alta frequência e requisitos regulatórios, conhecimento de ferramentas de qualidade de dados em escala (Great Expectations, Soda, dbt tests).

Become a Compasser, be part of AI/R.

Compass UOL is a global firm and part of the AI Revolution Company, together transforming organizations using Artificial Intelligence, Generative AI, and other of today’s most advanced technologies.

We equip our team with proprietary and external AI-driven tools to design and build digital-native platforms, integrating cutting-edge technologies and enabling companies to innovate, transform their businesses, and drive success in their markets.

To achieve this, we attract and develop the best talent, creating opportunities that enhance people’s lives and highlight the positive impact of disruptive technologies.

We empower borderless talent and promote knowledge and opportunities in the latest market trends, driving significant personal and professional growth.