Especialista Cloudera Sênior (Big Data e Google Cloud) São Paulo - SP Full-time employee

Leega Consultoria; São Paulo; Sur place; BRL 279 000 - 502 000; Plein temps

Avantages offerts par ce poste

Convênio Médico

PLR

Vale Alimentação

Auxílio Creche

Résumé du poste

Leega Consultoria está recrutando um Especialista Cloudera Sênior para atuar presencialmente em um projeto estratégico de migração de plataforma de dados em uma instituição financeira de grande porte, de Cloudera na AWS para Google Cloud, em formato lift and shift: ~13 mil jobs Spark, 2,5 PB de dados e ML frameworks.

Você será a referência técnica do ambiente legado, lendo e destravando o que roda hoje no Cloudera, assegurando que a migração preserve o comportamento de cada componente e respeite

Qualifications

• Experiência mínima de 6 anos com ecossistema Hadoop; pelo menos 4 anos com Cloudera (CDH/CDP).
• Domínio de Spark e PySpark, Hive e Impala em produção de grande porte. Experiência com Kudu, HBase, Kafka ou NiFi.
• Conhecimento de segurança e governança no Cloudera (Ranger, Atlas, Kerberos). Experiência com Google Cloud, mínimo de 1 ano, em projetos ou ambientes de dados (Dataproc, BigQuery, Cloud Storage).
• Ensino superior completo em Tecnologia, Engenharia ou áreas correlatas.

Responsabilités

• Analisar o ambiente Cloudera atual (CDP), seus serviços, configurações, dependências e jobs em produção.
• Mapear componentes e recursos específicos do Cloudera e indicar o equivalente no Google Cloud.
• Apoiar a migração de Spark, Hive, Impala, Kudu, HBase, Kafka e NiFi, incluindo versões legadas de Spark.
• Investigar diferenças entre legado e destino e identificar a causa.
• Apoiar a migração de políticas de segurança e governança (Ranger, Atlas, Kerberos) para o Google Cloud.
• Documentar o conhecimento do legado para os times de engenharia.

Connaissances

Spark

PySpark

Hive

Impala

Kudu

HBase

Kafka

NiFi

Segurança/Governança Cloudera

Formation

Tecnologia/Engenharia superior completo

Outils

CDH/CDP

Google Cloud

Dataproc

BigQuery

Description du poste

Job description

A Leega é uma empresa focada no atendimento eficiente e inovador em seus clientes.

Isso não poderia ser diferente com o nosso principal combustível: as pessoas!

Nossa cultura é inspiradora e nossos valores estão presentes no dia a dia: ética e transparência, excelência de qualidade, trabalho em equipe, responsabilidade econômica, social e ambiental, relações humanas e credibilidade.

Buscamos profissionais inovadores que sejam movidos por desafios e focados em resultados.

Se você busca uma empresa dinâmica e parceira e que investe em seus colaboradores através de capacitação constante, a Leega é o lugar para você!

>> A LEEGA É PARA TODOS, ficaremos muito felizes em ter você em nosso time. Venha fazer parte da nossa história e da construção do nosso futuro.

Main responsibilities

Buscamos um Especialista Cloudera Sênior para atuar de forma presencial em um projeto estratégico de migração de plataforma de dados em uma instituição financeira de grande porte. O projeto é a migração de uma plataforma de dados de grande porte, hoje em Cloudera na AWS, para o Google Cloud, no modo lift and shift: cerca de 13 mil jobs Spark e PySpark, 2,5 PB de dados, streaming com CDC, centenas de modelos de Machine Learning e frameworks proprietários de ingestão e processamento, em 9 meses de migração por ondas mensais, seguidos de 3 meses de pós implantação.

Você será a referência técnica do ambiente legado: vai ler, explicar e destravar o que roda hoje no Cloudera, garantindo que a migração para o Google Cloud preserve o comportamento de cada componente. Principais responsabilidades

• Analisar o ambiente Cloudera atual (CDP), seus serviços, configurações, dependências e jobs em produção.
• Apoiar o Discovery do inventário e da malha de dependências entre origens, jobs, tabelas e consumidores.
• Mapear componentes e recursos específicos do Cloudera e indicar o equivalente ou a adequação necessária no Google Cloud.
• Apoiar a migração de Spark, Hive, Impala, Kudu, HBase, Kafka e NiFi, incluindo versões legadas de Spark.
• Investigar diferenças encontradas na comparação entre legado e destino e identificar a causa.
• Apoiar a migração de políticas de segurança e governança (Ranger, Atlas, Kerberos) para o Google Cloud.
• Atuar junto aos especialistas do cliente no entendimento dos frameworks proprietários que rodam sobre o Cloudera.
• Documentar o conhecimento do legado para os times de engenharia.

Requirements and skills

Requisitos obrigatórios

• Mínimo de 6 anos de experiência com ecossistema Hadoop, sendo pelo menos 4 anos com Cloudera (CDH ou CDP).
• Domínio de Spark e PySpark, Hive e Impala em ambiente de produção de grande porte. Experiência com Kudu, HBase, Kafka ou NiFi.
• Conhecimento de segurança e governança no Cloudera (Ranger, Atlas, Kerberos). Experiência com Google Cloud, mínimo de 1 ano, em projetos ou ambientes de dados (Dataproc, BigQuery, Cloud Storage).
• Ensino superior completo em Tecnologia, Engenharia ou áreas correlatas.

Diferenciais

• Experiência em projetos de migração de Cloudera ou Hadoop para nuvem.
• Certificação Cloudera ou Google Cloud.
• Experiência com Cloudera Data Engineering (CDE) e Airflow.
• Experiência com Apache Flink e CDC (Debezium).
• Experiência em instituições financeiras.

Competências comportamentais

• Didática para explicar o legado a times e especialistas de diferentes níveis.
• Investigação estruturada de problemas, com foco em causa raiz.
• Colaboração próxima com especialistas do cliente.
• Organização na documentação de conhecimento técnico.
• Disponibilidade para atuar em janelas de implantação.

Informações adicionais INDISPENSÁVEL Conhecimento/Atuação em:

• Cloudera (CDH ou CDP) em produção
• Spark, Hive e Impala
• Atuação presencial

Modelo de atuação 100% PRESENCIAL, em instituição financeira localizada na Av. Paulista - São Paulo.

Contratação CLT.

Additional information

Na nossa empresa, você encontrará um ambiente colaborativo e um pacote de benefícios que visa o seu crescimento, saúde e qualidade de vida. Confira abaixo os benefícios que oferecemos:

• Convênio Médico Porto Seguro
• Cuidado completo para você e sua família, com possibilidade de incluir cônjuge e filhos.
• Convênio Odontológico Porto Seguro
• Proteção odontológica para você e seus dependentes.
• Participação nos Lucros e Resultados (PLR)
• Reconhecimento pelo seu trabalho e contribuição para o sucesso da empresa.
• Auxílio Creche
• Suporte financeiro para que pais e mães cuidem dos pequenos com tranquilidade.
• Vale Alimentação e Refeição Alelo
• Garantindo refeições práticas e confortáveis no seu dia a dia.
• Auxílio Home Office
• Incentivo para que você tenha um espaço de trabalho confortável em casa.
• Parcerias com Instituições de Ensino
• Educação ao seu alcance, com descontos e incentivos em cursos e graduações.
• Incentivo para Certificações, inclusive em Cloud
• Avance sua carreira com certificações nas principais tecnologias como: GCP, Azure, AWS entre outras.
• Pontos Livelo
• Acumule pontos e use como preferir, com total liberdade de escolha.
• TotalPass
• Incentivo à saúde com planos deacademiacom desconto para colaboradores e familiares.
• Mindself
• Incentivo à melhorar a qualidade de vida através de meditação e o Mindfulness.