Data Engineer: Hadoop + PySpark Pipelines Architect

Bénin Digital; Montfaucon; Sur place; EUR 55 000 - 75 000; Plein temps

Résumé du poste

Bénin Digital recherche un Data Engineer expérimenté pour rejoindre son équipe à Montfaucon. Vous travaillerez sur les pipelines PySpark, l’ingestion de données et des traitements Data dans un cadre Agile.

Vous collaborerez avec les équipes production et DevOps, rédigerez les spécifications techniques et participerez à l’évolution des traitements sur Hadoop/Hive. Expérience 3–6 ans exigée et maîtrise de Python.

Qualifications

• 3 à 6 ans d’expérience, Hadoop / PySpark.
• Autonome et opérationnel sur le traitement de gros volumes.
• Bonne maîtrise de l’anglais professionnel.

Responsabilités

• Mettre en œuvre de nouvelles ingestions de données.
• Réaliser les traitements de Data Preparation / transformation.
• Développer, maintenir et faire évoluer les pipelines de données en PySpark.
• Réaliser du Shell Scripting sous Unix/Linux.
• Collaborer avec l’équipe DevOps pour les demandes d’évolution.
• Participer au maintien en conditions opérationnelles et à l’évolution des traitements Data.
• Rédiger les spécifications techniques et documenter les solutions mises en œuvre.

Connaissances

Hadoop

Python

PySpark

Hive

SQL

Shell scripting

Unix/Linux

Outils

Git

Jenkins

Jira

Description du poste

Bénin Digital recherche un Data Engineer expérimenté pour rejoindre son équipe à Montfaucon. Vous travaillerez sur les pipelines PySpark, l’ingestion de données et des traitements Data dans un cadre Agile.

Vous collaborerez avec les équipes production et DevOps, rédigerez les spécifications techniques et participerez à l’évolution des traitements sur Hadoop/Hive. Expérience 3–6 ans exigée et maîtrise de Python.