Data Engineer Senior

Eridanis; Paris; Hybride; EUR 65 000 - 95 000; Plein temps

Résumé du poste

Eridanis recherche un ingénieur(e) Data/ETL passionné(e) pour concevoir et opérer des flux de données industriels alimentant des applications métiers publics. Vous contribuerez à l’ingestion, la transformation et la fiabilisation des données issues de capteurs IoT et sources variées, dans un cadre orienté produit.

Le rôle s’inscrit dans des projets Smart-City variés, avec une forte emphasis sur la production et la surveillance des flux en environnement Kubernetes/Docker, et l’extension

Qualifications

• Très bon niveau en Python et qualité logicielle (tests, packaging).
• À l’aise avec Docker et Kubernetes (déploiement, logs, debugging).
• Sensibilité prod: monitoring et alerting, analyse d’incidents, fiabilisation des flux.
• Connaissances IoT et FIWARE/NGSI-LD appréciées.
• Esprit analytique, autonomie et rigueur sur la qualité des données.

Responsabilités

• Ateliers avec les clients et les équipes métier pour vérifier la qualité des données.
• Récupération de données transverses depuis des sources variées (IoT).
• Standardisation et structuration orientées produit en coordination avec les dev.
• Mise en place de règles de qualité, de monitoring et d’alerting sur les flux ETL.
• Investigation d’incidents (volumétrie, latence, ruptures de qualité).

Connaissances

Python

Docker

Kubernetes

ETL

Data quality

Monitoring

Incidents analysis

Outils

Flyte

Airflow

Dagster

Prefect

NGSI-LD

FIWARE

Description du poste

Vous rejoignez une équipe qui construit et opère des flux de données industriels alimentant des applications métiers pour le secteur public, en particulier les collectivités et territoires.
Ci après des exemples concrets dans la Smart-City :

• Optimisation des consommations énergétiques des bâtiments à l’échelle du territoire,

• Récupérations des données des capteurs IoT pour fournir des services de propreté urbaine,

• Construction de jeux de données permettant de faire des études démographiques,

Selon les projets, vous pourrez contribuer ponctuellement à l’industrialisation de briques IA (NLP/LLM notamment), mais ce n’est pas le cœur du rôle.

La diversité de nos clients et de leurs besoins implique des projets très variés : nouvelles sources, contraintes et patterns d’intégration.

Ce qu’on fait au quotidien dans ce rôle

• Ateliers avec les clients/équipes métier pour vérifier qu’on a les bonnes données, au bon niveau de qualité, pour répondre au besoin.

• Récupération de données transverses depuis des sources variées (dont IoT).

• Standardisation et structuration orientées “produit” en coordination avec les équipes dev.

• Mise en place de règles de qualité, de monitoring et d’alerting sur les flux ETL.

• Investigation d’incidents (volumétrie, latence, ruptures de qualité), durcissement des pipelines.

Stack & environnement

• ETL / orchestration : Flyte

• Backend / services : Python, FastAPI

• Déploiement : Docker, Kubernetes (clusters on-prem managés)

• Observabilité : Prometheus, Grafana

• CI/CD : GitLab CI

• Standards (selon projets IoT) : FIWARE / NGSI-LD

• Packaging Python : librairies internes réutilisables (wrappers, modèles, utilitaires

IndispensableTrès bon niveau en Python (qualité logicielle, tests, packaging).À l’aise avec Docker + les bases Kubernetes (déploiement, logs, debug).Sensibilité “prod” : monitoring / alerting, analyse d’incidents, rigueur sur la qualité des flux.Un plusOrchestrateurs (Flyte, Airflow, Dagster, Prefect…).IoT / messaging (MQTT/AMQP)Standards FIWARE/NGSI-LD.Notions MLOps/ML engineering (mise en prod, suivi, évaluation simple).Connaissances GPU (nice-to-have, non requis).Ce qu’on attend de vousLogiquement, nous attendons une forte appétence en data engineering : ingestion, transformations, fiabilisation, gestion d’erreurs, rejouabilité. Cependant, voici d’autres critères que nous recherchons au sein des profils :Esprit critique, autonomie, sens du concret.Rigueur sur la qualité de données et la robustesse en production.Curiosité et envie de faire évoluer l’outillage / les pratiques DataOps