Vacancy Senior Data Engineer (Overheid) (Brussel)

ENTICO ICT; Sint-Agatha-Berchem; Sur place; EUR 70 000 - 120 000; Plein temps

Résumé du poste

ENTICO ICT recherche un Expert Data Platform pour une plateforme de données on‑premise destinée au Ministère de la Défense Belge, au sein de la Sierra Team avec un Data Architect et un Solution Architect. Vous concevrez et déployerez des pipelines d’ingestion, des transformations sur Bronze/Silver/Gold et des exports vers Delta Lake.

Le poste couvre la gestion des données, le lignage et la gouvernance, tout en exposant les données vers des dashboards BI et des endpoints BI.

Qualifications

• Maîtrise du Python et du SQL pour le développement de pipelines et transformations.
• Expérience confirmée avec dbt-core et la gestion des modèles, snapshots et tests.
• Bonne connaissance de DuckDB comme moteur analytique embarqué et Delta Lake.
• Connaissance des bases relationnelles MSSQL et PostgreSQL (CDC et SQL avancé).
• Expérience avec un orchestrateur de données (Dagster, Airflow ou équivalent).
• A l'aise sur Linux/OpenShift et PowerShell; familiarité avec Data governance (DataHub/OpenMetadata).
• Expérience en développement BI et exposition des données via des endpoints.

Responsabilités

• Concevoir et déployer des pipelines d'ingestion depuis sources hétérogènes (fichiers, APIs, bases relationnelles).
• Implémenter des pipelines d’ingestion incrémentale et en streaming; assurer fiabilité et traçabilité.
• Développer les modèles de transformation sur Bronze/Silver/Gold (architecture medallion).
• Gérer les historiques de données (SCD2, upsert, append only) et exports vers Delta Lake.
• Maintenir les tables Delta Lake et garantir la cohérence transactionnelle en multi-domaines.
• Pousser les métadonnées et maintenir le lignage; rédiger DUA, SLA et documents de gouvernance.
• Exposer les données via endpoints BI et collaborer avec les équipes reporting.

Connaissances

Python

SQL

BI développement

PowerShell

Linux/OpenShift

Data governance

Outils

dbt-core

DuckDB

Delta Lake

MSSQL

PostgreSQL

Dagster/Airflow

DataHub/OpenMetadata

Kafka/Debezium

Spark

Power BI / PBIRS

OpenShift

Description du poste

Dans le cadre du programme DEP (Data Exchange Platform), nous construisons une plateforme de données on-premise pour le Ministère de la Défense Belge. La plateforme doit répondre à des exigences strictes de sécurité, de gouvernance et de souveraineté des données.

Vous rejoindrez la Sierra Team et travaillerez aux côtés d'un Data Architect, d'un Solution Architect et un BI developer.

Vos missions principales

Ingestion & pipelines de données

• Concevoir et déployer des pipelines d'ingestion depuis des sources hétérogènes : fichiers , APIs, bases relationnelles.
• Implémenter des pipelines pour l'ingestion incrémentale et en streaming.
• Assurer la fiabilité, l'idempotenceet la traçabilité de chaque pipeline.

Transformation & couche sémantique

• Développer les modèles de transformationsur les couches Bronze, Silver et Gold. (Architecture medallion)
• Implémenter les bonnes pratiques d'historisations de données (ex: SCD2, upsert, append only,...).
• Développer les exports vers Delta Lake
• Gérer et maintenir les tables Delta Lake.
• Garantir la cohérence transactionnelle des données dans un environnement multi-domaines.
• Implémenter et maintenir les assests à orchestrer.
• Monitorer les runs, gérer les erreurs et automatiser les alertes.

Gouvernance & lignage

• Pousser les métadonnées techniques et business vers la plateforme de data.
• Maintenir le lignage de bout en bout.
• Contribuer à la rédaction des DUA, SLA et documents de gouvernance associés.

Exposition des données

• Développer des endpoints pour exposer la couche Gold aux Dashboards BI.
• Collaborer avec les équipes reporting pour l'alimentation des dashboards BI

Profil recherché

Compétences techniques requises

• Maîtrise de Python
• Maîtrise du SQL
• Expérience confirmée avec dbt-core (modèles, snapshots, macros, tests, profils).
• Bonne connaissance de DuckDB comme moteur de requête analytique embarqué.
• Expérience avec Delta Lake (transactions ACID, time travel, OPTIMIZE/VACUUM, ...).
• Connaissance des bases relationnelles : MSSQL, PostgreSQL (SQL avancé, CDC).
• Expérience avec un orchestrateur de données : Dagster, Airflow ou équivalent.
• À l'aise sur Linux/OpenShift et ing PowerShell (Windows dev environment).
• Familiarité avec les outils de gouvernance : DataHub, OpenMetadata ou équivalent.
• Expérience dans le développement BI.

Compétences appréciées

• Expérience Kafka/Debezium pour la capture de données en temps réel.
• Connaissance de Spark (Spark SQL, Thrift Server, Beeline).
• Expérience avec Power BI Report Server (PBIRS) ou Apache Superset.
• Sensibilité à la sécurité des données dans des environnements à accès restreint.
• Avoir des connaissance des concepts Lakehouse (architecture Medallion), DWH et Datalake

Savoir-être

• Rigueur et autonomie dans la gestion de pipelines complexes multi-domaines.
• Capacité à documenter les décisions techniques et à vulgariser pour des interlocuteurs non-techniques.
• Esprit d'équipe.
• Etre curieux et avoir un esprit orienté solution

Ce que nous offrons

• Une mission stable qui s'inscrit dans la durée.
• Un projet à fort impact dans un environnement sécurisé et techniquement stimulant.
• Une équipe expérimentée et bienveillante, orientée qualité et bonnes pratiques.
• Des opportunités de montée en compétences sur la gouvernance, l'orchestration et le lakehouse.

Compte tenu de la nature des activités, le candidat doit posséder la nationalité belge.