Data Engineer GCP H/F

Open; Levallois-Perret; Hybrid; EUR 72,000 - 98,000; Full time

Job summary

Open, unité Open Data & IA, recherche un consultant data expérimenté pour accompagner des Grands Comptes dans une approche hybride et agile. Vous contribuerez à construire une plateforme de données robuste sur Google Cloud Platform et piloterez des pipelines d’ingestion, de transformation et d’orchestration.

Vos missions incluent l’ingestion via Dataflow et Pub/Sub vers BigQuery, l’orchestration avec Airflow et Cloud Workflows, et l’observabilité des flux (Logging/Monitoring).

Qualifications

• Maîtrise avancée de Python et SQL pour transformation et automatisation des flux.
• Expérience avec Google Cloud Platform et BigQuery indispensable.
• Connaissances en Docker/Kubernetes et pipelines CI/CD souhaitables.

Responsibilities

• Conception, optimise et déploie des pipelines d’ingestion et de transformation sur GCP (BigQuery, Dataflow).
• Implémente et gère l’architecture événementielle (Pub/Sub, Eventarc).
• Orchestre les flux data/ML et assure l’exécution jusqu’au déploiement des services.
• Garantit l’observabilité (Logging, Monitoring) et la fiabilité du système.
• Contribue à l’amélioration continue CI/CD et à la sécurité des livrables en prod.

Skills

Python

SQL

Shell scripting

Tools

BigQuery

Dataflow

Dataform

Pub/Sub

Eventarc

Airflow

Cloud Workflows

Docker

Cloud Run

GKE

Job description

Le Big Data est aujourd’hui au cœur de la transformation digitale des entreprises. Chez nous, il ne s’agit pas seulement de technologie, mais d’un véritable levier de création de valeur pour nos clients.

Vous êtes passionné(e) par la data, curieux(se) des technologies de pointe et motivé(e) par des projets complexes et innovants ?

Au sein de notre Business Unit Open Data & IA, vous interviendrez sur des missions à forte valeur ajoutée pour des clients Grands Comptes, dans un environnement hybride, agile et collaboratif.

Le.a consultant.e interviendra sur les missions clés suivantes, visant à construire et maintenir une plateforme de données robuste et exploitable :

Ingestion & Flux de Données :

• Conception, optimisation et déploiement de pipelines d'ingestion de données performants et robustes vers Google Cloud BigQuery.

Transformation des Données :

• Conception et implémentation de pipelines de transformation de données complexes et efficaces au sein de BigQuery.

Architecture Événementielle :

• Automatisation du flux de données dès leur mise à disposition en exploitant les services GCP de gestion des événements (Event-Driven Architecture) tels que Pub/Sub et Eventarc.

Orchestration Data/ML :

• Mise en œuvre et gestion de l'orchestration globale des flux de données, depuis le traitement initial jusqu'au lancement des services de calcul et de Machine Learning.

Exploitabilité de la Solution

• Garantir la haute disponibilité et la maintenance du système par la mise en place d'une stratégie de logging complète, de mécanismes de gestion d'erreurs robustes et d'un monitoring efficace des flux de données.

Industrialisation & DevOps :

• Contribution à l'amélioration continue de la chaîne CI/CD et sécurisation du déploiement des livrables en production.

Environnement fonctionnel & technique

Plateforme Cloud :

• Google Cloud Platform (GCP) : Maîtrise confirmée de l'ensemble de la plateforme.

Services GCP Clés :

• Data Warehouse : BigQuery (SQL avancé requis).
• Flux & Ingestion de Données : Dataflow, Dataform, Eventarc, Pub/Sub.
• Orchestration : Google Cloud Workflows, Airflow, Kubeflow.
• Compute & Virtualisation : Cloud Run, Docker, notions sur Dataproc (PySpark) et GKE (Kubernetes).
• Exploitabilité & DevOps : Concepts d'observabilité (Logging, Monitoring) sur GCP.

Environnement de Développement :

• Langages : Python (pour transformation de données et automatisation), SQL, notions de script Shell.

Méthodes & Outils Méthodologie :

• Culture DevOps appliquée à l'écosystème GCP.
• Approche d'amélioration continue de la chaîne CI/CD.

Outils & Technologies :

• Data Engineering : BigQuery, Dataflow, Dataform, Pub/Sub, Eventarc, Cloud Workflows.
• Orchestration : Airflow, Cloud Workflows.
• Déploiement & Conteneurisation : Docker, Cloud Run, notions de GKE.
• Langages de Scripting : Python, SQL, Shell.
• Observabilité : Solutions de Logging et Monitoring GCP.
• CI/CD : Outils et pratiques liés à la chaîne d'intégration et de déploiement continus sur GCP.

Compétences Optionnelles :

• Data Science : Compréhension du cycle de vie d'un modèle Machine Learning.
• Visualisation de Données : Connaissance de Power BI.

Pourquoi nous rejoindre ?

Une équipe engagée, des projets stimulants, des défis techniques quotidiens et un environnement propice à la montée en compétences.

Notre process de recrutement : un bref échange téléphonique, un premier échange RH d'environ 1h pour parler de vous, de vos aspirations professionnelles et de notre offre, un deuxième échange avec votre futur Manager et un dernier échange avec un de nos experts pour parler technique.

Ce sont nos Ambassadeurs qui en parlent le mieux, découvrez leurs témoignages sans filtre : https://www.youtube.com/watch?v=C4w_dkkVq40

Code REC : ACH23516