Data Engineer GCP H/F

Open; Levallois-Perret; Hybride; EUR 65 000 - 90 000; Plein temps

Résumé du poste

Open, leader en Data & IA, recherche un consultant Data & GCP pour concevoir et maintenir une plateforme de données robuste. Vous travaillerez sur des pipelines d’ingestion et de transformation vers BigQuery, avec une approche Event-Driven et DevOps.

Vous évoluerez dans un cadre hybride, agile et collaboratif, sur des missions à forte valeur ajoutée pour des clients Grands Comptes, avec un focus sur la fiabilité et la performance des flux de données.

Responsabilités

• Conception, optimisation et déploiement de pipelines d'ingestion de données vers BigQuery.
• Conception et implémentation de pipelines de transformation de données dans BigQuery.
• Automatisation du flux de données via Pub/Sub, Eventarc et Dataflow.
• Orchestration des flux data/ML avec Cloud Workflows et Airflow.
• Maintien de l'observabilité et de la robustesse du système (logging, monitoring).

Connaissances

Python

SQL

Shell scripting

Data engineering

DevOps culture

Outils

BigQuery

Dataflow

Dataform

Pub/Sub

Eventarc

Cloud Workflows

Airflow

Docker

GKE

Description du poste

Le Big Data est aujourd’hui au cœur de la transformation digitale des entreprises. Chez nous, il ne s’agit pas seulement de technologie, mais d’un véritable levier de création de valeur pour nos clients.Vous êtes passionné(e) par la data, curieux(se) des technologies de pointe et motivé(e) par des projets complexes et innovants ?Au sein de notre Business Unit Open Data & IA, vous interviendrez sur des missions à forte valeur ajoutée pour des clients Grands Comptes, dans un environnement hybride, agile et collaboratif. Le.a consultant.e interviendra sur les missions clés suivantes, visant à construire et maintenir une plateforme de données robuste et exploitable :Ingestion & Flux de Données :- Conception, optimisation et déploiement de pipelines d'ingestion de données performants et robustes vers Google Cloud BigQuery.Transformation des Données :- Conception et implémentation de pipelines de transformation de données complexes et efficaces au sein de BigQuery.Architecture Événementielle :- Automatisation du flux de données dès leur mise à disposition en exploitant les services GCP de gestion des événements (Event-Driven Architecture) tels que Pub/Sub et Eventarc.Orchestration Data/ML :- Mise en œuvre et gestion de l'orchestration globale des flux de données, depuis le traitement initial jusqu'au lancement des services de calcul et de Machine Learning.Exploitabilité de la Solution :- Garantir la haute disponibilité et la maintenance du système par la mise en place d'une stratégie de logging complète, de mécanismes de gestion d'erreurs robustes et d'un monitoring efficace des flux de données.Industrialisation & DevOps :- Contribution à l'amélioration continue de la chaîne CI/CD et sécurisation du déploiement des livrables en production. Environnement fonctionnel & technique Plateforme Cloud :Google Cloud Platform (GCP) : Maîtrise confirmée de l'ensemble de la plateforme.Services GCP Clés :- Data Warehouse : BigQuery (SQL avancé requis).- Flux & Ingestion de Données : Dataflow, Dataform, Eventarc, Pub/Sub.- Orchestration : Google Cloud Workflows, Airflow, Kubeflow.- Compute & Virtualisation : Cloud Run, Docker, notions sur Dataproc (PySpark) et GKE (Kubernetes).- Exploitabilité & DevOps : Concepts d'observabilité (Logging, Monitoring) sur GCP.Environnement de Développement :Langages : Python (pour transformation de données et automatisation), SQL, notions de script Shell. Méthodes & Outils Méthodologie :- Culture DevOps appliquée à l'écosystème GCP.- Approche d'amélioration continue de la chaîne CI/CD.Outils & Technologies :- Data Engineering : BigQuery, Dataflow, Dataform, Pub/Sub, Eventarc, Cloud Workflows.- Orchestration : Airflow, Cloud Workflows.- Déploiement & Conteneurisation : Docker, Cloud Run, notions de GKE.- Langages de Scripting : Python, SQL, Shell.- Observabilité : Solutions de Logging et Monitoring GCP.- CI/CD : Outils et pratiques liés à la chaîne d'intégration et de déploiement continus sur GCP.Compétences Optionnelles :- Data Science : Compréhension du cycle de vie d'un modèle Machine Learning.- Visualisation de Données : Connaissance de Power BI. Pourquoi nous rejoindre ?Une équipe engagée, des projets stimulants, des défis techniques quotidiens et un environnement propice à la montée en compétences.Notre process de recrutement : un bref échange téléphonique, un premier échange RH d'environ 1h pour parler de vous, de vos aspirations professionnelles et de notre offre, un deuxième échange avec votre futur Manager et un dernier échange avec un de nos experts pour parler technique.Ce sont nos Ambassadeurs qui en parlent le mieux, découvrez leurs témoignages sans filtre : https://www.youtube.com/watch?v=C4w_dkkVq40Code REC : ACH23516Qu’attendez-vous pour être Open ?