Ingénieur MLOps GPU & Infra - Orchestration et LLM

CENTRE DE LA FORMATION ET DU DÉVELOPPEMENT DES COMPÉTENCES; Île-de-France; Sur place; EUR 55 000 - 90 000; Plein temps

Résumé du poste

Le CENTRE DE LA FORMATION ET DU DÉVELOPPEMENT DES COMPÉTENCES recherche un ingénieur Infra GPU en Île-de-France pour dimensionner et déployer un cluster GPU sur OVHcloud, optimiser les coûts et les performances via Terraform et Kubernetes.

Vous industrialiserez la couche GPU (drivers, runtime conteneur, orchestrateur) et opérerez les serveurs d'inférence, QoS et évolutions des modèles, tout en exposant une passerelle LLM interne et des API sécurisées.

Responsabilités

• Dimensionner et déployer le cluster GPU sur OVHcloud en choisissant instances, cartes et équilibre coût/mémoire/débit.
• Industrialiser la couche GPU (drivers, runtime conteneur, opérateur GPU sur Kubernetes, partage et ordonnancement des cartes).
• Opérer les serveurs d'inférence et gérer le cycle de vie des modèles, quantification et batching.
• Exposer une passerelle LLM interne avec API, authentification et quotas.
• Construire les briques d'appui (embeddings, recherche vectorielle, RAG).
• Garantir le cadre données de santé (isolation, traçabilité, conformité).
• Surveiller et maîtriser les coûts (métriques, taux d'occupation, coût par requête).
• Contribuer au socle commun (IaC, CI, run de l'équipe).

Connaissances

Gestion GPU

Terraform

Kubernetes

CUDA

Linux

Outils

Docker

CI/CD

Description du poste

Le CENTRE DE LA FORMATION ET DU DÉVELOPPEMENT DES COMPÉTENCES recherche un ingénieur Infra GPU en Île-de-France pour dimensionner et déployer un cluster GPU sur OVHcloud, optimiser les coûts et les performances via Terraform et Kubernetes.

Vous industrialiserez la couche GPU (drivers, runtime conteneur, orchestrateur) et opérerez les serveurs d'inférence, QoS et évolutions des modèles, tout en exposant une passerelle LLM interne et des API sécurisées.