Ingénieur MLOps F/H

CENTRE DE LA FORMATION ET DU DÉVELOPPEMENT DES COMPÉTENCES

Île-de-France

On-site

EUR 55,000 - 90,000

Full time

14 days+

Get a reply from this employer

Your resume and cover letter, tailored to exactly what they’re hiring for.

Get past ATS filters

Job summary

Le CENTRE DE LA FORMATION ET DU DÉVELOPPEMENT DES COMPÉTENCES recherche un ingénieur Infra GPU en Île-de-France pour dimensionner et déployer un cluster GPU sur OVHcloud, optimiser les coûts et les performances via Terraform et Kubernetes.

Vous industrialiserez la couche GPU (drivers, runtime conteneur, orchestrateur) et opérerez les serveurs d'inférence, QoS et évolutions des modèles, tout en exposant une passerelle LLM interne et des API sécurisées.

Responsibilities

  • Dimensionner et déployer le cluster GPU sur OVHcloud en choisissant instances, cartes et équilibre coût/mémoire/débit.
  • Industrialiser la couche GPU (drivers, runtime conteneur, opérateur GPU sur Kubernetes, partage et ordonnancement des cartes).
  • Opérer les serveurs d'inférence et gérer le cycle de vie des modèles, quantification et batching.
  • Exposer une passerelle LLM interne avec API, authentification et quotas.
  • Construire les briques d'appui (embeddings, recherche vectorielle, RAG).
  • Garantir le cadre données de santé (isolation, traçabilité, conformité).
  • Surveiller et maîtriser les coûts (métriques, taux d'occupation, coût par requête).
  • Contribuer au socle commun (IaC, CI, run de l'équipe).

Skills

Gestion GPU
Terraform
Kubernetes
CUDA
Linux

Tools

Docker
CI/CD

Job description


  • Dimensionner et déployer le cluster GPU sur OVHcloud : choix des instances et des cartes, arbitrages coût / mémoire / débit, réseau et stockage adaptés aux poids de modèles, le tout décrit en Terraform comme le reste de notre infrastructure.

  • Industrialiser la couche GPU : drivers et pilotes CUDA, runtime conteneur GPU, opérateur GPU sur Kubernetes, partage et ordonnancement des cartes entre charges de travail, mise à l'échelle et extinction des ressources inutilisées.

  • Opérer les serveurs d'inférence : déploiement et réglage de moteurs type vLLM ou équivalents, gestion du cycle de vie des modèles et de leurs versions, quantification, batching, mesure et optimisation de la latence et du débit.

  • Exposer une passerelle LLM interne : API compatible avec les clients standards, authentification, quotas et suivi de consommation, journalisation - pour les applications comme pour les outils de l'équipe.

  • Construire les briques applicatives d'appui : embeddings et recherche vectorielle, chaînes de RAG sur nos référentiels et notre documentation, évaluation de la qualité des réponses.

  • Garantir le cadre données de santé : isolation stricte des environnements, aucune donnée sortante, traçabilité des accès et des inférences, en lien avec la sécurité et la conformité.

  • Observer et maîtriser les coûts : métriques GPU, saturation, taux d'occupation, coût par requête et par usage - la sobriété fait partie du travail.

  • Contribuer au socle commun : l'infrastructure GPU n'est pas une île, vous participez aussi à l'IaC, à la CI et au run de l'équipe.

Get your free, confidential resume review.

or drag and drop your file here.

Similar jobs

Similar jobs worth comparing

Ingénieur MLOps GPU & Infra - Orchestration et LLM
Ingénieur MLOps GPU & Infra - Orchestration et LLM

CENTRE DE LA FORMATION ET DU DÉVELOPPEMENT DES COMPÉTENCES • Île-de-France

On-site
EUR 55,000 - 90,000
Ingénieur Devops IA – CDI (H/f)
Ingénieur Devops IA – CDI (H/f)

ALTEN Group • Île-de-France

Remote
EUR 90,000 - 150,000
VP Infrastructure
VP Infrastructure

Arkane Cloud • Lyon

Hybrid
EUR 100,000 - 120,000
BSPCE
Télétravail flexible
Présence à Lyon deux jours toutes les
+4
Administrateur Infrastructures / GPU (IT) / Freelance
Administrateur Infrastructures / GPU (IT) / Freelance

lehibou • Montreuil-sur-Mer

Hybrid
EUR 65,000 - 95,000
Télétravail 4 jours/semaine
Head of Engineering
Head of Engineering

Arkane Cloud • Lyon

Hybrid
EUR 100,000 - 120,000
BSPCE
Télétravail flexible
Mutuelle
+2
Stage HPC et GPU-as-a-Service On-Premise
Stage HPC et GPU-as-a-Service On-Premise

CLS Group (Collecte Localisation Satellites) • Ramonville-Saint-Agne

On-site
EUR 13,000 - 17,000
Architecte HPC & AI Infrastructure H/F
Architecte HPC & AI Infrastructure H/F

SCC • Toulouse

On-site
EUR 60,000 - 90,000
Software Engineer (HPC & Cloud)
Software Engineer (HPC & Cloud)

Groupe EOLEN • Paris

Hybrid
EUR 50,000 - 70,000
Administrateur GPU & Infrastructures – Remote 4j/sem
Administrateur GPU & Infrastructures – Remote 4j/sem

lehibou • Montreuil-sur-Mer

Hybrid
EUR 65,000 - 95,000
Télétravail 4 jours/semaine
Ingénieur HPC, Optimisation GPU
Ingénieur HPC, Optimisation GPU

Groupe EOLEN • Paris

On-site
EUR 65,000 - 85,000