Ingénieur MLOps GPU & Infra - Orchestration et LLM

CENTRE DE LA FORMATION ET DU DÉVELOPPEMENT DES COMPÉTENCES

Île-de-France

On-site

EUR 55,000 - 90,000

Full time

14 days+

Get a reply from this employer

Your resume and cover letter, tailored to exactly what they’re hiring for.

Get past ATS filters

Job summary

Le CENTRE DE LA FORMATION ET DU DÉVELOPPEMENT DES COMPÉTENCES recherche un ingénieur Infra GPU en Île-de-France pour dimensionner et déployer un cluster GPU sur OVHcloud, optimiser les coûts et les performances via Terraform et Kubernetes.

Vous industrialiserez la couche GPU (drivers, runtime conteneur, orchestrateur) et opérerez les serveurs d'inférence, QoS et évolutions des modèles, tout en exposant une passerelle LLM interne et des API sécurisées.

Responsibilities

  • Dimensionner et déployer le cluster GPU sur OVHcloud en choisissant instances, cartes et équilibre coût/mémoire/débit.
  • Industrialiser la couche GPU (drivers, runtime conteneur, opérateur GPU sur Kubernetes, partage et ordonnancement des cartes).
  • Opérer les serveurs d'inférence et gérer le cycle de vie des modèles, quantification et batching.
  • Exposer une passerelle LLM interne avec API, authentification et quotas.
  • Construire les briques d'appui (embeddings, recherche vectorielle, RAG).
  • Garantir le cadre données de santé (isolation, traçabilité, conformité).
  • Surveiller et maîtriser les coûts (métriques, taux d'occupation, coût par requête).
  • Contribuer au socle commun (IaC, CI, run de l'équipe).

Skills

Gestion GPU
Terraform
Kubernetes
CUDA
Linux

Tools

Docker
CI/CD

Job description

Le CENTRE DE LA FORMATION ET DU DÉVELOPPEMENT DES COMPÉTENCES recherche un ingénieur Infra GPU en Île-de-France pour dimensionner et déployer un cluster GPU sur OVHcloud, optimiser les coûts et les performances via Terraform et Kubernetes.

Vous industrialiserez la couche GPU (drivers, runtime conteneur, orchestrateur) et opérerez les serveurs d'inférence, QoS et évolutions des modèles, tout en exposant une passerelle LLM interne et des API sécurisées.

Get your free, confidential resume review.

or drag and drop your file here.

Similar jobs

Similar jobs worth comparing

Ingénieur MLOps F/H
Ingénieur MLOps F/H

CENTRE DE LA FORMATION ET DU DÉVELOPPEMENT DES COMPÉTENCES • Île-de-France

On-site
EUR 55,000 - 90,000
Architecte Infra IA & GPU as a Service
Architecte Infra IA & GPU as a Service

Econocom • Île-de-France

On-site
EUR 90,000 - 130,000
Ingénieur DevOps GPU IA On-Prem – Kubernetes Expert
Ingénieur DevOps GPU IA On-Prem – Kubernetes Expert

METALINE • Guyancourt

On-site
EUR 85,000 - 120,000
Administrateur GPU & Infrastructures – Remote 4j/sem
Administrateur GPU & Infrastructures – Remote 4j/sem

lehibou • Montreuil-sur-Mer

Hybrid
EUR 65,000 - 95,000
Télétravail 4 jours/semaine
Head of GPU Infrastructure & Cloud Platform
Head of GPU Infrastructure & Cloud Platform

Arkane Cloud • Lyon

Hybrid
EUR 100,000 - 120,000
BSPCE
Télétravail flexible
Mutuelle
+2
AI Platform Engineer | LLMOps on OpenShift & GPUs
AI Platform Engineer | LLMOps on OpenShift & GPUs

Devoteam • Levallois-Perret

Hybrid
EUR 90,000 - 130,000
Mutuelle d’entreprise
Tickets restaurant
Télétravail hybride
Ingénieur DevOps – Plateforme GPU pour GenAI
Ingénieur DevOps – Plateforme GPU pour GenAI

Project Freelance • Paris

Hybrid
EUR 90,000 - 130,000
Remboursement des titres de transport
Tickets restaurant 50%
Gymlib / Wellpass
+4
Ingénieur DevOps Plateforme GPU – On‑Prem + Télétravail
Ingénieur DevOps Plateforme GPU – On‑Prem + Télétravail

Groupe Avanista • Guyancourt

Hybrid
EUR 85,000 - 120,000
Télétravail 2 jours/semaine
Stage HPC et GPU-as-a-Service On-Premise
Stage HPC et GPU-as-a-Service On-Premise

CLS Group (Collecte Localisation Satellites) • Ramonville-Saint-Agne

On-site
EUR 13,000 - 17,000
HPC & Cloud Tooling Engineer (GPU, AWS)
HPC & Cloud Tooling Engineer (GPU, AWS)

Groupe EOLEN • Paris

Hybrid
EUR 50,000 - 70,000