AI Solutions Technical Lead — GPU Infra & Scale

OVHcloud; Lyon; On-site; EUR 90,000 - 120,000; Full time

Job summary

OVHcloud recherche un leader technique pour l'équipe AI Solutions à Lyon. Vous définirez l'architecture et ferez évoluer l'infrastructure nécessaire au déploiement et à l'exploitation des modèles d’IA, en priorisant la performance, la fiabilité et l’évolutivité.

Vous piloterez l’optimisation des modèles (quantization, batching, KV cache) et gérerez l’observabilité via Prometheus, Grafana et OpenTelemetry, tout en fédérant l'équipe autour des meilleures pratiques DevOps et Kubernetes.

Qualifications

• Solide expérience en développement logiciel et déploiement de modèles IA en prod.
• Maîtrise des environnements GPU et du déploiement/observabilité (Kubernetes, DevOps).
• Connaissance de frameworks IA comme vLLM, SGLang, TensorRT est un plus.
• Bon leadership et excellente communication pour fédérer l'équipe technique.

Responsibilities

• Être référent technique de l'équipe IA Solutions et orienter l'architecture.
• Concevoir et faire évoluer l'infra pour le déploiement et l'exploitation des modèles IA.
• Optimiser les performances des modèles et l'utilisation des ressources GPU.
• Assurer fiabilité, scalabilité et observabilité des services en prod.
• Contribuer à la roadmap technique et promouvoir les bonnes pratiques CI/CD.

Skills

Python

Rust

Backend development

Distributed systems

Production deployment

Leadership

Communication

Adaptability

Tools

Kubernetes

Prometheus

Grafana

OpenTelemetry

vLLM

SGLang

TensorRT

Job description

OVHcloud recherche un leader technique pour l'équipe AI Solutions à Lyon. Vous définirez l'architecture et ferez évoluer l'infrastructure nécessaire au déploiement et à l'exploitation des modèles d’IA, en priorisant la performance, la fiabilité et l’évolutivité.

Vous piloterez l’optimisation des modèles (quantization, batching, KV cache) et gérerez l’observabilité via Prometheus, Grafana et OpenTelemetry, tout en fédérant l'équipe autour des meilleures pratiques DevOps et Kubernetes.