Staff LLM Inference Architect

Bull

Valbonne, Bezons, La Défense

On-site

EUR 120,000 - 160,000

Full time

24 hours ago
Be an early applicant

A complete application in a minute

Tailored resume and cover letter, ready to send.

Get past ATS filters

Job summary

Bull recrute un Staff / Principal LLM Inference Engineer pour piloter la pile d'inférence de BullSequana AI et son intégration à la plateforme matérielle BullSequana. Vous dirigerez des travaux d'engineering hands-on, en collaboration avec les équipes Data et IA, pour réduire le coût par token et la latence en environnement souverain.

Le rôle est positionné en région PACA (Sophia Antipolis/La Défense) et s'inscrit dans une démarche d'innovation européenne et durable, avec accès à une

Qualifications

  • 7+ ans d'expérience en ingénierie ML/AI et serving de modèles en production.
  • Expérience pratique du serving de modèles natifs Kubernetes et d'inférence distribuée.
  • Connaissance des architectures open-weight (Mistral, Llama, Qwen, Kimi, DeepSeek, GPT-OSS, Gemma).
  • Maîtrise de l'anglais à l'oral et à l'écrit.
  • Maîtrise des techniques d'optimisation et quantification (FP8, NVFP4, AWQ, GPTQ).

Responsibilities

  • Concevoir et optimiser la plateforme de serving basée sur vLLM et configurer le parallélisme.
  • Gérer le cycle de vie des modèles et déployer des pipelines multimodaux.
  • Instrumenter la couche de serving avec Prometheus et Grafana et conduire des benchmarks.
  • Fournir des données de dimensionnement pour les offres commerciales et la planification.
  • Collaborer avec les équipes Data et IA pour l'intégration hardware et software.

Skills

Anglais professionnel
Python avancé
Go
Communication technique
Gestion de projets ML/AI

Tools

Kubernetes
Docker
Helm
KServe
GPU operators
vLLM
llm-d
SGLang
TensorRT-LLM
NVIDIA Dynamo

Job description

Bull recrute un Staff / Principal LLM Inference Engineer pour piloter la pile d'inférence de BullSequana AI et son intégration à la plateforme matérielle BullSequana. Vous dirigerez des travaux d'engineering hands-on, en collaboration avec les équipes Data et IA, pour réduire le coût par token et la latence en environnement souverain.

Le rôle est positionné en région PACA (Sophia Antipolis/La Défense) et s'inscrit dans une démarche d'innovation européenne et durable, avec accès à une

Get your free, confidential resume review.

or drag and drop your file here.

Similar jobs

Similar jobs worth comparing

Senior LLM Inference Architect
Senior LLM Inference Architect

Bull SAS • Valbonne

On-site
EUR 120,000 - 150,000
Principal LLM Inference Engineer - F/H
Principal LLM Inference Engineer - F/H

Bull SAS • Valbonne

On-site
EUR 120,000 - 150,000
Principal LLM Inference Engineer - F/H
Principal LLM Inference Engineer - F/H

Bull • Valbonne, Bezons, La Défense

On-site
EUR 120,000 - 160,000
Consultant IA senior - F/H
Consultant IA senior - F/H

Bull • Bezons, Paris, Valbonne

Remote
EUR 65,000 - 80,000
Architecte Serveur Senior H/F
Architecte Serveur Senior H/F

Bull • Les Clayes-sous-Bois

Remote
EUR 90,000 - 130,000
Principal Hardware Server Architect H/F
Principal Hardware Server Architect H/F

Bull • Les Clayes-sous-Bois

Remote
EUR 90,000 - 150,000
Manager, Sovereign AI & Defense Consulting
Manager, Sovereign AI & Defense Consulting

Bull • Bezons

On-site
EUR 75,000 - 85,000
Principal Security Architect - H/F
Principal Security Architect - H/F

Bull • Valbonne, Paris

On-site
EUR 80,000 - 95,000
Senior ASIC Architect - HPC, RDMA & Interconnect
Senior ASIC Architect - HPC, RDMA & Interconnect

Bull • France

Hybrid
EUR 70,000 - 110,000
Télétravail partiel 60%
Formation sur mesure
Événements privés
+2
HPC System & Storage Engineer - F/H
HPC System & Storage Engineer - F/H

Bull SAS • Toulouse

Hybrid
EUR 65,000 - 100,000