Ingénieur Inférence / GPU H/F

Bluecoders; Paris; On-site; EUR 90,000 - 130,000; Full time

Job summary

Au sein de la founding team en construction, vous prenez en charge la couche d’inférence et l’optimisation des moteurs d’exécution sur des clusters GPU NVIDIA. Vous travaillez dans un cadre de haute performance et de souveraineté, en lien avec le CTO pour les choix d’architecture.

Le profil idéal maîtrise vLLM/SGLang/TensorRT et CUDA, et sait résoudre les goulots mémoire/cache sur des environnements Kubernetes GPU. Une sensibilité HPC et des contributions open source seront appréciées.

Qualifications

• Expérience concrète en serving de modèles open source à l’échelle en production (vLLM, TGI, SGLang, TensorRT ou équivalent).
• Maîtrise de CUDA, Triton ou des kernels GPU bas niveau.
• Capacité à identifier un goulot d’étranglement mémoire/cache et à y remédier.
• Python solide, à l’aise avec Kubernetes GPU.
• Curiosité sur les architectures hardware (choix de GPU, mémoire HBM, NVLink, InfiniBand).
• Expérience HPC (RDMA, InfiniBand, RoCE, MPI, NCCL, IO path) et contributions open source souhaitées.

Responsibilities

• Travailler sur des clusters GPU NVIDIA en environnement Kubernetes, dans un contexte de très haute performance et de souveraineté (SecNumCloud, ISO 27001).
• Interagir avec le CTO sur les choix d’architecture et mettre en production la plateforme pour les premiers clients.

Skills

Serving de modèles open source

CUDA et kernels GPU

Python

Kubernetes GPU

Optimisation mémoire/cache

Triton

vLLM

SGLang

TensorRT

Tools

vLLM

SGLang

CUDA

Triton

Python

Kubernetes GPU

RDMA/InfiniBand/NCCL

TensorRT

Job description

Au sein de la founding team en construction, tu prends en charge la couche d’inférence :

• Optimisation des moteurs d’exécution (vLLM, SGLang, TensorRT-LLM)
• Tuning GPU
• Quantisation
• Gestion de la mémoire et du cache

Tu travailles sur des clusters GPU NVIDIA en environnement Kubernetes, dans un contexte de très haute performance et de souveraineté (SecNumCloud, ISO 27001). Tu interagis avec le CTO sur les choix d’architecture et contribues à faire tourner la plateforme en production pour les premiers clients.

Stack technique : vLLM, SGLang, CUDA, Triton, Python, Kubernetes GPU, RDMA/InfiniBand/NCCL, quantisation (GPTQ, AWQ, FP8).

Indispensables :

• Expérience concrète en serving de modèles open source à l’échelle en production (vLLM, TGI, SGLang, TensorRT ou équivalent)
• Maîtrise de CUDA, Triton ou des kernels GPU bas niveau
• Capacité à identifier un goulot d’étranglement mémoire/cache et à y remédier
• Python solide, à l’aise avec Kubernetes GPU
• Curiosité sur les architectures hardware (choix de GPU, mémoire HBM, NVLink, InfiniBand)

Un plus :

• Expérience HPC (RDMA, InfiniBand, RoCE, MPI, NCCL, IO path)
• Contributions open source (vLLM, SGLang, PyTorch, Triton…)
• Sensibilité au contexte souverain / SecNumCloud

Ce qui fait la différence :

quelqu’un capable de nommer une brique qu’il a écrite ou modifiée lui-même en production, pas uniquement opérée.