Ingénieur Inférence GPU Haute Performance

Bluecoders; Paris; On-site; EUR 90,000 - 130,000; Full time

Job summary

Au sein de la founding team en construction, vous prenez en charge la couche d’inférence et l’optimisation des moteurs d’exécution sur des clusters GPU NVIDIA. Vous travaillez dans un cadre de haute performance et de souveraineté, en lien avec le CTO pour les choix d’architecture.

Le profil idéal maîtrise vLLM/SGLang/TensorRT et CUDA, et sait résoudre les goulots mémoire/cache sur des environnements Kubernetes GPU. Une sensibilité HPC et des contributions open source seront appréciées.

Qualifications

• Expérience concrète en serving de modèles open source à l’échelle en production (vLLM, TGI, SGLang, TensorRT ou équivalent).
• Maîtrise de CUDA, Triton ou des kernels GPU bas niveau.
• Capacité à identifier un goulot d’étranglement mémoire/cache et à y remédier.
• Python solide, à l’aise avec Kubernetes GPU.
• Curiosité sur les architectures hardware (choix de GPU, mémoire HBM, NVLink, InfiniBand).
• Expérience HPC (RDMA, InfiniBand, RoCE, MPI, NCCL, IO path) et contributions open source souhaitées.

Responsibilities

• Travailler sur des clusters GPU NVIDIA en environnement Kubernetes, dans un contexte de très haute performance et de souveraineté (SecNumCloud, ISO 27001).
• Interagir avec le CTO sur les choix d’architecture et mettre en production la plateforme pour les premiers clients.

Skills

Serving de modèles open source

CUDA et kernels GPU

Python

Kubernetes GPU

Optimisation mémoire/cache

Triton

vLLM

SGLang

TensorRT

Tools

vLLM

SGLang

CUDA

Triton

Python

Kubernetes GPU

RDMA/InfiniBand/NCCL

TensorRT

Job description

Au sein de la founding team en construction, vous prenez en charge la couche d’inférence et l’optimisation des moteurs d’exécution sur des clusters GPU NVIDIA. Vous travaillez dans un cadre de haute performance et de souveraineté, en lien avec le CTO pour les choix d’architecture.

Le profil idéal maîtrise vLLM/SGLang/TensorRT et CUDA, et sait résoudre les goulots mémoire/cache sur des environnements Kubernetes GPU. Une sensibilité HPC et des contributions open source seront appréciées.