Principal LLM Inference Architect for Sovereign AI

Atos SE; Bordeaux; Sur place; EUR 120 000 - 180 000; Plein temps

Résumé du poste

Bull recherche un(e) Staff/Principal LLM Inference Engineer pour piloter la pile d'inférence BullSequana AI et son intégration avec la plateforme matérielle BullSequana. Vous dirigerez techniquement l'ingénierie hands-on, en étroite collaboration avec Data, IA, et les équipes matériel et delivery.

Ce rôle exige une expertise avancée en serving de modèles ML/AI, une forte expérience en architectures distribuées et une capacité à influencer l'architecture produit tout en livrant des résultats

Qualifications

• Expérience significative en ingénierie ML/AI et serving de modèles en production.
• Maîtrise des plateformes de serving natives Kubernetes et d'inférence distribuée.
• Connaissances des architectures de modèles open-weight et optimisations de performance.

Responsabilités

• Concevoir et optimiser la plateforme de serving pour LLM avec vLLM et llm-d.
• Gérer le cycle de vie des modèles et les pipelines multimodaux (audio, STT, TTS, OCR).
• Assurer fiabilité, observabilité et benchmarking (Prometheus, Grafana).
• Apporter des données de dimensionnement pour les appels d'offres et le pre-sales.

Connaissances

Expérience ML/AI 7+ ans

Python avancé

Go

Anglais technique

Outils

vLLM

llm-d

TensorRT-LLM

NVIDIA Dynamo

Kubernetes

Prometheus

Grafana

Description du poste

Bull recherche un(e) Staff/Principal LLM Inference Engineer pour piloter la pile d'inférence BullSequana AI et son intégration avec la plateforme matérielle BullSequana. Vous dirigerez techniquement l'ingénierie hands-on, en étroite collaboration avec Data, IA, et les équipes matériel et delivery.

Ce rôle exige une expertise avancée en serving de modèles ML/AI, une forte expérience en architectures distribuées et une capacité à influencer l'architecture produit tout en livrant des résultats