Ingénieur IA (H-F)

Groupe LR Technologies; Bois-Colombes; On-site; EUR 65,000 - 90,000; Full time

Job summary

Groupe LR Technologies recherche un ingénieur ML expérimenté pour optimiser les performances d'inférence sur une plateforme edge et superviser les campagnes de benchmark MLPerf.

Vous maîtrisez vLLM, TensorRT-LLM et llama.cpp, la quantification et le profilage GPU (Nsight, CUDA). Une connaissance MLPerf et des pratiques MLOps est appréciée, avec un anglais technique courant.

Qualifications

• Diplômé(e) d'une école d'ingénieurs ou d'un Bac+5 en informatique, IA ou calcul haute performance, avec au moins 5 ans d'expérience en ML ou en optimisation de performance.
• Maîtrise des moteurs d'inférence LLM (vLLM, TensorRT-LLM, llama.cpp) et des techniques de quantification (INT4, INT8, FP8).
• Profilage GPU avec Nsight et CUDA; expérience MLPerf; connaissance CUDA et pratiques MLOps appréciée; anglais technique courant.
• Intérêt pour une société à taille humaine, Great Place To Work et labellisée ECOVADIS.

Responsibilities

• Mise en œuvre et comparaison des moteurs d'inférence (vLLM, TensorRT-LLM, llama.cpp).
• Étude de l'impact de la quantification sur performance et qualité.
• Profilage GPU et analyse des goulots d'étranglement (Nsight, CUDA).
• Définition et exécution de campagnes de benchmark selon MLPerf.
• Mesure de la consommation électrique et calcul d'efficacité énergétique.
• Automatisation des bancs de mesure et intégration dans une démarche MLOps.
• Rédaction de rapports de performance et recommandations de configuration.

Skills

Anglais technique courant

Education

Diplôme d'ingénieur ou Bac+5 en informatique/IA/calcul haute performance

Tools

vLLM

TensorRT-LLM

llama.cpp

Nsight

CUDA

MLPerf

MLOps

Job description

Au sein des équipes de notre client, acteur majeur de l'électronique et des télécommunications, vous interviendrez sur une plateforme d'IA distribuée en périphérie (edge), où les requêtes d'IA (LLM, OCR, transcription…) sont traitées sur des serveurs répartis au plus près des utilisateurs. Vous serez responsable de la caractérisation des performances d'inférence, pour savoir précisément ce que chaque modèle peut délivrer sur chaque matériel.

Missions

• Mise en œuvre et comparaison des moteurs d'inférence (vLLM, TensorRT-LLM, llama.cpp)
• Étude de l'impact de la quantification (INT4, INT8, FP8) sur la performance et la qualité
• Profilage GPU et analyse des goulots d'étranglement (Nsight, CUDA)
• Définition et exécution de campagnes de benchmark selon la méthodologie MLPerf
• Mesure de la consommation électrique et calcul de l'efficacité énergétique
• Automatisation des bancs de mesure et intégration dans une démarche MLOps
• Rédaction de rapports de performance et recommandations de configuration

Profil recherché

Diplômé(e) d'une école d'ingénieurs ou d'un Bac+5 en informatique, IA ou calcul haute performance, vous justifiez d'au moins 5 ans d'expérience en ingénierie ML ou en optimisation de performance. Vous maîtrisez les moteurs d'inférence LLM (vLLM, TensorRT-LLM, llama.cpp), les techniques de quantification et le profilage GPU avec les outils Nsight. Une pratique de la méthodologie MLPerf et de la mesure de puissance est attendue ; une bonne connaissance de CUDA et des pratiques MLOps sera un atout apprécié. Naturellement, vous utilisez les outils d'IA au quotidien et pouvez illustrer concrètement la façon dont ils accélèrent votre travail. Méthodique, curieux(se) et attaché(e) à des mesures fiables et reproductibles, vous pratiquez un anglais technique courant.

Enfin vous souhaitez participer au développement d'une société à taille humaine, Great Place To Work et labellisée ECOVADIS.