AI Engineer - Paris ou Rennes

OCTOGONE; Paris; On-site; EUR 65,000 - 90,000; Full time

Job summary

OCTOGONE recherche un AI Engineer pour renforcer l’équipe AI Solutions. Vous concevrez, optimiserez et exploiterez des produits IA, avec focus sur AI Endpoints et services ML (Notebooks, Training, Deploy).

L’environnement couvre le déploiement de modèles open source optimisés, l’optimisation d’inférence et des dashboards de supervision. Poste à Paris ou Rennes, intégration dans les sprints.

Qualifications

• Expérience en ingénierie IA et déploiement de modèles
• Connaissance des AI Endpoints et du cloud
• Réalisation de benchmarks et optimisation d’inférence
• Maîtrise de Python et Rust

Responsibilities

• Intégrer et déployer de nouveaux modèles open source sur AI Endpoints
• Optimiser l’inférence avec vLLM et SGLang (quantization, batching, KV cache, prefix caching)
• Réaliser des benchmarks de performance sur GPU actuels et futurs
• Améliorer l’autoscaling, l’observabilité et la fiabilité des services en production
• Participer au run des produits

Skills

Model deployment

LLM inference optimization

vLLM

SGLang

Quantization

Batching

Performance benchmarking

Observability

Production reliability

Python

Rust

Tools

Python

Rust

Job description

Dans le cadre du renforcement d’une équipe AI Solutions en charge de la conception, de l’optimisation et de l’exploitation de produits IA, une prestation d’AI Engineer est recherchée.

L’environnement concerne notamment AI Endpoints, permettant la mise à disposition par API de modèles open source optimisés et hébergés dans le cloud, ainsi que des produits Machine Learning Services : AI Notebooks, AI Training et AI Deploy.

Lieux de réalisation : Paris ou Rennes

La prestation sera intégrée au fonctionnement de l’équipe et à ses sprints.

Les interventions porteront sur les sujets suivants :

• Intégration et déploiement de nouveaux modèles open source sur AI Endpoints (LLM, embeddings, speech-to-text, text-to-speech, ...)
• Optimisation de l’inférence avec vLLM et SGLang : quantization, batching, KV cache, prefix caching, speculative decoding
• Réalisation de benchmarks de performance sur les GPU actuels et sur les nouvelles générations à venir
• Amélioration de l’autoscaling, de l’observabilité et de la fiabilité des services en production
• Participation au run sur les produits

Livrables :

• Nouveaux modèles déployés en production sur AI Endpoints, avec une configuration d’inférence optimisée et documentée
• Rapports de benchmark par modèle et par GPU, avec des recommandations
• Code livré par pull requests revues et intégrées (Python, Rust)
• Dashboards et alertes de supervision des services
• Documentation technique et transfert de connaissances à l’équipe