Ingénieur LLMOps - Run & Observabilité IA Générative

Smartpoint; Paris; On-site; EUR 65,000 - 95,000; Full time

Job summary

Smartpoint, ESN Data & IA à Paris, recherche un profil DevOps/MLOps expérimenté pour piloter le run des IA en production et assurer leur coûts et fiabilité. Vous travaillerez sur LLMs, observabilité et sécurité, avec des plateformes LLMOps et des pipelines de déploiement.

Profil Bac+5 informatique, 4 ans d'expérience, et maîtrise des outils CI/CD, cloud Azure/AWS/GCP et observabilité. Poste en présentiel à Paris, cadre collaboratif et projets internationaux.

Qualifications

• 4 ans d'expérience minimum en DevOps, MLOps ou SRE.
• Première expérience sur des applications LLM en production.
• Bon niveau d'anglais requis pour contexte international.

Responsibilities

• Construire les plateformes LLMOps et les environnements de run.
• Mettre en place la chaîne de déploiement des applications LLM.
• Déployer et exposer les modèles via API et passerelles.
• Observer, instrumenter et alerter les chaînes IA.
• Mettre en place tableaux de bord et contrôles sécurité.
• Mesurer coût, tokens et GPU par cas d'usage.

Skills

Kubernetes

Docker

Terraform

CI/CD

GitLab CI

GitHub Actions

Azure DevOps

Azure

AWS

GCP

Langfuse

LangSmith

Arize Phoenix

OpenTelemetry

MLflow

LiteLLM

Azure API Management

vLLM

TGI

Ollama

Python

API REST

Prometheus

Grafana

Datadog

Education

Bac+5 en informatique ou école d'ingénieurs

Tools

Langage Python

Scripting

Job description

Smartpoint, ESN Data & IA à Paris, recherche un profil DevOps/MLOps expérimenté pour piloter le run des IA en production et assurer leur coûts et fiabilité. Vous travaillerez sur LLMs, observabilité et sécurité, avec des plateformes LLMOps et des pipelines de déploiement.

Profil Bac+5 informatique, 4 ans d'expérience, et maîtrise des outils CI/CD, cloud Azure/AWS/GCP et observabilité. Poste en présentiel à Paris, cadre collaboratif et projets internationaux.