Architecte Infra Cloud & GPU IA – LLM Scalables

Ministère de la Justice; Paris; Hybride; EUR 90 000 - 150 000; Plein temps

Avantages offerts par ce poste

Restauration d’entreprise à tarif dégr

Télétravail jusqu’à 3 jours/semaine

Mutuelle obligatoire

Accessibilité en transport

Parking privé

Remboursement transports 75%

Bénéficier des formations

Résumé du poste

La Direction du numérique du Ministère de la Justice recrute un architecte infra cloud et IA capable de concevoir et de déployer une infrastructure GPU scalable pour l’inférence des LLM, en contexte cloud et API.

Vous piloterez le déploiement, les gateway API, le monitoring (Prometheus, Grafana) et assurerez la sécurité IAM, le coût et la scalabilité, en collaboration avec data scientists, ML engineers et devOps.

Qualifications

• Diplômé d'une école d'ingénieur ou équivalent universitaire avec au moins 5 ans d'expérience.
• Expérience en déploiement à grande échelle de systèmes distribués multi-GPU et multi-modèles.
• Maîtrise Linux, IAAS/CAAS et architecture microservices (Kubernetes/OpenShift).
• Connaissances en CI/CD, Infrastructure as Code et sécurité des systèmes IA (RGPD).
• Compétences en Python, Java ou Scala et gestion de bases de données vectorielles.

Responsabilités

• Concevoir et déployer une infrastructure GPU scalable pour l’inférence des LLM.
• Gérer un parc de modèles LLM et optimiser leur déploiement.
• Concevoir gateway/API d’inférence et de RAG avec stockage vectoriel.
• Mettre en place guardrails, quotas,gestion de files d’attente et IAM sécurisé.
• Implémenter monitoring et observabilité (Prometheus, Grafana).
• Choix OS et middleware, veille technologique sur les déploiements LLM.
• Support interne de niveau 3 et supervision des frameworks et outils.

Connaissances

Architecte infra cloud

GPU deployment

Multi-GPU systems

Kubernetes OpenShift

CI/CD

Infrastructure as Code

Python

Java/Scala

MLOps

Data engineering

Spark Kafka Airflow

Sécurité IA/RGPD

Formation

École d'ingénieur ou équivalent universitaire

Outils

Terraform

GitLab

ArgoCD

Prometheus Grafana

Elastic/Vector DB

Description du poste

La Direction du numérique du Ministère de la Justice recrute un architecte infra cloud et IA capable de concevoir et de déployer une infrastructure GPU scalable pour l’inférence des LLM, en contexte cloud et API.

Vous piloterez le déploiement, les gateway API, le monitoring (Prometheus, Grafana) et assurerez la sécurité IAM, le coût et la scalabilité, en collaboration avec data scientists, ML engineers et devOps.