Ingénieur Devops IA – CDI (H/f)

ALTEN Group; Île-de-France; Remote; EUR 90,000 - 150,000; Full time

Job summary

ALTEN recherche un leader technique pour piloter l’industrialisation et l’automatisation du déploiement de plateformes IA génératives On-Premise en Île-de-France. Vous garantissez la sécurité, la haute disponibilité et l’intégration dans l’écosystème existant.

Vous contribuerez à l’architecture technique, au governance et à la roadmap, tout en dirigeant l’équipe agile et en assurant les livrables opérationnels et les mises en production des solutions IA.

Qualifications

• :Diplômé d’une école d’ingénieurs ou Master en informatique, data science ou cloud.
• :Expérience solide en déploiement de plateformes techniques sécurisées et distribuées.
• :Lead technique/Age d’équipe Agile et gestion du backlog technique.
• :Habilitation Secret Défense ou capacité à l’obtenir.

Responsibilities

• Industrialiser le déploiement de plateformes IA On-Premise dans un environnement sécurisé et hautement disponible.
• Automatiser CI/CD pour une intégration reproductible des modèles et services.
• Concevoir l’architecture technique et assurer la sécurité, conformité et gouvernance.
• Maintenir les plateformes IA en conditions opérationnelles et superviser les indicateurs LLM.

Skills

Docker

Kubernetes

OpenShift

CI/CD

Terraform

Ansible

GitLab CI

Sécurité

Observabilité

IA/LLM en prod

Education

Master (Bac+5) en Informatique, Data Science ou Cloud Computing

Tools

GitLab CI

Terraform

Ansible

Jenkins

Job description

1. Industrialisation et automatisation du déploiement

• Industrialiser le déploiement de plateformes d’IA générative On-Premise dans un environnement sécurisé et hautement disponible, en utilisant des outils comme Terraform, Ansible, Jenkins et GitLab CI.
• Automatiser les processus de déploiement (CI/CD) pour une intégration continue et reproductible des modèles et services.
• Optimiser les workloads data et IA (allocation et partage des GPU, autoscaling des services d’inférence), en collaboration avec les équipes IA et Sécurité.

2. Conception et architecture de la plateforme

• Contribuer à la conception de l’architecture technique de la plateforme, en intégrant les contraintes de sécurité, compliance et gouvernance.
• Définir les bonnes pratiques pour le déploiement de solutions d’IA générative et leur intégration dans l’écosystème existant.
• Garantir la résilience de la plateforme via des solutions de haute disponibilité (Kubernetes, OpenShift, Docker).

3. Mise en place de services managés

• Développer et intégrer des services managés pour les utilisateurs finaux, en respectant les exigences de sécurité et de conformité.
• Mettre en place une passerelle d’accès aux modèles (type LiteLLM) : routage, quotas, suivi de la consommation par équipe.
• Documenter les offres et services pour faciliter leur adoption par les équipes techniques et métiers.
• Assurer la mise en production des solutions, en collaboration avec les équipes d’exploitation.

4. Maintenance et exploitation en conditions opérationnelles

• Maintenir en condition opérationnelle (MCO) les plateformes IA déployées, en garantissant leur disponibilité, performance et sécurité.
• Surveiller les plateformes via des outils d’observabilité (Dynatrace, Prometheus, Grafana), en suivant les indicateurs propres aux LLM : temps de réponse, débit, utilisation des GPU.
• Gérer les incidents et participer aux astreintes techniques.

5. Collaboration et leadership technique

• Assurer le lead technique sur un produit au sein d’une équipe Agile, en collaboration avec le Responsable Technique.
• Participer aux rituels Agile (daily meetings, sprint reviews, rétrospectives) et contribuer à la construction de la roadmap technique.
• Prendre en charge les éléments du backlog et prioriser les tâches techniques.
• Animer des présentations et démonstrations pour promouvoir les offres et services auprès des parties prenantes internes.

Profil recherché

Formation / Expérience

• Diplômé d’une école d’ingénieurs ou titulaire d’un Master (Bac+5) en Informatique, Data Science, ou Cloud Computing.
• Minimum 8 ans d’expérience en déploiement de plateformes techniques, dont au moins 2 ans sur des workloads data / IA ou GPU, idéalement dans des environnements sécurisés, distribués et critiques.
• Première expérience de lead technique au sein d’une équipe Agile (animation technique, priorisation du backlog, revue de code).
• Habilitation : Secret Défense (déjà habilité ou habilitable).

Compétences techniques

• Maîtrise du déploiement et de la manipulation des workloads data/IA.
• Expérience avancée en conteneurisation (Docker, Kubernetes, OpenShift) et CI/CD (Jenkins, GitLab CI, Terraform, Ansible).
• Maîtrise de l’exploitation de GPU sous Kubernetes / OpenShift : NVIDIA GPU Operator, drivers CUDA, partage des GPU (MIG, time-slicing), dimensionnement des capacités.
• Expérience de la mise à disposition de LLM en production (vLLM, Triton, KServe ou OpenShift AI).
• Expérience en air-gapped environments : private registries (Harbor, Artifactory), package et container image mirrors, et model weight management et transfer.
• Sécurisation de la plateforme : secrets management (Vault), identity et access management (Keycloak / SSO), Kubernetes hardening, et container image scanning. GitOps deployment avec ArgoCD.
• Connaissance approfondie des bonnes pratiques en sécurité des données et conformité.
• Expérience avec les plateformes d’IA générative (LLM), les outils de cycle de vie des modèles (MLflow, Dataiku) et d’orchestration de workflows (Airflow, Kubeflow ou Argo Workflows).
• Exploitation des bases de données vectorielles (OpenSearch, pgvector) : sauvegarde, montée en charge, performance. Maîtrise de l’observabilité (Prometheus, Grafana, Dynatrace), y compris les métriques propres aux LLM et aux GPU (latence, débit en tokens, DCGM exporter).
• Atouts appréciés : certifications CKA / CKS ou Red Hat OpenShift, connaissance du déploiement self-hosted des modèles Mistral, notions de FinOps GPU.