DevSecMLOps : sécurité dès la conception pour des pipelines d'apprentissage automatique fiables[...]

Université de Toulouse; France; Sur place; EUR 40 000 - 60 000; Plein temps

Résumé du poste

Une institution académique en France recherche un doctorant pour développer des mécanismes de sécurité adaptés aux pipelines de Machine Learning. Les candidats doivent avoir un niveau Master et un intérêt marqué pour la MLOps et la sécurité des données. La thèse vise à intégrer la sécurité dès la conception dans les workflows ML. Le début de la thèse est prévu pour le 01/10/2026.

Qualifications

• Étudiants en master ou professionnels sont éligibles.
• Préférence pour ceux ayant une expérience en MLOps.
• Intérêt pour la sécurité et l'IA requis.

Responsabilités

• Étudier les vulnérabilités dans le cycle de vie ML.
• Concevoir des mécanismes de sécurité adaptés.
• Valider les solutions avec des cas industriels.

Formation

Master

Description du poste

Overview / Aperçu

Université de Toulouse

Contexte

Les Machine Learning Operations (MLOps) sont devenues essentielles pour gérer le cycle de vie des modèles ML, en assurant livraison continue, automatisation et reproductibilité. Cependant, la sécurité n'a pas suivi la même évolution rapide. Les pratiques classiques de sécurité logicielle (analyses statiques, scans dynamiques, évaluations de vulnérabilités) sont bien établies, mais les pipelines ML présentent des risques spécifiques : attaques adversariales, empoisonnement de modèles, compromission des données d'entraînement, dérive des modèles, injection d'attaques, ainsi que des défis de confidentialité et de conformité (protection des données personnelles, PII).

Les pratiques MLOps actuelles manquent de mécanismes de sécurité intégrés, sont fragmentées et souvent incompatibles avec l'agilité promise. Cela a donné naissance au domaine émergent du DevSecMLOps, qui adapter les principes de DevSecOps aux systèmes ML pour concilier sécurité et agilité.

Le problème central est l'absence d'une approche unifiée et systématique pour intégrer la security-by-design dans l'ensemble des pipelines MLOps, incluant :

• l'intégration explicite des exigences de sécurité dès la conception,
• le suivi et le contrôle continu de ces exigences à toutes les étapes du pipeline,
• l'adaptation aux menaces évolutives sans ralentir le déploiement.

Sans cette approche, les systèmes d'IA risquent d'être performants mais fragiles, exposant les organisations à des failles critiques de sécurité et de confidentialité.

Objectifs

• La thèse visera à poser les bases et à développer des mécanismes pratiques de DevSecMLOps, avec un accent particulier sur la confidentialité des données et la robustesse des modèles. Les objectifs incluent :

• Intégrer les exigences de sécurité dans les workflows ML dès le début, en anticipant et en atténuant les menaces (empoisonnement de données, manipulation adversariale, fuites de données).
• Explorer l'automatisation assistée par IA pour réaliser des contrôles de sécurité continus, tests adversariaux et détection d'anomalies, conciliant rigueur et agilité.
• Développer un cadre méthodologique et technique opérationnalisant la sécurité dans les pipelines ML, permettant un déploiement fiable et performant des systèmes d'IA.

Mission du doctorant

• Le doctorant :

• étudiera les vulnérabilités tout au long du cycle de vie ML et analysera les pratiques MLOps existantes,
• identifiera comment étendre les principes DevSecOps aux workflows ML,
• concevra des mécanismes de security-by-design adaptés à chaque étape (ingestion des données, prétraitement, entraînement, déploiement),
• explorera l'usage de ML pour automatiser les contrôles de sécurité et générer des tests adversariaux,
• validera les solutions via des cas industriels (Softeam Group), évaluant l'efficacité sur la réduction des menaces tout en maintenant reproductibilité et rapidité de livraison.

Début de la thèse : 01/10/2026

Funding category: Autre financement public

ANR Financement d'Agences de financement de la recherche

Début de la thèse et conditions

• L'appel est ouvert aux étudiants en master ou aux professionnels ;
• les étudiants en master à la recherche d'un stage de 6 mois, avec l'intention de poursuivre en doctorat, sont également invités à postuler.

• The call is open to master's students or professionals;
• master's students seeking a 6-month internship with the intention of pursuing a PhD are also invited to apply.