Verifiable Independence in Decentralized Collaborative Learning Information-Theoretic Foundations and Cryptographic Proofs for Privacy-Preserving Cybersecurity

IMT Atlantique; France; On-site; EUR 20,000 - 27,000; Full time

Job summary

IMT Atlantique propose un doctorat en cybersécurité et apprentissage automatique axé sur l’indépendance entre données et modèles, en co‑opération avec des partenaires industriels et des laboratoires de renom.

Le candidat mènera des recherches interdisciplinaires au LS2N sur des sujets tels que l’IA fiable, les systèmes distribués et les défis de confidentialité, avec publication dans des conférences et revues de premier plan. Rennes, 36 mois, démarrage 2027.

Qualifications

• Master requis en informatique, cybersécurité ou ML.

Skills

Apprentissage automatique / Deep‑learn

Mathématiques: probabilités / algèbre

Apprentissage fédéré / systèmes répart

Cryptographie / cybersécurité

Anglais professionnel

Education

Master en Informatique, cybersécurité, apprentissage automatique ou domaine connexe

Tools

Python

PyTorch

Job description

Environnementacadémique-Context

IMTAtlantique,grandeécoled'ingénieursgénéralistes,apourambitiondeconjuguer lenumérique,l’énergieet l’environnement pour transformer la société et l’industrie par la formation, la recherche et l’innovation.

L’établissementquiestprésentsurtroiscampus(Brest,NantesetRennes)appartientàl'InstitutMines-Télécometdépenddu ministère l’Économie, des finances et de la souveraineté industrielle et numérique.

Reconnueinternationalementpour laqualitédesarecherche,lesscientifiquesd’IMTAtlantiqueaccompagnentenviron300 doctorants. Lathèseproposées’inscritdanslesactivitésderecherchedel’équipe :SOTERNetdedulaboratoire IRISAetdu département SRCD. Les activités scientifiques de ce département relèvent de systèmes réseaux, cybersécurité et droit du numérique.

Lecandidatintégreraunenvironnementderecherchedynamique,internationaletinterdisciplinaire,àlacroiséedesdomaines suivants :

• apprentissageautomatique
• cybersécurité
• systèmesdistribués
• technologiesdeprotectiondelavieprivée

Lestravauxderechercheserontmenésauseindel'équipe(nomdel'équipe)auLS2N,et porterontsur l'IAfiableetla cybersécurité des infrastructures critiques.

Ledoctorantbénéficiera:

• d'unecollaborationétroiteavecdespartenairesindustriels
• d'unaccèsàdesensemblesdedonnéesetàdesdéfisconcretsenmatièredecybersécurité
• d'opportunitésdepublicationdansdesconférencesetrevuesdepremierplan(NeurIPS,IEEES&P,CCS,NDSS,etc.)
• d'uneexcellenteambiancederechercheetd'unencadrementdequalité
• opportunitiestopublishintop-tierconferencesandjournals(NeurIPS,IEEES&P,CCS,NDSS,etc.)

Contexte ou état de l’art scientifique :

La cybersécurité moderne évolue, passant de défenses isolées à une intelligence collaborative et distribuée. Des techniques telles que l'apprentissage fédéré (FL), l'apprentissage en essaim (SL) et l'apprentissage par transfert permettent aux organisations de former conjointement des modèles sans partager de données brutes sensibles.

Cependant, ces approches reposent sur une hypothèse cruciale et largement non vérifiée : celle selon laquelle les modèles formés ne divulguent pas d'informations sensibles concernant leurs données d'entraînement.

Des recherches récentes ont montré que cette hypothèse est souvent violée par :

• des attaques par inversion de gradient
• des attaques par inférence d'appartenance
• une mémorisation involontaire

Ces attaques démontrent que les modèles peuvent conserver et exposer des données sensibles, ce qui soulève des préoccupations fondamentales pour les applications dans les infrastructures critiques, où la vie privée et la confidentialité sont primordiales.

Parallèlement, des techniques émergentes telles que :

• la confidentialité différentielle
• le désapprentissage automatique
• les limites de généralisation issues de la théorie de l'information

offrent des solutions partielles, mais manquent de garanties formelles et de vérifiabilité dans les environnements décentralisés.

Cette thèse aborde un problème central encore en suspens :

Comment définir, mesurer, atteindre et prouver l'indépendance entre les données d'entraînement et les modèles appris dans les systèmes d'apprentissage collaboratif ?

Cette thèse vise à établir les fondements d'une confidentialité vérifiable dans l'apprentissage automatique collaboratif, avec des contributions à la croisée de la théorie, des systèmes et de la cybersécurité.

Les principales contributions attendues sont les suivantes :

1.Fondements théoriques

• Définition formelle de l'indépendance données-modèle
• Limites issues de la théorie de l'information (information mutuelle, stabilité)
• Analyse des compromis entre confidentialité et utilité

2.Modélisation des attaques et analyse empirique

• Mise en œuvre et extension de :
• attaques par inversion de gradient
• attaques par inférence d'appartenance
• é métriques de mémorisation
• Identification des modes de défaillance dans des ensembles de données réels de cybersécurité

3.Quantification de la dépendance

• Métriques basées sur :
• fonctions d'influence
• valeurs de Shapley
• signaux basés sur le gradient
• Détection des contributeurs à haut risque dans l'apprentissage collaboratif

4.Mécanismes de confidentialité vérifiables

• Conception de protocoles de désapprentissage des machines
• Intégration de preuves cryptographiques (par exemple, preuves à divulgation nulle de connaissance)
• Garanties formelles de suppression et d'indépendance des données

5.Évaluation des systèmes et de la cybersécurité

• Mise en œuvre dans des environnements d'apprentissage fédéré/en essaim
• Évaluation sur des ensembles de données de détection d'intrusion et de cybersécurité
• Comparaison avec des références en matière de confidentialité différentielle

Profil du candidat – Require skills:

Nous recherchons un candidat exceptionnel et très motivé possédant : Exigences :

• Master (ou équivalent) en :
• Informatique, cybersécurité, apprentissage automatique ou domaine connexe
• Solides connaissances en :
• apprentissage automatique / apprentissage profond
• mathématiques (probabilités, algèbre linéaire)
• Solides compétences en programmation (Python, PyTorch ou similaire) Atouts :
• Connaissances dans un ou plusieurs des domaines suivants :
• apprentissage fédéré / systèmes distribués
• technologies de protection de la vie privée
• cryptographie
• cybersécurité (par exemple, IDS, analyse de logiciels malveillants)
• Expérience en recherche (stages, publications)
• Qualités personnelles :
• curiosité et rigueur scientifique
• autonomie et esprit d'initiative
• capacité à travailler dans un environnement international
• excellentes compétences en communication en anglais

Plan de travail – Work Plan:

Le doctorat s'étend sur 36 mois :

• 1re année : Fondements et modélisation des attaques
• analyse documentaire
• mise en œuvre d'attaques de référence
• formulation théorique initiale
• 2e année : Métriques et développement théorique
• quantification des dépendances (IF, Shapley, MI)
• premières publications
• 3e année : Désapprentissage vérifiable et intégration du système
• mécanismes de preuve cryptographique
• évaluation complète du système
• rédaction de la thèse et publications

Renseignements complémentaires - Additional Informations :

Date de fin de candidature - Application deadline : 30/11/2026

Date de démarrage de la thèse- Start date : 1er semester 2027

Durée du contrat- Contract duration: 36 months

Localisation - Location : Rennes

Contact(s) : [e-mail] TBC

[e-mail]

Research Field Computer science » Informatics Education Level Master Degree or equivalent

Number of offers available 1 Company/Institute IMT Atlantique Bretagne - Pays de la Loire Country France City Rennes Postal Code 35576 Street 2, rue de la Châtaigneraie Geofield