STAGE – Ingénieur de Recherche Détection de backdoors dans les grands modèles de langage (H/F)

Thales Group

Palaiseau

On-site

EUR 8,900 - 12,000

Full time

5 days ago
Be an early applicant

Get a reply from this employer

Your resume and cover letter, tailored to exactly what they’re hiring for.

Get past ATS filters

Job summary

Thales Group recherche un stagiaire en dernière année pour contribuer à l’étude et au développement de méthodes de détection de backdoors dans des grands modèles de langage. Vous travaillerez sur des approches issues de l’état de l’art et réaliserez des expériences pratiques sur des modèles open source, avec une forte dimension scientifique et opérationnelle.

Le stage s’inscrit dans une démarche de sécurisation des IA et vise à produire des résultats exploitable sous forme de rapport et

Qualifications

  • Bonnes bases en machine learning et deep learning.
  • Maîtrise de Python.
  • Connaissance pratique d’un framework de deep learning, idéalement PyTorch.
  • Familiarité avec les modèles de type Transformers et les concepts de base des LLM.
  • Capacité à conduire des expérimentations, analyser des résultats et documenter une démarche scientifique.

Responsibilities

  • Réaliser une étude bibliographique sur les attaques backdoor visant les modèles de langage et les méthodes de détection existantes.
  • Identifier différents scénarios de menace pertinents pour les LLM.
  • Mettre en place un protocole expérimental sur des modèles open source de taille modérée.
  • Reproduire ou implémenter plusieurs approches de détection.
  • Évaluer leurs performances selon différents critères : précision, robustesse, coût de calcul, généricité.

Skills

Machine learning
Python
PyTorch
Transformers
Experimentation & analysis

Tools

PyTorch
Transformers

Job description

Lieu : Palaiseau, France

Construisons ensemble un avenir de confiance

Thales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et plus inclusif. Le Groupe investit près de 4,5 milliards d’euros par an en Recherche & Développement, notamment dans des domaines clés de l’innovation tels que l’IA, la cybersécurité, le quantique, les technologies du cloud et la 6G. Thales compte près de 85 000 collaborateurs dans 65 pays.

Nos engagements, vos avantages
  • Notre savoir-faire technologique
  • Notre attention portée à l’équilibre des collaborateurs
  • Un environnement inclusif et bienveillant
  • Un engagement sociétal et environnemental reconnu (Thales Solidarity, indice CAC 40 ESG…)
Votre quotidien

Thales Research&Technology, notre centre de recherche dans les domaines matériels, et CortAIx Labs, notre centre de recherche en IA et digital ont pour mission de proposer des innovations de ruptures, de maintenir et d’accroitre l’avance technologique et d’en assurer la compétitivité pour le groupe.

Les grands modèles de langage (LLM) occupent aujourd’hui une place centrale dans de nombreux systèmes critiques : assistants conversationnels, aide à la décision, génération de code, analyse documentaire, cybersécurité ou encore traitement de données sensibles. Leur intégration croissante dans des environnements industriels et institutionnels soulève cependant des enjeux majeurs de confiance, de robustesse et de sécurité. Parmi les menaces émergentes, les attaques par backdoor constitue un risque particulièrement préoccupant.

Une backdoor est un comportement malveillant ou non souhaité inséré dans un modèle lors de son entraînement, de son affinage ou via sa chaîne d’approvisionnement. En apparence, le modèle fonctionne normalement dans la majorité des cas, mais adopte un comportement spécifique lorsqu’un déclencheur particulier est présent dans l’entrée. Dans le cas des LLM, ces déclencheurs peuvent prendre des formes variées : mots-clés, motifs syntaxiques, styles rédactionnels, séquences rares, instructions cachées, voire caractéristiques sémantiques subtiles.

La détection de ces comportements est un sujet de recherche encore ouvert, rendu difficile par :

  • la taille des modèles,
  • l’opacité de leurs mécanismes internes (caractère boite noire),
  • la diversité des modalités d’injection de backdoors,
  • la difficulté à distinguer un comportement malveillant d’un simple biais ou d’une généralisation inattendue.

Le stage proposé s’inscrit dans une démarche de sécurisation des modèles d’IA et vise à explorer, comparer et évaluer des méthodes de détection de backdoors appliquées aux LLM, dans une perspective à la fois cientifique et opérationnelle.

Les Objectifs Du Stage Sont Les Suivants
  • acquérir une compréhension approfondie des menaces backdoor sur les LLM ;
  • établir un benchmark expérimental de méthodes de détection ;
  • mesurer les limites des approches existantes dans un cadre réaliste ;
  • produire des résultats exploitables sous la forme de rapport d’étude et prototypes de détection (code,
    démo).
Vos missions

Le stagiaire contribuera à l’étude et au développement de méthodes permettant de détecter la présence de backdoors dans des grands modèles de langage, en s’appuyant sur l’état de l’art académique et sur des expérimentations pratiques.

Le Travail Consistera Notamment à
  • réaliser une étude bibliographique sur les attaques backdoor visant les modèles de langage et les méthodes de détection existantes ;
  • identifier différents scénarios de menace pertinents pour les LLM ;
  • mettre en place un protocole expérimental sur des modèles open source de taille modérée ;
  • reproduire ou implémenter plusieurs approches de détection ;
  • évaluer leurs performances selon différents critères : précision, robustesse, coût de calcul, généricité ;
  • proposer, le cas échéant, des pistes d’amélioration ou une approche complémentaire.
Votre profil

Le Candidat Recherché Est Un Étudiant En Dernière Année Ayant Un Intérêt Marqué Pour L’IA Et La Cybersécurité, Recherchant Un Stage De Fin D'études Avec Les Compétences Suivantes

  • bonnes bases en machine learning et deep learning ;
  • maîtrise de Python ;
  • connaissance pratique d’au moins un framework de deep learning, idéalement PyTorch ;
  • familiarité avec les modèles de type Transformers et les concepts de base des LLM ;
  • capacité à conduire des expérimentations, analyser des résultats et documenter une démarche scientifique.

Tous nos stages sont conventionnés et soumis à une gratification dont le montant est déterminé selon votre niveau d’études.

Thales, entreprise Handi-Engagée, reconnait tous les talents. La diversité est notre meilleur atout. Postulez et rejoignez nous !

Get your free, confidential resume review.

or drag and drop your file here.

Similar jobs

Similar jobs worth comparing

STAGE - Ingénieur de Recherche Détection de backdoors dans les grands modèles de langage (H/F)
STAGE - Ingénieur de Recherche Détection de backdoors dans les grands modèles de langage (H/F)

Thales Avionics, Inc. (AGS) • Palaiseau

On-site
EUR 13,000 - 18,000
STAGE – Ingénieur de Recherche Vol de modèle par extraction : attaques et défenses (H/F) – 6 mois
STAGE – Ingénieur de Recherche Vol de modèle par extraction : attaques et défenses (H/F) – 6 mois

Thales Group • Palaiseau

On-site
EUR 8,900 - 12,000
Stage conventionné
Gratification selon niveau d’études
STAGE – Audit de confiance et détection d'incohérences dans l'espace latent (J-space) d'un agent LLM d'analyse tactique (H/F)
STAGE – Audit de confiance et détection d'incohérences dans l'espace latent (J-space) d'un agent LLM d'analyse tactique (H/F)

Thales Group • Palaiseau

On-site
EUR 10,000 - 15,000
STAGE – Ingénieur en détection d’attaques adverses en temps réel : scores de confiance en Machine Learning (H/F) – 6 mois
STAGE – Ingénieur en détection d’attaques adverses en temps réel : scores de confiance en Machine Learning (H/F) – 6 mois

Thales Group • Palaiseau

On-site
EUR 6,700 - 10,000
Stage: Détection de backdoors dans les grands LLM
Stage: Détection de backdoors dans les grands LLM

Thales Group • Palaiseau

On-site
EUR 8,900 - 12,000
STAGE - Ingénieur Machine Learning - F/H
STAGE - Ingénieur Machine Learning - F/H

Thales Group • Élancourt

On-site
EUR 6,700 - 10,000
Environnement inclusif
Savoir-faire technologique
Engagement sociétal et environnemental
STAGE - Ingénieur Intelligence Artificielle – Fine Tuning F/H
STAGE - Ingénieur Intelligence Artificielle – Fine Tuning F/H

Thales Group • Rennes

On-site
EUR 11,000 - 16,000
STAGE - Ingénieur IA & Cybersécurité – Plateforme de Threat Intelligence de Nouvelle Génération - F/H
STAGE - Ingénieur IA & Cybersécurité – Plateforme de Threat Intelligence de Nouvelle Génération - F/H

Thales Group • Palaiseau

On-site
EUR 10,000 - 19,000
Gratification selon études
Handi-Engagée
STAGE - Développement de chatbot IA de bout en bout basé sur un LLM - F/H
STAGE - Développement de chatbot IA de bout en bout basé sur un LLM - F/H

Thales Group • Gémenos

On-site
EUR 7,800 - 10,000
Environnement inclusif et bienveillant
Engagement sociétal et environnemental
Savoir-faire technologique
STAGE - Évaluation des grands modèles de langage pour les systèmes critiques via l’analyse sémantique des graphes (F/H)
STAGE - Évaluation des grands modèles de langage pour les systèmes critiques via l’analyse sémantique des graphes (F/H)

Thales Avionics, Inc. (AGS) • Palaiseau

On-site
EUR 6,700 - 10,000