STAGE – Ingénieur en Sécurité des modèles génératifs de langage : benchmark robustesse aux atta[...]

Thales Group; Palaiseau; Sur place; EUR 40 000 - 60 000; Plein temps

Résumé du poste

Thales propose un stage d'ingénieur en sécurité des modèles de langage, se concentrant sur l'évaluation de la robustesse contre des attaques par prompt injection. Un intérêt pour l'apprentissage automatique est requis, et le stage offre une expérience enrichissante au sein d'un leader mondial en innovation technologique.

Qualifications

• Intérêt pour l'apprentissage automatique et enjeux éthiques.
• Curiosité et rigueur sont des atouts.

Responsabilités

• Évaluation de la robustesse des LLM aux attaques par prompt injection.
• Mise en œuvre de contre-mesures basées sur le cadre MITRE ATLAS.

Connaissances

Curiosité

Rigueur

Formation

Etudiant en Ecole d’ingénieur ou formation équivalente

Description du poste

STAGE – Ingénieur en Sécurité des modèles génératifs de langage : benchmark robustesse aux attaques par prompt injection (H/F)

Construisons ensemble un avenir de confiance

Thales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et plus inclusif. Le Groupe investit près de 4 milliards d’euros par an en Recherche & Développement, notamment dans des domaines clés de l’innovation tels que l’IA, la cybersécurité, le quantique, les technologies du cloud et la 6G. Thales compte près de 81 000 collaborateurs dans 68 pays.

Notre savoir-faire technologique

Notre attention portée à l’équilibre des collaborateurs

Un environnement inclusif et bienveillant

Un engagement sociétal et environnemental reconnu (Thales Solidarity, indice CAC 40 ESG…)

Votre quotidien

Thales Research&Technology, notre centre de recherche dans les domaines matériels, et CortAIx Labs, notre centre de recherche en IA et digital ont pour mission de proposer des innovations de ruptures, de maintenir et d’accroitre l’avance technologique et d’en assurer la compétitivité pour le groupe.

Lieu : Palaiseau, France

Construisons ensemble un avenir de confiance

Thales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et plus inclusif. Le Groupe investit près de 4 milliards d’euros par an en Recherche & Développement, notamment dans des domaines clés de l’innovation tels que l’IA, la cybersécurité, le quantique, les technologies du cloud et la 6G. Thales compte près de 81 000 collaborateurs dans 68 pays.

Nos engagements, vos avantages

• Notre savoir-faire technologique

• Notre attention portée à l’équilibre des collaborateurs

• Un environnement inclusif et bienveillant

• Un engagement sociétal et environnemental reconnu (Thales Solidarity, indice CAC 40 ESG…)

Votre quotidien

Thales Research&Technology, notre centre de recherche dans les domaines matériels, et CortAIx Labs, notre centre de recherche en IA et digital ont pour mission de proposer des innovations de ruptures, de maintenir et d’accroitre l’avance technologique et d’en assurer la compétitivité pour le groupe.

Thales s’engage pour l’emploi et l’insertion des personnes en situation de handicap. A ce titre, notre établissement est reconnu Organisme Handi-Accueillant.

Dans un contexte d’intégration croissante des modèles de langage (LLM) dans diverses applications, ces derniers représentent des cibles potentielles pour des attaques sophistiquées, notamment des attaques d'injection de prompts. Ce stage se concentrera sur l’évaluation de la robustesse de LLM, qu'ils soient open source ou développés en partenariat avec Thales. L'objectif principal est de mesurer et renforcer la sécurité des systèmes utilisant des LLM contre ces menaces, notamment celles développées par l’équipe Friendly Hackers.

Le projet s’appuie sur le cadre MITRE ATLAS, qui classe et répertorie les menaces émergentes liées à l’IA, afin de définir des contre-mesures adaptées. Les objectifs incluent la reproduction d’attaques réelles dans un environnement contrôlé, permettant d’évaluer la résilience des LLM. Cette démarche s’accompagne de l’utilisation du référentiel MITRE ATLAS pour structurer l’analyse des attaques, en alignant les défenses avec les tactiques et techniques des attaquants.

Votre profil

STAGE – Ingénieur en Sécurité des modèles génératifs de langage : benchmark robustesse aux attaques par prompt injection (H/F)

Vous avez envie de découvrir le domaine de la recherche et de l’innovation au sein d’un Groupe Leader mondial ?

Etudiant en Ecole d’ingénieur ou formation équivalente, en sciences des données ou en apprentissage automatique ?

Vous êtes à la recherche d’un stage de fin d’études de 5 à 6 mois ?

Vous avez un intérêt particulier pour l’apprentissage automatique et ses enjeux éthiques ?

L’idée de participer à un projet de recherche sur des thématiques d’apprentissage automatique novatrices vous anime ?

Curiosité et rigueur sont des atouts que l'on vous reconnait ?

Alors ce poste est fait pour vous !

Tous nos stages sont conventionnés et soumis à une gratification dont le montant est déterminé selon votre niveau d’études.Thales, entreprise Handi-Engagée, reconnait tous les talents. La diversité est notre meilleur atout. Postulez et rejoignez nous !