Stagiaire Testeur de failles de sécurité dans Chatbot et RAG - IA et Data Science F/H

Orange SA; Mougins; Sur place; EUR 30 000 - 40 000; Plein temps

Résumé du poste

Une entreprise de télécommunications recherche un étudiant en ingénierie ou master spécialisé en IA pour participer à des projets liés à la sécurité des applications d'IA. Vos responsabilités incluront la recherche sur des techniques d'attaque, la création de tests d'injection de prompts, et la formation des employés pour comprendre les enjeux de sécurité. Une bonne maîtrise des traitements NLP et un niveau d'anglais suffisant sont requis.

Qualifications

• Formation en traitement du langage naturel (NLP) et applications de chatbot.
• Compréhension des techniques d'apprentissage machine.
• Connaissance des méthodes d'évaluation des modèles d'apprentissage.

Responsabilités

• Renseigner sur les attaques d'IA et concevoir des démonstrations.
• Reproduire des attaques et créer une base de tests.
• Sensibiliser et former les employés sur les vulnérabilités liées à l'IA.

Connaissances

Ingénierie informatique

Spécialisation en IA

Traitements NLP

Curiosité

Proactivité

Analyse critique

Travail en équipe

Anglais

Formation

École d'ingénieur ou master en informatique

Description du poste

about the role3>

Dans le cadre de différents comités IA éthique et responsable d’Orange France, nous mettons en œuvre et appliquons des procédés pour s’assurer que les applications d’IA à Orange respectent les régulations sur l’IA, sont conformes à la charte éthique et responsable d’Orange et respecte les exigences de sécurité d’Orange France.

Les tests effectués par les fournisseurs de modèles d’IA Générative (Open AI, Google, Anthropic,…) montrent que ces modèles demeurent très sensibles à de nouvelles formes d’attaques: «les injections de prompt. Des campagnes de test menées par des Red Teams (équipes externes payés pour mener des attaques) à la demande de ces fournisseurs. Le taux de succès de ces attaques menés par des spécialistes ont des seuils très élevés – 50% au bout d’une dizaine d’interaction -.

L’objectif serait:

• de se renseigner sur ces attaques (qui ne sont pas publiées pour des raisons évidentes de sécurité)
• de reproduire avec succès certaines attaques,
• de créer une base de test d’injection de prompts et un démonstrateur qui montre leur principe de fonctionnement et leur efficacité soit sur un chatbot et un RAG créé à cet effet soit sur la recette de chatbot et de RAG d’Orange pour évaluer, le cas échéant, leurs vulnérabilités. Le but de ce démonstrateur est de sensibiliser et accompagner la montée en compétence d’employés Orange sur ces sujets, les experts sécurités qui ne sont pas spécialisés en IA.

Orange déploie un nombre important de cas d’applications (plusieurs centaines) autour de l’IA Générative avec des agents conversationnels ou des architecture RAG; d’où la nécessité d’en savoir plus ces techniques d’injection de prompt.

about you

Vous êtes en école d’ingénieur ou master dans le domaine de l’informatique avec une spécialisation en IA.

Vous êtes formés sur les traitements NLP (langage naturel), les applications de Chatbot

Vous maîtrisez les différentes techniques d’apprentissage

Vous connaissez les méthodes d'évaluation de fiabilité classique des modèles d'apprentissage

Vous êtes curieux et proactif, avec une capacité d'analyse et esprit d'équipe.

Anglais