Thèse (PhD) : Vulnérabilités des modèles d'IA génératives multimodaux H/F

CEA; Gif-sur-Yvette; Sur place; EUR 20 000 - 40 000; Plein temps

Résumé du poste

Le CEA propose une thèse en cybersécurité et intelligence artificielle. Le candidat travaillera sur les vulnérabilités des modèles d'IA génératives multimodaux, dans un environnement de recherche innovant. Ce poste convient à un étudiant passionné par la recherche, avec un Master 2 en Machine Learning ou Statistiques.

Qualifications

• Étudiant(e) en école d'ingénieur ou universitaire, motivé(e) par la recherche.
• Intérêt pour la cybersécurité de l'IA.
• Bonne connaissance des algorithmes d'optimisation et maîtrise de Python.

Responsabilités

• Étudier les menaces liées à l'intégrité et à la confidentialité des données avec RAG.
• Optimiser la réponse de l'IA générative sans modifier le modèle sous-jacent.

Connaissances

Machine Learning

Statistiques

Python

Algorithmes d'optimisation

Formation

Master 2

Description du poste

Site carrière CEA : toutes nos offres d'emploi

Vous n'avez pas encore votre propre espace candidat. Créez-le en cliquant ici.
Un souci ? Contactez-nous à
[e-mail]

Site carrière CEA : toutes nos offres d'emploi

Moteur de recherche d'offres d'emploi CEA

Thèse (PhD) : Vulnérabilités des modèles d'IA génératives multimodaux H/F

Détail de l'offre

Description du poste

Mathématiques, information scientifique, logiciel

Intitulé de l'offre

Thèse (PhD) : Vulnérabilités des modèles d'IA génératives multimodaux H/F

Statut du poste

Durée du contrat (en mois)

Description de l'offre

Bien que l'intelligence artificielle générative excelle dans la création de contenus originaux (comme du texte, image ou code), elle fait face à plusieurs limitations.
Les données utilisées pour entraîner les modèles de fondation peuvent être périmées depuis des semaines, des mois, voire des années. De plus, dans un chatbot d'entreprise, elles peuvent ne pas prendre en compte des informations spécifiques aux produits ou services de l'entreprise. Cela peut conduire à des réponses incorrectes qui érodent la confiance en la technologie auprès de certains clients et collaborateurs.

Afin d'atténuer ces limitations, les modèles de fondation doivent être régulièrement mis à jour et personnalisés. Une technique de pointe utilisée pour optimiser la réponse de l'IA générative sans modifier le modèle sous-jacent est la Génération Augmentée de Récupération (RAG). Le RAG permet à l'IA de se référer à une base de connaissances externe pour générer un contenu mis à jour et spécialisé.

Bien que l'utilisation du RAG se démocratise dans l'industrie, il subsiste des incertitudes concernant les risques liés à cette technique de personnalisation.

Le sujet de thèse proposé consiste à étudier les menaces liées à l'intégrité et à la confidentialité des données lors de l'utilisation d'un RAG pour adapter les modèles d'IA générative multimodaux.

Profil du candidat

Ce doctorat s'adresse à un(e) étudiant(e) en école d'ingénieur ou universitaire, motivé(e) par la recherche, avec un intérêt pour la cybersécurité de l'IA, et titulaire d'un Master 2 dans l'un des domaines suivants :

- Machine Learning,

- Statistiques.

Une bonne connaissance des principaux algorithmes d'optimisation et la maîtrise de Python sont indispensables.

Localisation du poste

Disponibilité du poste

Informations générales

Entité de rattachement

Le CEA, acteur majeur de la recherche, sert les citoyens, l'économie et l'État.
Il propose des solutions concrètes dans quatre domaines principaux : transition énergétique, transition numérique, technologies pour la médecine du futur, défense et sécurité. Depuis plus de 75 ans, le CEA soutient la souveraineté scientifique, technologique et industrielle de la France et de l'Europe, pour un avenir mieux maîtrisé et plus sûr.
Implanté au cœur des territoires avec d'importantes infrastructures de recherche, le CEA collabore avec de nombreux partenaires académiques et industriels en France, en Europe et à l'international.
Les 20 000 collaborateurs du CEA partagent trois valeurs fondamentales :
• La responsabilité
• La coopération
• La curiosité