Stage IA de confiance - Vérification formelle et domaines différentiels-Saclay- H/F

CEA; Saclay; In loco; EUR 10.000 - 17.000; Tempo pieno

Vantaggi offerti da questo lavoro

Restaurant d'entreprise

Diversité et inclusion

Descrizione del lavoro

Stage IA de confiance au CEA Saclay, dédié à la vérification formelle et aux domaines différentiels dans le cadre de l’IA de confiance. Le stagiaire contribuera à l’extension de PyRAT avec de nouveaux domaines abstraits et participera à des benchmarks sur des cas d’usage réels, dans un laboratoire de renommée internationale.

Le candidat prépare un diplôme M1/M2 en informatique ou mathématiques et possède des bases en Python et en intelligence artificielle.

Competenze

• Diplôme de niveau M1 ou M2 en informatique ou mathématiques en cours.
• Connaissances en développement Python et en IA attendues.
• Intérêt pour la vérification formelle et les méthodes de sûreté des IA.

Mansioni

• Implémenter dans PyRAT des domaines abstraits différentiels pour vérifier des propriétés de sûreté.
• Réaliser des benchmarks et évaluer les performances des implémentations.
• Travailler en équipe de recherche sur des techniques de vérification formelle.

Conoscenze

Python

Mathématiques

Intelligence artificielle

Formazione

Informatique

Mathématiques

Strumenti

PyRAT

Descrizione del lavoro

Stage IA de confiance - Vérification formelle et domaines différentiels-Saclay- H/F

Description du poste

Mathématiques, information scientifique, logiciel

Intitulé de l'offre

Stage IA de confiance - Vérification formelle et domaines différentiels-Saclay- H/F

Sujet de stage

Dans le travaux autour de l'intelligence artificielle de confiance, vous travaillerez sur le développement de nouvelles méthodes de vérification formelle de la sûreté des IA grâce à des domaines abstraits différentiels.

Durée du contrat (en mois)

4 à 6 mois

Description de l'offre

En tant que stagiaire au CEA, vous aurez l'opportunité de travailler au sein d'un environnement de recherche de renommée mondiale. Nos équipes sont composées d'experts passionnés et dédiés, offrant un cadre propice à l'apprentissage et à la collaboration. Vous aurez accès à des équipements de pointe et à des ressources de recherche de premier ordre pour mener à bien vos missions

Avec les récents développements en matière d'IA, son utilisation est de plus en plus répandue et soulève de plus en plus de questions quant à sa robustesse, son respect de la vie privée ou autre. Un certain nombre de travaux ont émergés pour augmenter la confiance dans les IAs en se basant sur des méthodes formelles pour obtenir des garanties mathématiques de leur sûreté. Ces méthodes sont implémentées dans l'outil PyRAT développé au CEA.

Des travaux récents ont introduits de nouvelles propriétés de sûreté variables sur des réseaux de neurones notamment sur la robustesse globale, la monotonicité ou l'isomorphisme de réseaux. Ces propriétés nécessitent néanmoins des techniques particulières pour les gérer efficacement. L'une des techniques possible repose sur la vérification formelle différentielle qui permet par rapport aux techniques classiques de conserver une trace de la différence entre deux exécutions d'un réseau de neurone.

Qu’attendons-nous de vous?

Le but du stage sera d'implémenter dans PyRAT différents domaines abstraits différentiels afin de pouvoir vérifier ces nouvelles propriétés de sûreté. Ces domaines différentiels seront implémentés sur la base des domaines existants dans PyRAT et PyRAT devra être adapté pour fonctionner sur les propriétés de sûreté choisies. Des fonctionnalités telles que la recherche de contre exemple ou le branch and bound devront être également modifié pour ces propriétés.

Un benchmark comportant plusieurs propriétés de sûreté sur différents cas d'usage sera établi et les performances de PyRAT sur celui ci seront mesurées.

Profil du candidat

Vous préparez un diplôme de niveau M1 ou M2 dans le domaine de l'informatique ou des mathématiques.

Vous possédez des connaissances en développement Python, en mathématiques et en intelligence artificielle.

Rejoignez-nous, venez développer vos compétences et en acquérir de nouvelles!

Vous avez encore un doute ? Nous vous proposons:

• L'opportunité de travailler au sein d'une organisation de renommée mondiale dans le domaine de la recherche scientifique,
• Un environnement unique dédié à des projets ambitieux au profit des grands enjeux sociétaux actuels,
• Une expérience à la pointe de l’innovation, comportant un fort potentiel de développement industriel,
• Des moyens expérimentaux exceptionnels et un encadrement de qualité,
• De réelles opportunités de carrière à l’issue de votre stage
• Un poste au cœur de la métropole grenobloise, facilement accessible via la mobilité douce favorisée par le CEA,
• Une participation aux transports en commun à hauteur de 85%,
• Un équilibre vie privée – vie professionnelle reconnu,
• Un restaurant d'entreprise,
• Une politique diversité et inclusion,

Conformément aux engagements pris par le CEA en faveur de l'intégration des personnes handicapées, cet emploi est ouvert à toutes et à tous. Le CEA propose des aménagements et/ou des possibilités d'organisation pour l'inclusion des travailleurs handicapés.

Localisation du poste

Ville

Critères candidat

Anglais (Intermédiaire)

Diplôme préparé

Formation recommandée

Informatique mathématiques

Entité de rattachement

Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat.

Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition énergétique, transition numérique, technologies pour la médecine du futur, défense et sécurité sur un socle de recherche fondamentale. Le CEA s'engage depuis plus de 75 ans au service de la souveraineté scientifique, technologique et industrielle de la France et de l'Europe pour un présent et un avenir mieux maîtrisés et plus sûrs.

Implanté au cœur des territoires équipés de très grandes infrastructures de recherche, le CEA dispose d'un large éventail de partenaires académiques et industriels en France, en Europe et à l'international.

Les 20 000 collaboratrices et collaborateurs du CEA partagent trois valeurs fondamentales :

• La conscience des responsabilités
• La coopération
• La curiosité

Référence

2026-41447

Description de l'unité

Sur le campus Paris-Saclay, le rôle du Laboratoire Sûreté et Sécurité des Logiciels du #CEA-List est de développer des outils d'analyse pour augmenter la confiance dans les systèmes logiciels, en détecter des vulnérabilités, garantir la conformité à leurs spécifications, et en accélérer l'évaluation y compris dans des démarches de certification. Nos outils open-source sont développés afin d'être utilisés par l'industrie et leur développement est guidé par ses besoins.

• 26 Rue de la Piquetterie 91680 Bruyères-le-châtel