Stage de Recherche: Mémoire Neuronale pour Transformers

Orange; Lannion; Remote; EUR 10,000 - 17,000; Full time

Benefits offered by this job

Laboratoires Orange

Infrastructures de calcul

Job summary

Orange recherche un stagiaire de dernière année pour étudier et développer des mémoires neuronales intégrées aux mécanismes internes des Transformers, au sein des laboratoires de recherche. Le sujet vise à capitaliser les expériences et à optimiser l’inférence tout en gérant l’oubli et les échanges entre sessions.

Vous évoluerez dans un cadre stimulant avec des chercheurs et data scientists, sur des problématiques d’IA agentique et d’apprentissage statistique, en collaboration avec deux équipes

Qualifications

• Étudiant en dernière année de master ou d'école d'ingénieur, stage obligatoire.
• Excellente formation en apprentissage automatique et connaissance des Transformers.
• Bon bagage en mathématiques (algèbre linéaire, probabilités et optimisation).
• Maîtrise de Python et PyTorch, environnement Linux.
• Capacité à travailler de manière autonome et communiquer en FR ou EN.

Responsibilities

• Analyser et implémenter des mécanismes mémoire pour les Transformers.
• Tester sur des environnements publics et proposer des améliorations.
• Rédiger des résultats et contribuer à une soumission conférence.

Skills

Apprentissage automatique

Transformers

Algèbre linéaire

Probabilités

Optimisation

Education

Master ou école d'ingénieur — dernière année

Tools

Python

PyTorch

Linux

Job description

Orange recherche un stagiaire de dernière année pour étudier et développer des mémoires neuronales intégrées aux mécanismes internes des Transformers, au sein des laboratoires de recherche. Le sujet vise à capitaliser les expériences et à optimiser l’inférence tout en gérant l’oubli et les échanges entre sessions.

Vous évoluerez dans un cadre stimulant avec des chercheurs et data scientists, sur des problématiques d’IA agentique et d’apprentissage statistique, en collaboration avec deux équipes