STAGE 2026 - IA / NLP - Gestion d'incertitude et hallucination dans les réponses d'agents IA - F/H

Groupe Berger-Levrault; Occitanie; Sur place; EUR 20 000 - 40 000; Plein temps

Résumé du poste

Une entreprise internationale de logiciels cherche un(e) stagiaire pour explorer la gestion de l'incertitude dans les agents IA. Vous étudierez et développerez des solutions innovantes au sein d'une équipe dynamique. Le stage de 6 mois, débutant au printemps 2026, nécessite des compétences en Python et un intérêt pour les modèles de langage. Rejoignez une équipe qui valorise curiosité et collaboration.

Qualifications

• Vous êtes en Master 2, école d'ingénieurs ou formation universitaire en intelligence artificielle.
• Intérêt marqué pour la recherche appliquée et les modèles de langage.
• Maîtrise de Python et manipulation de modèles de langage.

Responsabilités

• Étudier les approches de détection d'incertitude dans les modèles de langage.
• Concevoir un module d'évaluation de fiabilité.
• Évaluer scientifiquement le dispositif via un protocole expérimental.

Connaissances

Python

Modèles de langage

Curiosité scientifique

Rigueur méthodologique

Formation

Étudiant(e) en Master 2 en IA, Data Science, NLP ou Informatique

Outils

FastAPI

Streamlit

VectorDB (Weaviate)

Description du poste

STAGE 2026 - IA / NLP - Gestion d'incertitude et hallucination dans les réponses d'agents IA - F/H

Informations générales

STAGE 2026 - IA / NLP - Gestion d'incertitude et hallucination dans les réponses d'agents IA - F/H

🚴 Label Pro Vélo - Niveau Argent : nous sommes en selle… vous venez ? (site de Labège)

Berger‑Levrault est un éditeur de logiciel international basé en France qui s’adresse aux collectivités et administrations locales, aux établissements de santé, au monde de l’éducation et à l’industrie. Le Groupe implanté en Europe, au Maroc et au Canada compte 40 000 clients sur les 5 continents.

Berger‑Levrault est le leader des solutions logicielles de Ressources Humaines et de Gestion Financière pour les secteurs public et parapublic en France et en Espagne, ainsi que le leader européen des solutions de gestion de maintenance.

Acteur de proximité solide et pérenne, Berger‑Levrault collabore avec ses clients et partenaires pour rendre le monde plus simple et plus sûr grâce à un numérique sécurisé et accessible à tous.

Engagés dans une transformation numérique responsable, les 2 200 collaborateurs de Berger‑Levrault agissent au quotidien pour être à la hauteur des enjeux sociétaux, économiques et environnementaux de leurs clients par la création de solutions digitales de confiance.

🔍 Sujet : Détection et gestion d’incertitude dans les réponses d’agents IA

Au sein de la Direction de la Recherche et de l’Innovation Technologique (DRIT), le Lab IA explore les nouveaux paradigmes d’intelligence artificielle, et en particulier l’intégration des modèles de langage de grande taille (LLM) dans des systèmes multi‑agents intelligents.

L’un des défis majeurs de ces systèmes concerne la fiabilité et la transparence des réponses générées : les modèles peuvent produire des affirmations incorrectes tout en affichant une confiance élevée. Cette « illusion de certitude » nuit à la confiance des utilisateurs et à la robustesse globale du système.

Le stage s’inscrit dans une démarche de R&D exploratoire, visant à concevoir et expérimenter des mécanismes d’auto‑évaluation et de calibration de confiance pour des agents conversationnels intégrant des LLM. Ce travail contribuera à l’amélioration de la fiabilité, de la traçabilité et de l’ergonomie cognitive de l’assistant IA développé dans le cadre du projet Athena de Berger‑Levrault.

• Étudier les approches existantes de détection d’incertitude et de calibration de confiance dans les modèles de langage : estimation probabiliste, self‑consistency, chain‑of‑thought scoring, contradiction detection, LLM uncertainty estimation.

Concevoir un module d’évaluation de fiabilité, capable d’estimer la fiabilité d’une réponse générée à partir d’indicateurs sémantiques : évaluation de similarité de la réponse principale avec des réponses candidates, cohérence inter‑agent, vérification de sources externes (API sur sites web de référence ou corpus métier de référence, etc.).

Mettre en place un système de scoring sémantique pour évaluer la cohérence interne des réponses et identifier les contradictions ou divergences logiques.

Prototyper un mécanisme de retour d’incertitude dans l’interface agentique : visualisation de la confiance (barres, couleurs, reformulations automatiques), feedback utilisateur.

Évaluer scientifiquement le dispositif, via un protocole expérimental mesurant précision, robustesse, calibrage et perception utilisateur.

Selon l’avancement de la mission d’autres pistes comme la suggestion de correction seraient envisageables.

Approches et technologies envisagées :

• LLM : Modèles de Mistral AI
• Méthodes : self‑consistency, contradiction-check, semantic similarity scoring (SBERT, Cosine distance), combinaison de métriques
• Stack possible : Python, FastAPI, Streamlit pour les tests, VectorDB (Weaviate).

Livrables attendus :

• Une étude comparative des méthodes d’estimation de confiance pour les LLM.
• Un prototype fonctionnel d’agent capable de produire un score de confiance accompagné d’une visualisation explicite.
• Un protocole d’évaluation et un rapport scientifique présentant les résultats.
• Des recommandations pour l’intégration de ce module
• Vous êtes étudiant(e) en Master 2, école d’ingénieurs ou formation universitaire en intelligence artificielle, data science, NLP ou informatique. Et vous recherchez un stage de 6 mois débutant au printemps 2026.

Vous présentez un intérêt marqué pour la recherche appliquée et les modèles de langage (LLM).

Vous maîtrisez Python ainsi que la manipulation de modèles de langage et d’embeddings.

Vous faites preuve de curiosité scientifique, de rigueur méthodologique et d’un réel goût pour l’expérimentation.

Intégré(e) à la Direction de la Recherche et de l’Innovation Technologique (DRIT) de Berger Levrault, vous rejoindrez une équipe innovante qui valorise la curiosité, la collaboration et l’expérimentation. Chercheurs, doctorants, étudiants et ingénieurs collaborent quotidiennement pour concevoir des solutions innovantes et préparer les usages technologiques de demain.

1 - Postulez via notre espace candidat.

2 - Si votre profil nous fait lever un sourcil, attendez-vous à recevoir un appel pour un premier échange téléphonique.

3 - Vous avez réussi à piquer notre curiosité. Attendez-vous à ce qu'on vous propose un deuxième échange, que ce soit à distance ou dans nos locaux. Parce qu’un bon échange, c’est avant tout un échange bien préparé, dites-nous si vous avez besoin d’aménagements spécifiques. Nous ferons en sorte que tout se passe au mieux.

4 - En fin d’entretien, notre Talent Acquisition Partner prendra le temps de vous partager un retour personnalisé sur votre CV : vos forces, les aspects à peaufiner, et des tips personnalisés pour vous aider à avancer sereinement vers vos objectifs.
L’idée ? Que chaque échange soit utile, bienveillant et constructif, et que vous repartiez toujours avec un feedback.

5 - Rassurez-vous, nous reviendrons vers vous avec une réponse, qu’elle soit positive 👍ou non👎.

Recruteuse : Camille PERUSIN, Talent Acquisition Partner

Nous nous engageons à :

• Accueillir et intégrer les talents uniques des personnes en situation de handicap. Nos offres sont ouvertes aux personnes en situation de handicap et nous mettons en place les aménagements nécessaires pour garantir un environnement de travail adapté à chacun.
• Cultiver une culture d'inclusion où la différence est valorisée
• Sensibiliser et accompagner nos équipes aux enjeux de diversité

Parce que la singularité de chacun est une richesse, nous mettons tout en place pour que chaque collaboratrice et collaborateur puisse s'exprimer et s'épanouir pleinement.