Ingénieur/ingénieure IA (AI Engineer)

Ministère de la Justice; Paris; Hybrid; EUR 75,000 - 120,000; Full time

Benefits offered by this job

Restauration administrative

CDI possible

Job summary

Le Ministère de la Justice recherche un expert IA pour piloter la direction de programme intelligence artificielle (DPIA). Vous coordonnez le déploiement de l’IA, portez la stratégie, et travaillez avec les métiers pour livrer des solutions IA robustes et souveraines.

Vous assurerez l’intégration de modèles, le développement d’outils et de workflows, et l’observabilité des systèmes. Télétravail possible 3 jours par semaine, localisation Paris, CDI potentiel.

Qualifications

• Diplômé d'une école d'ingénieur ou équivalent universitaire et au moins 3 ans d'expérience comme contributeur technique sur des produits IA.
• Expérience souhaitée sur un agent conversationnel ou un workflow agentique est un plus, mais non indispensable.

Responsibilities

• Investigation et prototypage : comprendre les besoins et traduire en cas d’usage IA mesurable.
• Prototyper rapidement la brique IA et tester sur données réelles.
• Transformer le prototype en applicatif d’expérimentation testé par de vrais utilisateurs.
• Suivre les projets avec les partenaires techniques et améliorer les solutions IA.
• Intégration de modèles d'IA : sélectionner les modèles et les briques adaptées selon tâche et coût.
• Concevoir et exposer des tools et workflows connectant modèles et référentiels métiers.
• Construire et orchestrer des workflows agentiques et chaînes RAG.
• Paramétrage et optimisation des systèmes : prompts, schémas de sortie,guards, paramètres d'inférence.
• Mise en production et pérennisation : code testé, versionning, coût maîtrisé.

Skills

Machine learning

LLM architecture

Python

FastAPI

API design

OpenAI/MCP API

PostgreSQL

pgvector

Observability tooling

Education

Diplômé d'une école d'ingénieur / équivalent universitaire

Tools

OCR

Layout parsing

Entity extraction

Speech-to-text

Function calling

MCP servers

Job description

L’intelligence artificielle constitue aujourd’hui un levier majeur de transformation et doit aider la Justice à relever ses nombreux défis : faciliter l’accès au droit, accélérer les délais de traitement des procédures, sécuriser le travail des agents pénitentiaires, améliorer les conditions de travail. Le traitement plus rapide d’importants volumes d’informations, l’aide à la recherche et à la rédaction, la facilitation de certaines tâches répétitives, chronophages ou pénibles sont autant de perspectives majeures pour les agents du ministère.

Préconisée par le rapport sur l’intelligence artificielle remis au ministre de la Justice le 23 juin 2025, la direction de programme IA porte cette ambition pour la Justice. Elle construit et fait évoluer la stratégie IA du ministère, en lien avec les parties prenantes. Elle identifie les cas d’usages de l’IA au ministère, et les bénéfices attendus sur ces cas d’usage. Elle propose aux instances de gouvernance les décisions d’investissement et les projets à lancer. Elle fédère autour de cette stratégie les services et directions du ministère, et s’assure de leur participation à sa réalisation.

Elle s’assure au quotidien que les produits IA, ceux qu’elle porte directement et ceux portés par d’autres équipes du ministère, à qui elle apporte soutien et expertise, sont créés et évoluent dans un souci d’efficience globale, apportent bien la valeur attendue notamment pour les agents du ministère, et respectent les impératifs de performance, de conformité réglementaire, de sécurité et de souveraineté.

Elle définit et conduit une stratégie pour la montée en compétence des agents du ministère sur l’IA, et veille à la bonne adéquation des produits IA aux besoins de ces utilisateurs. La direction de programme assure le secrétariat de l’observatoire de l’IA, instance distincte qui sera chargée d’accompagner la mise en œuvre de la stratégie du ministère en la matière.

La direction de programme est rattachée au secrétariat général du ministère de la Justice, qui assure une mission générale de coordination et de soutien aux services du ministère, et qui exerce les fonctions prévues par le décret n° 2014-834 du 24 juillet 2014 relatif aux secrétaires généraux des ministères.

En rejoignant cette direction, vous aurez un impact significatif sur la justice en France, en contribuant à des projets innovants qui rendent la justice plus équitable et efficace. Ce poste offre l'opportunité de combiner expertise technique et engagement, dans un environnement stimulant où l'innovation sert le bien commun.

Composition et effectifs du service

La direction de programme IA regroupe des compétences pluridisciplinaires (juridique, technique, portage de produits, métier, etc.) qui lui sont pour partie affectées en propre et pour partie mises à disposition par d’autres services du ministère.

Votre hiérarchie

La Direction de programme est composée d’une directrice (N+2), et d’un adjoint fonctionnel (N+1).

Vos interlocuteurs métiers

Agents et prestataires des directions métier du Ministère de la Justice (DSJ, DAP, DACS, DACG, DPJJ, SG)

Vos activités principales

Le ministère de la Justice engage une transformation numérique ambitieuse, intégrant l’intelligence artificielle pour moderniser le service public et soutenir le travail des agents. La direction de programme intelligence artificielle (DPIA) coordonne le déploiement de l’IA au sein du ministère. Son équipe Produit & Tech opère et fait évoluer deux briques complémentaires :

• Un socle ministériel de solutions IA (inférence, hébergement de modèles, tools, RAG) mutualisé pour l'ensemble des besoins IA de la Justice
• Des solutions métiers construites sur ce socle, par exemple un agent conversationnel LLM souverain à destination de 90 000 agents du ministère, des workflows de numérisation et classification de documents tels que des procédures judiciaires, des outils d’aide à la synthèse et rédaction, ou encore de retranscription (speech-to-text) pour l’administration pénitentiaire et la protection judiciaire de la jeunesse.

Missions principales

Investigation et prototypage

• En lien avec les product managers et les designers, comprendre les besoins des utilisateurs et le traduire en un cas d’usage IA avec des critères de succès mesurables
• Prototyper rapidement la brique IA (notebook, script, API) pour tester la faisabilité sur des documents et données réels
• Avec les développeurs, transformer le prototype en applicatif d’expérimentation testé par de vrais utilisateurs
• Suivi des projets avec les partenaires techniques du ministère, en particulier sur les itérations des solutions IA dans une logique d’amélioration continue

Intégration de modèles d'IA

• Intégrer des LLM (open-weight auto-hébergés ou via API souveraine) et d’autres modèles non génératifs (embeddings) ;choisir le bon modèle selon la tâche, la latence, et le coût
• Mettre en œuvre des briques IA : OCR, analyse de mise en page (layout parsing), extraction d'entités et de champs structurés sur des pièces scannées ou manuscrites, classification, reconnaissance vocale, modèles prédictifs selon le besoin
• Concevoir et exposer des tools (function calling, serveurs MCP) qui connectent les modèles aux référentiels et applications métier
• Développer des skills réutilisables : instructions, ressources et scripts packagés pour une tâche métier récurrente
• Construire et orchestrer des workflows agentiques et des chaînes RAG (chunking, retrieval hybride, re-ranking, citations des sources)

Systèmes agentiques : tools, skills et orchestration

• Concevoir et exposer des tools (function calling, serveurs MCP) qui connectent les modèles aux référentiels et applications métier
• Développer des skills réutilisables : instructions, ressources et scripts packagés pour une tâche métier récurrente
• Construire et orchestrer des workflows agentiques et des chaînes RAG (chunking, retrieval hybride, re-ranking, citations des sources)

Paramétrage et optimisation des systèmes

• Concevoir et maintenir les prompts système, les schémas de sortie structurée et les garde-fous (guardrails)
• Régler les paramètres d'inférence (température, longueur de contexte, stratégies de décodage)
• Arbitrer entre prompt engineering, RAG et stratégie de fine-tuning (SFT et/ou RL)
• Optimiser les pipelines de données et d'inférence : qualité des données d'entrée, latence, coût par requête, robustesse
• Grâce à la plateforme d’évaluation interne, créer des jeux de test annotés avec les métiers, avec l’équipe évaluation déterminer des métriques automatiques avec des techniques heuristiques et LLM-as-a-judge
• Mettre en place l'observabilité des applications LLM (traces, coûts, retours utilisateurs)

Mise en production et pérennisation

• Rendre la brique IA prête pour la production : code testé, configuration versionnée (prompts, paramètres, modèles), gestion des erreurs et des coûts
• Documenter les choix (modèles, prompts, résultats d'évaluation) et partager les composants réutilisables : tools, skills, harness

Vos principales compétences à mettre en œuvre

Expertise en machine learning et/ou du fonctionnement des LLM

Maîtrise avancée de Python, frameworks de back-end (FastAPI), et consommation/conception d’API de type OpenAI ou MCP

Bases de données relationnelles et vectorielles (PostgreSQL, pgvector)

Outils d’observabilité LLM (Langfuse ou équivalent)

Savoir-faire

Documenter ses choix techniques et présenter des résultats à un public non technique

Architectures d’applications d’IA générative : RAG (chunking, vectorisation, recherche hybride), agents, function calling, protocole MCP

Méthode d’évaluation des systèmes LLM : jeux de référence, LLM as a judge, tests de non-régression

Concevoir et consommer des API (FastAPI, API compatibles OpenAI, serveurs MCP)

Appliquer les pratiques ops : tests et TDD, intégration et déploiement continus (CI/CD), versioning Git

Savoir-être

Orienté impact utilisateur : vous visez des solutions utilisées en production, pas des démonstrations

Esprit d’équipe et capacité à vulgariser à un profil non-technique son travail

Sens du service public et curiosité pour son fonctionnement

Rigueur expérimentale : construction de jeux de test, choix des métriques, analyse d’erreurs, comparaison de modèles

Expériences professionnelles antérieures souhaitées

Intéressé(e) par le monde judiciaire et par l’intelligence artificielle, vous êtes diplômé(e) d'une école d'ingénieur, d’informatique, data science, IA, mathématiques appliquées ou équivalent universitaire. Vous justifiez d’au moins 3 ans d'expérience comme contributeur technique (data scientist, ML engineer ou software engineer) sur des produits intégrant de l'IA. Une expérience préalable sur un agent conversationnel (chatbot) ou un workflow agentique est un plus, mais n’est pas indispensable. Des expériences passées en co-construction avec des product managers, UX designers ou des développeurs seront valorisées.

Offres de formation associées à votre prise de poste

L’embarquement au sein de la Direction de programme intègrera une montée en compétence sur les sujets d’intelligence artificielle d’un point de vue socio-technique, ainsi qu’une acculturation au fonctionnement du ministère et aux métiers de la Justice.

Informations complémentaires :

Poste nécessitant une enquête administrative de sécurité

Poste vacant au 01/12/2026

Localisation administrative et géographique : Ministère de la Justice, 35 rue de la gare 75019, Paris

Organisation de travail :

télétravail possible 3 jours par semaine

Rémunération attractive –

selon profil et grille de la fonction publique, avec prise en compte de la rémunération antérieure. Possibilité d’un contrat à durée indéterminée (CDI)

Restauration :

oui (restaurant administratif)

Accessibilité en transport / Parking : Rosa Parks :

transports en commun (RER E Rosa Parks, T3b, M12 Front populaire, M7 Corentin Cariou puis navette fluviale, bus 35 et 239) / Parking possible sur demande

Renseignements et candidature :

Mettre systématiquement en copie Info IA et la référence de l’annonce en objet

[e-mail]

Romaric Haldenwang, entrepreneur d’intérêt général / CTO