Contexte
Un grand groupe d'assurance déploie des usages d'IA générative et d'IA agentique sur ses activités et doit en maîtriser les risques de bout en bout. Sa direction cybersécurité groupe cherche un expert capable de sécuriser ces systèmes, mais aussi d'en évaluer la robustesse face à des attaques.
Le consultant analyse les risques des projets IA, teste les modèles et les agents de façon offensive et définit les garde-fous (cloisonnement, maîtrise des accès, contrôles déterministes) en lien avec les équipes data, métiers et informatiques. L'équipe recherche des profils d'exception : le niveau d'expérience compte moins que la preuve de la compétence (CTF, recherche, publications, projets personnels, concours).
Missions
- Analyse de risques de bout en bout des projets IA générative et agentique
- Tests offensifs de LLM : prompt injection, jailbreak, exfiltration de données, empoisonnement
- Sécurisation des architectures agentiques : autonomie limitée, cloisonnement, autorisations déterministes
- Définition de garde-fous et de standards de sécurité pour l'IA
- Gouvernance des identités, des droits et des actions des agents, avec traçabilité associée
- Évaluation du risque IA des fournisseurs et des tiers
- Veille sur les menaces et les attaques liées à l'IA
- Sensibilisation des équipes et contribution à la politique de sécurité IA
Outils et environnement
Métier et réglementaire :
- Sécurité de l'IA générative et agentique
- Analyse de risques IA
- AI Act, NIST AI RMF, ISO 42001
- Gestion du risque tiers sur les fournisseurs IA
Techniques :
- Red teaming de modèles de langage
- Prompt injection, jailbreak, empoisonnement de données
- Sécurité des architectures RAG
- Sécurité des agents et des outils associés (function calling, MCP)
- Garde-fous et filtrage des entrées et des sorties
- Gestion des identités non humaines
- Sécurité des plateformes IA cloud (Azure AI, AWS Bedrock, Vertex AI)
- MLSecOps
- Python
Méthodologie et outils :
- OWASP Top 10 for LLM Applications
- MITRE ATLAS
- Garak, PyRIT ou équivalent
- Modélisation de menaces appliquée à l'IA
Livrables :
- Dossiers d'analyse de risques IA
- Standards et guides de sécurité IA
Profil attendu
- Expertise en sécurité de l'IA générative et agentique
- Analyse de risques IA et connaissance des référentiels AI Act, NIST AI RMF, ISO 42001
- Gestion du risque tiers sur les fournisseurs IA
- Red teaming de modèles de langage : prompt injection, jailbreak, empoisonnement de données
- Sécurité des architectures RAG et des agents (function calling, MCP)
- Définition de garde-fous et filtrage des entrées et des sorties
- Gestion des identités non humaines
- Plateformes IA cloud : Azure AI, AWS Bedrock, Vertex AI
- MLSecOps et programmation Python
- OWASP Top 10 for LLM Applications, MITRE ATLAS, Garak, PyRIT ou équivalent, modélisation de menaces appliquée à l'IA
- Production de dossiers d'analyse de risques IA et application de standards et guides de sécurité IA
- Preuves de compétence : participation à des CTF, concours IA et sécurité, publications, recherche, outils open source