Ingénieur IA LLM - Freelance (H/F)

Brief IA; Lille; On-site; EUR 80,000 - 105,000; Full time

Job summary

Brief IA recherche un(e) ingénieur IA pour concevoir et faire évoluer une plateforme centralisée permettant d’accéder à des modèles ML, publics ou souverains, avec des usages internes et externes.

Vous contribuerez au routage, à la sécurité et à la maîtrise des coûts, et travaillerez sur l’observabilité et la conformité des échanges via une API unifiée OpenAI-compatible.

Responsibilities

• Concevoir, développer et maintenir les fonctionnalités de la plateforme : API unifiée compatible OpenAI, routage multi-fournisseurs, fallback, streaming et caching.
• Mettre en œuvre les mécanismes de contrôle d'accès, gestion des clés API, quotas, rate limiting et suivi des coûts par équipe et cas d'usage.
• Évaluer et comparer les modèles selon leur qualité, latence et coût.
• Intégrer de nouveaux modèles et fournisseurs.
• Développer l'observabilité : logs, traces, métriques, dashboards et alerting.
• Garantir la sécurité et la conformité : guardrails, filtrage des données personnelles, protection contre les prompt

Job description

Taux journalier (TJM): 500

Au sein d'une équipe dédiée aux plateformes technologiques et à la data, les équipes IA développent et opèrent des solutions d'intelligence artificielle et de machine learning à grande échelle, pour des usages internes et externes.

La mission s'inscrit au sein d'une équipe en charge de développer une plateforme centralisée et sécurisée permettant aux différentes équipes d'accéder à des modèles d'intelligence artificielle : fournisseurs de LLM publics, modèles européens souverains et modèles hébergés en privé.

Cette plateforme constitue un point d'entrée unique pour intégrer des modèles et développer des fonctionnalités et agents IA.

Ses principaux enjeux sont :

• Accès unifié : API unique, routage entre modèles et fournisseurs, mécanismes de fallback et répartition de charge.


• Gouvernance et sécurité : authentification, quotas, limitation de débit, protection des données et traçabilité.


• Maîtrise des coûts : suivi des consommations, gestion des budgets et analyse des usages.


• Écosystème agentique : intégration du tool calling, des serveurs MCP et des flux liés aux agents IA.

MISSIONS

• Concevoir, développer et maintenir les fonctionnalités de la plateforme : API unifiée compatible OpenAI, routage multi-fournisseurs, fallback, streaming et caching.


• Mettre en œuvre les mécanismes de contrôle d'accès, gestion des clés API, quotas, rate limiting et suivi des coûts par équipe et cas d'usage.


• Évaluer et comparer les modèles selon leur qualité, latence et coût.


• Intégrer de nouveaux modèles et fournisseurs.


• Développer l'observabilité : logs, traces, métriques, dashboards et alerting.


• Garantir la sécurité et la conformité : guardrails, filtrage des données personnelles, protection contre les prompt