AI Platform Engineer (H/F) – Mission freelance (IT) / Freelance

Insitoo Freelances; Lille; On-site; EUR 101,000 - 166,000; Full time

Job summary

Insitoo Freelances recherche un(e) AI Platform Engineer freelance basé à Lille pour concevoir et exploiter une passerelle d'accès IA interne, compatible OpenAI, avec routage et sécurité avancés.

Vous travaillerez sur la construction et l'exploitation de la plateforme, en adoptant une approche Agent-first et en préparant les outils et templates nécessaires pour les équipes.

Qualifications

• Concevoir et développer une API unique compatible OpenAI, avec routage et bascule, streaming et cache.
• Gérer l'accès, les clés API, les quotas et les budgets, et suivre les coûts par équipe.
• Assurer l'observabilité (logs, traces, latence, dashboards et alertes).
• Sécuriser la plateforme et protéger données personnelles et prompts.
• Définir les SLO, réaliser des tests de charge et gérer les incidents.

Responsibilities

• Concevoir et développer une API unique compatible OpenAI, avec routage entre fournisseurs, bascule de secours, streaming et cache.
• Mettre en place le contrôle d'accès, la gestion des clés d'API, des quotas et des budgets, ainsi que le suivi des coûts par équipe.
• Assurer une observabilité complète : logs, traces, latence, consommation de tokens, tableaux de bord et alertes.
• Sécuriser la plateforme : garde-fous, filtrage des données personnelles, protection contre l'injection de prompts, résidence des données et pistes d'audit.
• Garantir la performance à grande échelle : définition des SLO, tests de charge et gestion des incidents.
• Comparer les modèles (qualité, latence, coût) et intégrer rapidement de nouveaux modèles et fournisseurs.
• Contribuer aux analyses « build / buy / open-source » des solutions de passerelle, en collaboration avec l'architecture et l'équipe produit.
• Préparer la plateforme aux agents IA : appel d'outils, serveurs MCP, identité et permissions des agents.
• Fournir des SDK, des templates et de la documentation pour faciliter l'adoption de la plateforme.
• Travailler en mode « Agent-first » : déléguer l'implémentation, les tests et la documentation à des agents de code, rédiger des spécifications claires et relire rigoureusement leur production.

Job description

Nous recherchons activement un(e) AI Platform Engineer freelance pour rejoindre une entreprise internationale du secteur retail.

Basé(e) à Lille, vous intégrerez une équipe en charge du socle IA du groupe, dans le cadre de la conception et de l'exploitation d'une passerelle d'accès unique et sécurisée aux modèles d'intelligence artificielle, utilisée par l'ensemble des équipes.

Vous interviendrez à la fois sur la construction (build) et sur l'exploitation (run) de cette plateforme, avec une approche « Agent-first » (développement largement délégué à des agents de code).

Vos responsabilités :

• Concevoir et développer une API unique compatible OpenAI, avec routage entre fournisseurs, bascule de secours, streaming et cache.

• Mettre en place le contrôle d'accès, la gestion des clés d'API, des quotas et des budgets, ainsi que le suivi des coûts par équipe.

• Assurer une observabilité complète : logs, traces, latence, consommation de tokens, tableaux de bord et alertes.

• Sécuriser la plateforme : garde-fous, filtrage des données personnelles, protection contre l'injection de prompts, résidence des données et pistes d'audit.

• Garantir la performance à grande échelle : définition des SLO, tests de charge et gestion des incidents.

• Comparer les modèles (qualité, latence, coût) et intégrer rapidement de nouveaux modèles et fournisseurs.

• Contribuer aux analyses « build / buy / open-source » des solutions de passerelle, en collaboration avec l'architecture et l'équipe produit.

• Préparer la plateforme aux agents IA : appel d'outils, serveurs MCP, identité et permissions des agents.

• Fournir des SDK, des templates et de la documentation pour faciliter l'adoption de la plateforme.

• Travailler en mode « Agent-first » : déléguer l'implémentation, les tests et la documentation à des agents de code, rédiger des spécifications claires et relire rigoureusement leur production.