Tech Lead LLM Web - Freelance (H/F)

Brief IA; Paris; On-site; EUR 90,000 - 130,000; Full time

Job summary

Brief IA recherche un Tech Lead IA pour une brique technologique stratégique d'une plateforme internationale. Vous concevrez et industrialiserez des services IA reliant des modèles de langage, des moteurs de recherche et des produits applicatifs.

Vous développerez des APIs robustes et orchestrerez des chaînes d inference et des pipelines RAG dans un environnement multi-tenant international. Vous serez responsable de garantir performance, faible latence, scalabilité et sécurité tout en assurant

Qualifications

• Conception des APIs et des workers, stratégie de cache et résilience (retries, circuit breakers).
• Intégration LLM: chaînes d'inférence et RAG, benchmarks et POCs.
• Performance et scalabilité: débit, latence et coût en production.

Responsibilities

• Concevoir et industrialiser des services IA orchestrant LLM, RAG et embeddings.
• Définir des APIs robustes avec FastAPI, Pydantic et authentification unifiée.
• Maîtriser asyncio, concurrence et parallélisme pour optimiser le débit.
• Intégrer streaming et gestion des timeouts, backpressure et annulation.
• Ajouter observabilité et guard Rails de sécurité dans un multi-tenant.

Skills

API design

FastAPI

Pydantic validation

Asyncio

Performance tuning

LLM orchestration

Job description

Contexte

Vous rejoignez une équipe AI Service en charge d'une brique technologique stratégique d'une plateforme internationale. En tant que Tech Lead IA, vous concevez et industrialisez des services IA permettant de connecter des modèles de langage (LLM), des moteurs de recherche et des produits applicatifs.

Votre mission consiste à développer des APIs robustes capables d'orchestrer des appels LLM, des pipelines RAG et des traitements massifs, tout en garantissant performance, faible latence, scalabilité, fiabilité et sécurité dans un environnement multi-tenant international.

1. Conception et développement des services de consommation, d'indexation et de restitution des données

• Conception des services : définir l'architecture des APIs et des workers, la stratégie de cache et les mécanismes de résilience (retries, circuit breakers, fallback modèles).
• Intégration LLM : concevoir les chaînes d'inférence (prompting, function calling, RAG, embeddings, agents) et industrialiser leur mise en production, en challengeant les choix via des POCs et des benchmarks.
• Performance et scalabilité : définir comment concilier débit, latence et coût pour les traitements synchrones et asynchrones, afin de répondre aux charges de production.

2. APIs Web et performance (synchrone / asynchrone)

• Définition des APIs : créer des APIs robustes et documentées avec FastAPI, en garantissant des contrats clairs, la validation des données (Pydantic), une authentification unifiée et la propagation du contexte pays.
• Performance et asynchrone : maîtriser asyncio, la concurrence et le parallélisme pour optimiser le débit, en arbitrant entre traitements synchrones et asynchrones selon les contraintes.
• Streaming et temps réel : implémenter le streaming des réponses LLM et assurer une gestion fine des timeouts, du backpressure et de l'annulation des requêtes.
• Observability et Security : intégrer nativement la télémétrie (logs, métriques, traces) et les guardrails de