Tech Lead LLM Web - Freelance - Freelance (H/F)

Brief IA; Paris; On-site; EUR 70,000 - 110,000; Full time

Job summary

Brief IA recherche un ingénieur backend IA pour concevoir l’architecture des APIs et des workers, intégrer les chaînes d’inférence LLM et assurer la performance. Vous travaillerez avec les squads produit sur une plateforme multi-tenant européenne et souveraine, en mode multi-lieu et multi-produit.

Le poste demande une forte culture de qualité et une approche SAFE et scalable. Vous contribuerez à l’observabilité, à la sécurité et à la gouvernance interne du code, tout en promouvant les meilleures

Qualifications

• Conception d'architectures API et services, alignement sur les besoins produit.
• Maîtrise des chaînes d'inférence LLM et des benchmarks pour validation.
• Respect des principes Clean Code et SOLID dans le développement backend.

Responsibilities

• Concevoir l'architecture des APIs (FastAPI) et des workers avec sécurité et résilience.
• Industrialiser les chaînes d'inférence LLM (prompting, function calling, RAG) et réaliser POCs/benchmarks.
• Garantir des temps de réponse maîtrisés (streaming, timeouts, backpressure).
• Intégrer Observabilité et sécurité ( secrets, Zero Trust, isolation des tokens).
• Accompagner les squads produit pour adoption rapide des capabilities IA.
• Contribuer à la gouvernance inner source et à l'amélioration continue par tests.

Skills

FastAPI

Authentification

Caching

Résilience

POCs & benchmarks

LLM inference

Prompting

Function calling

RAG

Embeddings

Agents

Observabilité

Sécurité

Zero Trust

SOLID

Tests automatisés

Tools

Docker

Kubernetes

OpenTelemetry

Prometheus

Git

Job description

LE CONTEXTE ET POURQUOI CE RECRUTEMENT

Notre client est un acteur européen de la legaltech. Au sein de l'équipe AI Service, vous construisez la brique technique qui connecte les modèles de langage, les moteurs de recherche et les produits du groupe.

L'objectif : fournir des capabilities IA robustes, rapides et fiables à plusieurs équipes produit à travers l'Europe, dans une solution multi-tenant pouvant aussi être proposée en mode souverain.

LES MISSIONS

• Concevoir l'architecture des APIs (FastAPI) et des workers : contrats clairs, authentification unifiée, cache et mécanismes de résilience (retries, circuit breakers, fallback de modèles)


• Industrialiser les chaînes d'inférence LLM : prompting, function calling, RAG, embeddings, agents, en challengeant les choix par des POCs et des benchmarks


• Garantir des temps de réponse maîtrisés : streaming des réponses, timeouts, backpressure, annulation de requêtes, arbitrage synchrone / asynchrone


• Intégrer nativement observabilité (logs, métriques, traces) et sécurité (gestion des secrets, Zero Trust, isolation des tokens)


• Accompagner les squads produit (assistant IA, recherche, édition) pour qu'elles intègrent ces capabilities avec un minimum de friction


• Contribuer à la gouvernance inner source et promouvoir Clean Code, SOLID et tests automatisés

L'ÉQUIPE

Vous rejoignez une équipe d'experts, en charge de l'une des briques technologiques stratégiques de la plateforme du groupe, et vous travaillez avec plusieurs squads produit dans un contexte international.

POURQUOI CE POSTE EST INTÉRESSANT

• Industrialiser de l'IA générative sous fortes contraintes de performance, sur des volumes juridiques massifs : un défi technique rare


• Créer le standard industriel IA du groupe pour les prochaines années, plutôt que livrer une feature isolée


• Un rôle d'influence : inner source, accompagnement des équipes, rayonnement technique (articles, meetups, open source)


• Une équipe d'experts soudée et