Senior AI Inference Engineer — Scalable LLM Serving

Empiric; Randstad; Hybrid; EUR 90,000 - 150,000; Full time

Job summary

Empiric zoekt een Senior AI Inference Engineer die zelfstandig een veilig, schaalbaar en performant AI-platform meebouwt. Je draait mee in een Scrum-team en maakt belangrijke technische keuzes over modellen, hardware en servingstrategieën, met focus op veiligheid en betrouwbaarheid.

Je werkt aan optimalisatie, benchmarking en documentatie van architectuurbeslissingen. Ervaring met Python en Kubernetes is vereist, evenals Engels in schrift en gesprek; kennis van NL is een pluspunt.

Qualifications

• Ervaren engineer met diepe technically hands-on vaardigheden in AI-inference en ML-platformontwikkeling.
• Productie-ervaring met LLM-serving op GPU's en kennis van caching/batching.
• Inzicht in KV-cache, kwantisatie en servingconfiguraties.

Responsibilities

• Optimaliseer AI-prestaties en voer schaaltests uit op GPU-node.
• Ontwerp en documenteer architectuurbeslissingen via ADR's.
• Beoordeel modellen, kwantisatie en hardwarevereisten.
• Werk aan veiligheid en betrouwbaarheid van het AI-platform.

Skills

ML platform development

Enterprise AI inference

LLM serving on GPUs

KV-cache

Batching

Prefix caching

Quantization

GPU infrastructure

Python

Kubernetes

English skills

Dutch language

Job description

Empiric zoekt een Senior AI Inference Engineer die zelfstandig een veilig, schaalbaar en performant AI-platform meebouwt. Je draait mee in een Scrum-team en maakt belangrijke technische keuzes over modellen, hardware en servingstrategieën, met focus op veiligheid en betrouwbaarheid.

Je werkt aan optimalisatie, benchmarking en documentatie van architectuurbeslissingen. Ervaring met Python en Kubernetes is vereist, evenals Engels in schrift en gesprek; kennis van NL is een pluspunt.