Senior LLM / Agentic implementatie-engineer

Werkenbijdeoverheid; Den Haag; Hybrid; EUR 75,000 - 110,000; Full time

Benefits offered by this job

IKB budget

Ov-reiskostenvergoeding

Bedrijfsfitness

Opleidingsfaciliteiten

Job summary

Nederlands Forensisch Instituut (NFI) zoekt een senior LLM / agentic implementatie-engineer die techniek, gebruikersbehoeften en organisatie verbindt om DBS voorziening voor LLMs veilig en bruikbaar te maken. Je werkt aan adoptie, demonstraties, use-cases, en koppelt werkprocessen aan juridische en privacy-kaders.

Je start bij concrete hulpvragen en breidt uit naar AI-kansrijke teams, test modellen en bewaakt planning, afhankelijkheden en samenwerking met interne en externe partijen.

Qualifications

• HBO- of WO-werk- en denkniveau in informatica, data science, AI, technische bedrijfskunde of vergelijkbare richting.

Responsibilities

• Beheer en evaluatie van hybride LLM-landschap, inclusief on-premise en commerciële diensten voor LLM’s.

Skills

AI/ML affinity

Linux

HPC

Security awareness

Cloud/on-prem

Education

HBO/WO informatica/data science/AI

Tools

vLLM

Ollama

SGLang

Hugging Face TGI

llama.cpp

LocalAI

LM Studio

Job description

Wil jij zorgen dat Large Language Models (LLMs) ook echt gebruikt worden in digitaal forensisch werk? Als senior LLM / Agentic implementatie-engineer verbind je techniek, gebruikersbehoeften en organisatie. Je zorgt dat Digitale en Biometrische Sporen (DBS) beschikt over een veilige, stabiele en bruikbare voorziening voor LLMs en aanverwante AI. Je helpt forensisch deskundigen LLMs verantwoord en praktisch in te zetten.

Het NFI neemt nieuwe AI-rekencapaciteit in gebruik. Jij bent verantwoordelijk voor de implementatie: van technische inrichting en ingebruikname tot adoptie. Je werkt nauw samen met digitaal forensisch onderzoekers en technisch specialisten.

Je start bij teams met een concrete hulpvraag en breidt daarna uit naar teams waar AI kansrijk is, maar de behoefte nog moet worden ontwikkeld. Je organiseert demonstraties, ontwikkelt use-cases en zorgt dat techniek, werkprocessen en juridische, security- en privacykaders op elkaar aansluiten.

Jouw verantwoordelijkheden

Je beheert en evalueert een hybride LLM-landschap met on-premise oplossingen en commerciële diensten zoals OpenAI/ChatGPT, Claude, Gemini, Grok/xAI, DeepSeek en GLM/Z.ai. Je vertaalt gebruikersbehoeften naar voorzieningen, configuraties, werkafspraken, je organiseert ondersteuning, documentatie en voorbeeldtoepassingen, zodat collega’s daadwerkelijk met de omgeving kunnen werken.Je prioriteert doelgroepen, waarbij eerst de teams met een concrete vraag worden bediend en vervolgens de teams waar AI-toepassingen kansrijk zijn, maar waar de toepassing nog actief moet worden gestimuleerd.

Je volgt ontwikkelingen in open-weight en commerciële LLMs, multimodale modellen, inference-frameworks, evaluatiemethoden en deploymentpatronen. Je test, selecteert en deployt modellen en onderzoekt Multi-GPU- en distributed-inference-opstellingen, waaronder model sharding.

Voor modeltoegang richt en beheer je een LLM gateway/model access layer, bijvoorbeeld LiteLLM. Je houdt rekening met autorisatie, logging, kosten, budgetten, rate limits en rapportages. Je vergelijkt en test model-servingtechnologieën zoals vLLM, Ollama, SGLang, Hugging Face TGI, llama.cpp/llama-server, LocalAI en LM Studio.

Een belangrijk onderdeel is een evaluatie- en testharness met benchmarksets en testprotocollen. Hiermee beoordeel je modellen, prompts, tools, deploymentvarianten en use-cases reproduceerbaar. Daarnaast verken en gebruik je LLM- en agentic-analysis-harnesses en reverse-engineeringtools, zoals RAPTOR , Kong en vergelijkbare tooling.

Je bewaakt de planning, afhankelijkheden, risico’s, besluitvorming en voortgang. Daarbij verbind je technische teams en gebruikersgroepen, zodat gemaakte keuzes zowel technisch uitvoerbaar als praktisch bruikbaar zijn. Ook zoek je actief samenwerking met interne en externe partijen die aan vergelijkbare vraagstukken en oplossingen werken. Je benut deze contacten om kennis, ervaringen en best practices uit te wisselen.

Waar werk je aan?

Je werkt aan lokale deployment van open-weight LLMs en optimaliseert inference-performance, GPU-gebruik, batch sizing, latency en schaalbaarheid. Je combineert on-premise modellen met commerciële LLM-diensten en zorgt voor veilige, beheersbare toegang.

Ook onderzoek en beoordeel je LLM-tools voor digitaal forensisch onderzoek, reverse engineering, codeanalyse en technische kennisontsluiting. Multi-GPU, model sharding, distributed inferenceen zakelijke AI-diensten maken daar onderdeel van uit.

Je werkt samen met platformbeheer, AI-ontwikkeling, informatiebeveiliging, inkoop, juridische experts en eindgebruikers aan gebruiksrichtlijnen, autorisatie, gebruikersbeheer en governance. Zodra voorzieningen volwassen zijn, zorg je voor een gecontroleerde overdracht aan het beheerteam.

• Arbeidsovereenkomst voor bepaalde tijd
• 24 maanden
• Op deze functie is het Functiegebouw Rijk van toepassing. Inschaling vindt plaats op basis van je opleiding en ervaring. De mogelijkheid bestaat dat je in beginsel via een aanvangsschaal wordt aangesteld. Deze kan één schaal lager zijn dan de betreffende functieschaal. Een tijdelijke arbeidsmarkttoelage kan onderdeel zijn van de arbeidsvoorwaarden.

Dit bieden we nog meer

Naast het salaris ontvang je een individueel keuzebudget (IKB). Het IKB bestaat uit geld (16,5 % van je brutojaarsalaris) en tijd. Met het IKB maak jij de keuzes die bij jou passen en kun je een deel van je arbeidsvoorwaarden zelf samenstellen. Je kunt er bijvoorbeeld voor kiezen om een deel van je maandinkomen te laten uitbetalen wanneer jij dat wenst. Ook kun je dit budget omzetten in verlof en andersom of besteden aan fiscaalvriendelijke doelen. De Rijksoverheid hecht sterk aan persoonlijke groei en loopbaanontwikkeling en biedt daarvoor tal van mogelijkheden. Tot de secundaire arbeidsvoorwaarden behoren onder meer verschillende studiefaciliteiten, bedrijfsfitness, volledige vergoeding van je ov-reiskosten woon-werkverkeer en gedeeltelijk betaald ouderschapsverlof.

Dit vragen wij

• hbo- of wo-werk- en denkniveau, bij voorkeur in informatica, data science, AI, technische bedrijfskunde, of een vergelijkbare richting;
• minimaal 4 jaar relevante werkervaring in een rol als platform engineer, infra engineer, DevOps engineer, technisch projectleider, of vergelijkbaar;
• ervaring met het implementeren of begeleiden van complexe technische systemen;
• aantoonbare affiniteit met AI, machine learning, data science, HPC, Linux, infrastructuur, of modeldeployment
• het vermogen om technische onderwerpen begrijpelijk te maken voor gebruikers en beslissers;
• ervaring met plannen, prioriteren, risico’s beheersen en stakeholders meenemen;
• gevoel voor security, privacy, betrouwbaarheid en verantwoord gebruik van deze technologie.
• Plannen en organiseren
• Resultaatgerichtheid
• Omgevingsbewustzijn
• Samenwerken

• hbo- of wo-werk- en denkniveau, bij voorkeur in informatica, data science, AI, technische bedrijfskunde, of een vergelijkbare richting;
• minimaal 4 jaar relevante werkervaring in een rol als platform engineer, infra engineer, DevOps engineer, technisch projectleider, of vergelijkbaar;
• ervaring met het implementeren of begeleiden van complexe technische systemen;
• aantoonbare affiniteit met AI, machine learning, data science, HPC, Linux, infrastructuur, of modeldeployment
• het vermogen om technische onderwerpen begrijpelijk te maken voor gebruikers en beslissers;
• ervaring met plannen, prioriteren, risico’s beheersen en stakeholders meenemen;
• gevoel voor security, privacy, betrouwbaarheid en verantwoord gebruik van deze technologie.

Ervaring met LLMs, model serving, GPU-clusters, vLLM, Ollama, SGLang, Hugging Face Text Generation Inference, llama.cpp, LocalAI, LM Studio, LiteLLM, OpenAI API, ChatGPT Business, ChatGPT Enterprise, Claude, Gemini, Gemma, Grok/xAI, DeepSeek, GLM/Z.ai, Qwen, Llama, Mistral, Kimi, NVIDIA Nemotron, OLMo, Kong, RAPTOR, modeldeployment, model sharding, distributed inference, prompt evaluation of vergelijkbare tooling is een pre.

Competenties

• Plannen en organiseren
• Analyseren
• Resultaatgerichtheid
• Omgevingsbewustzijn
• SamenwerkenOvertuigingskracht
• Creativiteit
• Voortgangscontrole

Dit vinden wij belangrijk

Je bent iemand die structuur brengt in een technisch en organisatorisch nieuw terrein. Je helpt gebruikers actief, maar maakt tegelijkertijd duidelijk wat de grenzen en randvoorwaarden zijn. Je blijft nieuwsgierig naar nieuwe modellen en tooling, zonder iedere hype direct over te nemen. Daarbij begrijp je dat sommige toepassingen beter on-premise passen, terwijl andere verantwoord via commerciële voorzieningen kunnen worden aangeboden. Je kunt goed schakelen tussen experiment, implementatie en beheer en zorgt ervoor dat wat nodig is zorgvuldig wordt gedocumenteerd, zodat de voorziening overdraagbaar en onderhoudbaar blijft. Je betrekt collega’s actief, organiseert eigenaarschap en werkt resultaatgericht, waarbij je zichtbaar voortgang maakt.

Je past goed in deze rol als je technische implementaties kunt leiden in een complexe organisatie. Je hoeft niet alles zelf te bouwen, maar je moet wel voldoende technisch begrip hebben om goede vragen te stellen, afhankelijkheden te zien en keuzes te laten landen.

Waarom deze functie?

LLMs en AI ontwikkelen zich snel. De waarde voor het NFI ontstaat wanneer technologie veilig, betrouwbaar en praktisch toepasbaar wordt gemaakt voor forensisch werk. In deze rol verbind je experiment en toepassing met eigen infrastructuur, commerciële LLM-diensten, technische evaluatie, governance en actieve adoptie.

Hier kom je te werken

Meer over Divisie Digitale en Biometrische Sporen

DBS houdt zich voornamelijk bezig met forensisch onderzoek binnen geautomatiseerde systemen. Vele soorten software en hardware passeren hier de revue. De resultaten van onze onderzoeken spelen een belangrijke rol bij de opsporing en vervolging van misdrijven. DBS werkt niet alleen voor de politie en het Ministerie van Justitie en Veiligheid, maar ook voor de Koninklijke Marechaussee, de Fiscale Recherche en diverse internationale opdrachtgevers.

Subteam wachtwoordkraak-rekencluster

Je komt te werken in een subteam van ongeveer vijf enthousiaste engineers die het ons rekencluster bouwen en onderhouden. Op dit moment wordt het rekencluster grotendeels ingezet om wachtwoorden te kraken. Deze functie ligt in het verlengde daarvan: je benut dezelfde technische basis, maar richt je op de toepassing van LLMs, modeldeployment en AI-ondersteuning voor digitaal forensische werkzaamheden.

Binnen het subteam werk je nauw samen met collega’s die veel kennis hebben van high-performance computing, GPU-infrastructuur, Linux, en automatisering. Jij brengt daar kennis van LLMs, modeltoegang, evaluatie en adoptie aan toe. Door elkaars expertise te benutten, kom je samen tot robuuste en bruikbare oplossingen.

Samenwerken, kennis delen en elkaar helpen bij complexe technische vraagstukken zijn belangrijk in deze rol. Door je te verdiepen in de problemen waar collega’s en gebruikers tegenaan lopen, zorg je niet alleen voor betere oplossingen, maar ook voor borging van kennis binnen het team.

Werken bij de Rijksoverheid betekent een bijdrage leveren aan een beter Nederland. Dus ook aan een veilige en rechtvaardige samenleving voor iedereen. Justitie en Veiligheid verdedigt en beschermt de rechtsorde. Van beleid tot uitvoering. Het Nederlands Forensisch Instituut (NFI) is een agentschap van het ministerie van Justitie en Veiligheid en levert kwalitatief hoogwaardige forensische diensten met behulp van state-of-the-art technologie en wetenschap.
Gedreven NFI-professionals richten zich gezamenlijk op het tijdig leveren van begrijpelijke, objectieve en zo nodig multidisciplinaire forensische analyses, op meer dan dertig onderzoeksgebieden zoals DNA, pathologie en toxicologie, maar bijvoorbeeld ook digitale technologie en wapens. De resultaten spelen een belangrijke rol bij opsporing, vervolging en in rechtszaken. In alle gevallen houdt het NFI zich bezig met zaken die direct van invloed zijn op het dagelijks leven. Dat maakt werken voor het NFI zo bijzonder. Want recht raakt mensen.

Over de functiegroep Project-/Programmamanager

Door het Functiegebouw Rijk worden medewerkers en leidinggevenden geholpen bij het maken van resultaat- en ontwikkelafspraken in functioneringsgesprekken en krijgt men inzicht in de loopbaanmogelijkheden binnen de Rijksoverheid.