QA & AI Evaluation Engineer (AIHUB) - Kantoor Antwerpen

Delen Private Bank; Antwerpen; On-site; EUR 70,000 - 110,000; Full time

Benefits offered by this job

Hospitalisatieverzekering

Tandzorgverzekering

Groepsverzekering

GSM-abonnement

Optionplan

Extra verlofdagen

Restaurant met verse maaltijden

Mobiliteitsbudget

Job summary

Delen Private Bank zoekt een QA & AI Evaluation Engineer voor het AIHub Platform. Je bewaakt kwaliteit, betrouwbaarheid en veiligheid van AI-toepassingen en definieert evaluatiecriteria, datasets en geautomatiseerde tests.

Je werkt samen met AI Engineers, developers en business analysts om processen en pipelines te verbeteren. Je voert adversarial testing uit, beheert regressietests bij model-upgrades en bewaakt monitoring en drift.

Qualifications

• Verstehen van QA voor AI/LLM toepassingen.
• Begrip van evaluatiecriteria en teststrategie.
• Ervaring met niet-deterministische systemen en drift.

Responsibilities

• Ontwikkelen en onderhouden van evaluation datasets en regels.
• Kalibreren van LLM-as-a-judge evaluaties.
• Uitvoeren functionele en non-functionele tests op API’s en integraties.
• Beheren van testcases en regressietests bij model-upgrades.
• Documenteren bevindingen en communiceren met stakeholders.

Skills

QA Engineer

Python

API testing

Azure DevOps

SQL / JSON

Tools

Postman

OpenAPI

LLM evaluation

Job description

Delen Private Bank is gespecialiseerd in discretionair vermogensbeheer en vermogensplanning. Onze missie? Het vermogen van onze klanten op een actieve en doordachte manier beheren en plannen, met het oog op een evenwichtige groei en een vlotte overdracht naar de volgende generaties. Persoonlijk contact, een langetermijnvisie en een duurzame aanpak kenmerken onze filosofie. Groep Delen is actief in vijf landen en telt meer dan 1000 medewerkers.

Als QA & AI Evaluation Engineer waak je over de kwaliteit, betrouwbaarheid en veiligheid van het AIHub Platform. Dit is het centrale, intern ontwikkelde AI-platform van Delen Private Bank, dat geïntegreerd is in de processen en systemen van de bank.

AI-oplossingen gedragen zich niet altijd voorspelbaar. Daarom gaat kwaliteit hier verder dan alleen de vraag: “Werkt de functionaliteit zoals bedoeld?” Jij bepaalt hoe we meten of een AI-toepassing correct, consistent, veilig en bruikbaar is. Daarnaast zorg je ervoor dat dit ook zo blijft na wijzigingen aan modellen, prompts of data.

Je werkt nauw samen met AI Engineers, developers, business analysts, domeinexperten en stakeholders. Daarbij combineer je sterke QA-expertise met analytisch inzicht in AI-systemen. Je vertaalt verwachtingen vanuit de business naar meetbare evaluatiecriteria, bouwt en onderhoudt evaluation datasets en integreert geautomatiseerde evaluaties in onze delivery pipelines.

Verantwoordelijkheden

• Je werkt samen met business analysts en domeinexperten om verwachtingen rond het gedrag van AI te vertalen naar meetbare acceptatie- en evaluatiecriteria.
• Je definieert evaluation datasets (golden datasets) die realistische gebruiksscenario’s weerspiegelen, inclusief edge cases en failure scenarios.
• Je bepaalt evaluation rules, zowel:
• deterministisch: bijvoorbeeld format validation, schema checks, exacte of gestructureerde matches, verplichte bronvermelding en correcte tool calls;
• non-deterministisch: bijvoorbeeld LLM-as-a-judge, semantic similarity, groundedness en relevance.
• Je kalibreert LLM-as-a-judge evaluations ten opzichte van menselijke beoordelingen, zodat geautomatiseerde scores betrouwbaar blijven.
• Je helpt mee de evaluation strategy, coverage en quality thresholds te bepalen, zowel per use case als voor het platform als geheel.
• Je voert functionele en non-functionele tests uit op verschillende platformcomponenten, zoals API’s, integraties, dataverwerking en user interfaces.
• Je test agentic flows, waaronder correcte tool selection, parameters, multi-turn behaviour en error handling.
• Je voert adversarial testing en red teaming uit, bijvoorbeeld rond prompt injection, jailbreaks, het lekken van vertrouwelijke of persoonlijke gegevens en ongewenste of misleidende output.
• Je valideert of guardrails en content filters correct werken.
• Je registreert bugs in Azure DevOps, volgt de oplossing ervan actief op en valideert opgeloste issues.
• Je faciliteert UAT-sessies met eindgebruikers en verzamelt gestructureerde feedback.
• Je monitort regression bij model upgrades en prompt changes en vergelijkt verschillende versies op een objectieve manier.
• Je onderhoudt evaluation datasets op basis van online evaluations en feedback uit productie. Onvoorziene edge cases zet je om in permanente test cases binnen de standaard eval sets.
• Je volgt de kwaliteit in productie op via monitoring & tracing, bijvoorbeeld aan de hand van quality scores, drift en gebruikersfeedback, en signaleert achteruitgang tijdig.
• Je gebruikt zelf AI tooling om test cases en synthetische testdata te genereren en resultaten sneller te analyseren.
• Je helpt bij het uitbouwen van herbruikbare evaluation standards, templates en guidelines, zodat teams die op AIHub bouwen zelf de kwaliteit van hun use cases kunnen meten.
• Je schrijft annotation guidelines en betrekt domeinexperten bij het reviewen en labelen van output.
• Je communiceert bevindingen helder naar zowel technische als niet-technische stakeholders.
• Je hebt een uitstekende kennis van het Nederlands en een goede kennis van het Engels. Kennis van het Frans is een plus, onder andere met het oog op meertalige evaluaties.
• Je hebt ervaring als QA Engineer binnen een agile IT-omgeving en beschikt over sterke analytische vaardigheden.
• Je hebt hands-on ervaring met het testen of evalueren van LLM applications, of je kunt aantonen dat je binnen dit domein al een sterke maturiteit hebt opgebouwd.
• Je begrijpt de uitdagingen van non-deterministic systems en weet hierover op een betrouwbare en statistisch onderbouwde manier te rapporteren.
• Je hebt een kritische en creatieve “break it”-mindset waarmee je actief op zoek gaat naar edge cases en abuse scenarios.
• Je werkt nauwkeurig, gestructureerd en kwaliteitsgericht.
• Je bent een echte teamplayer met uitstekende communicatieve vaardigheden.

Basiskennis van of ervaring met

• Python voor test automation en evaluation scripts, bijvoorbeeld pytest;
• concepten zoals RAG, embeddings, prompt engineering, agents en tool calling;
• API testing, bijvoorbeeld met Postman, REST en OpenAPI;
• Azure DevOps voor test management en CI/CD;
• SQL / JSON voor het valideren van data en interfaces;
• ervaring met of affiniteit voor de (private) banking sector;
• Agile ways of working, zoals Scrum en Kanban.

Wij bieden

• Aantrekkelijke voorwaarden: je ontvangt een competitief salaris aangevuld met een uitgebreid pakket extralegale voordelen, zoals hospitalisatie- en tandzorgverzekering, groepsverzekering, ecocheques, gsm met abonnement, optieplan, extra verlofdagen (bank holidays), Benefits at Work, restaurant met versbereide maaltijden, keuze uit bedrijfswagen of andere (mobiliteits)oplossingen via het mobiliteitsbudget.
• Ontwikkelkansen & intrapreneurship: jouw groei staat centraal. We luisteren naar je ambities en helpen je actief om stappen te zetten binnen onze organisatie. Via opleidingen, interne mobiliteit en intrapreneurship krijg je de ruimte om jezelf te ontwikkelen en nieuwe uitdagingen aan te gaan. Jij bent de architect van je loopbaan – wij zorgen voor de juiste ondersteuning.
• Persoonlijke aanpak: als familiebedrijf sinds 1936 geloven we in de kracht van een persoonlijke aanpak. Je werkt in een warme en betrokken omgeving waar je écht gezien wordt. Dankzij onze vlakke structuur zijn de lijnen kort en is de directie – inclusief de familie – bereikbaar en betrokken. Ideeën krijgen snel gehoor, beslissingen worden doortastend genomen.
• Collegiale sfeer: samenwerken zit in ons DNA. Je komt terecht in een hecht team waar collega’s elkaar ondersteunen, kennis delen en elkaar motiveren. We werken in een open en toegankelijke sfeer aan gedeelde doelen – met succes én met ruimte voor humor.
• Duurzame samenwerking: we bouwen aan relaties voor de lange termijn – met onze klanten én onze medewerkers. Ons zeer laag personeelsverloop is daar het bewijs van. Dankzij een cultuur van vertrouwen, open communicatie en stabiliteit krijg je de kans om samen met ons te groeien.