Une candidature complète en une minute
Un CV et une lettre de motivation personnalisés, prêts à envoyer.
Effectief Altruisme is seeking a lead AI evaluation researcher to drive investigations into system behaviors, vulnerabilities, and defenses for enterprise and frontier-lab environments. You will design and execute bespoke evaluations, from threat modeling to scoring and reporting, and push forward autonomous red-teaming capabilities.
The role focuses on research into AI failure modes, capability elicitation, and mitigations across modern AI architectures, including RAG pipelines and multi-agent
Lead research on AI system behavior, vulnerabilities, and defenses through custom evaluations and autonomous red-teaming for enterprises and frontier labs.
- Design and build end-to-end AI evaluations for labs and enterprises, from threat modeling to scoring and reporting. - Research AI failure modes, capability elicitation, and mitigations across models, RAG pipelines, agents, and multi-agent systems. - Advance autonomous red-teaming techniques and develop methods to assess evaluation covera…
Een goede testmethode gebruik je niet één keer. Vind je een manier om te meten hoe een AI-systeem ontspoort of misbruikt kan worden, dan kunnen de labs die de krachtigste modellen bouwen die test bij elk nieuw model opnieuw draaien, net als andere onderzoekers in AI-veiligheid. Of dat systemen veiliger maakt, hangt wel af van wat die labs en bedrijven met de uitkomsten doen.