AI Researcher, AI Safety & Security

Tinycode

United States

À distance

USD 120 000 - 180 000

Plein temps

Il y a 4 jours
Soyez parmi les premiers à postuler

Une candidature complète en une minute

Un CV et une lettre de motivation personnalisés, prêts à envoyer.

Passez les filtres ATS

Résumé du poste

Effectief Altruisme is seeking a lead AI evaluation researcher to drive investigations into system behaviors, vulnerabilities, and defenses for enterprise and frontier-lab environments. You will design and execute bespoke evaluations, from threat modeling to scoring and reporting, and push forward autonomous red-teaming capabilities.

The role focuses on research into AI failure modes, capability elicitation, and mitigations across modern AI architectures, including RAG pipelines and multi-agent

Responsabilités

  • Lead research on AI system behavior, vulnerabilities, and defenses through custom evaluations and autonomous red-teaming for enterprises and frontier labs.
  • Design and build end-to-end AI evaluations for labs and enterprises, from threat modeling to scoring and reporting.
  • Research AI failure modes, capability elicitation, and mitigations across models, RAG pipelines, agents, and multi-agent systems.
  • Advance autonomous red-teaming techniques and develop methods to assess evaluation coverage.

Description du poste

Lead research on AI system behavior, vulnerabilities, and defenses through custom evaluations and autonomous red-teaming for enterprises and frontier labs.

- Design and build end-to-end AI evaluations for labs and enterprises, from threat modeling to scoring and reporting. - Research AI failure modes, capability elicitation, and mitigations across models, RAG pipelines, agents, and multi-agent systems. - Advance autonomous red-teaming techniques and develop methods to assess evaluation covera…

Een goede testmethode gebruik je niet één keer. Vind je een manier om te meten hoe een AI-systeem ontspoort of misbruikt kan worden, dan kunnen de labs die de krachtigste modellen bouwen die test bij elk nieuw model opnieuw draaien, net als andere onderzoekers in AI-veiligheid. Of dat systemen veiliger maakt, hangt wel af van wat die labs en bedrijven met de uitkomsten doen.

Obtenez votre examen gratuit et confidentiel de votre CV.

ou faites glisser et déposez votre fichier ici.

Similar jobs

Postes similaires à comparer

AI Evaluation & Agent Systems Engineer
AI Evaluation & Agent Systems Engineer

Syntony • États-Unis

À distance
USD 120 000 - 190 000
AI Safety Researcher: Red-Teaming & System Evaluations
AI Safety Researcher: Red-Teaming & System Evaluations

Tinycode • États-Unis

À distance
USD 120 000 - 180 000
Researcher, AI Safety
Researcher, AI Safety

Future of Life Foundation • États-Unis

Hybride
USD 90 000 - 160 000
Technical Specialist, AI Safety
Technical Specialist, AI Safety

Effectief Altruisme • États-Unis

À distance
USD 120 000 - 180 000
Research Scientist, Manipulation Evals
Research Scientist, Manipulation Evals

Effectief Altruisme • États-Unis

À distance
USD 110 000 - 160 000
Software Engineer, AI Safety & Security Platform
Software Engineer, AI Safety & Security Platform

Tinycode • États-Unis

À distance
USD 140 000 - 210 000
Research Scientist, Member of Technical Staff
Research Scientist, Member of Technical Staff

Effectief Altruisme • États-Unis

À distance
USD 70 000 - 120 000
Senior Technical Specialist, AI Risk Assessment
Senior Technical Specialist, AI Risk Assessment

Future of Life Foundation • États-Unis

À distance
USD 120 000 - 180 000
Lead Research Scientist
Lead Research Scientist

Neo Research • États-Unis

À distance
USD 180 000 - 240 000
AI Evaluation & Agent Behavior Engineer
AI Evaluation & Agent Behavior Engineer

Effectief Altruisme • États-Unis

À distance
USD 120 000 - 190 000