Senior Advisor, Advanced Guardrails for AI-Induced Incidents

Effectief Altruisme; United States; Remote; USD 120,000 - 170,000; Full time

Job summary

Effectief Altruisme zoekt een ervaren beleidsadviseur AI-systeem risico's en verlies van controle, gericht op onderzoek en stakeholderbetrokkenheid. U leidt onderzoek naar AI-mogelijkheden, risico's en verlies van controle; beoordeelt technische en institutionele preventiestrategieën en vertaalt resultaten naar beleidsadviezen.

U werkt samen met onderzoekers, AI-ontwikkelaars en overheidsvertegenwoordigers en organiseert workshops en gestructureerde analyses.

Qualifications

• Lead research on AI capabilities, risks, and loss-of-control scenarios.
• Translate technical research into actionable policy recommendations and contribute to publications.

Responsibilities

• Advise on AI loss-of-control prevention, safeguards, and incident response strategies through research and stakeholder engagement.
• Engage researchers, AI developers, and government stakeholders; convene expert workshops and structured analytical exercises.

Skills

Research leadership

Stakeholder engagement

Policy analysis

Job description

Advise on AI loss-of-control prevention, safeguards, and incident response strategies through research and stakeholder engagement.

• Lead research on AI capabilities, risks, and loss-of-control scenarios; assess technical and institutional prevention approaches.
• Engage researchers, AI developers, and government stakeholders; convene expert workshops and structured analytical exercises.
• Translate technical research into actionable policy recommendations and contribute to publications and b…

Overheden hebben nog nauwelijks een draaiboek voor het moment dat een AI-systeem zich onverwacht aan menselijke controle onttrekt. Wie nu de eerste analyses en noodprocedures opstelt en die vertaalt naar adviezen voor beleidsmakers, bepaalt waarschijnlijk mee hoe zulke regels er straks uitzien. Het blijft wel advies: de beslissing ligt bij anderen.