Horizon Scanner, Scalable Alignment

Effectief Altruisme; United States; Remote; USD 45,000 - 67,000; Part time

Job summary

Effectief Altruisme zoekt een freelancer voor een vier maanden durend betaald contract om horizon-scouting en sensemaking uit te voeren op AI-veiligheidsonderzoeken. Je onderzocht vier programma's: Alignment Targets, Understanding Agents, Philosophy of AI Alignment Science en Post-AGI Resilience, en identificeert opkomende richting, lacunes en kansen voor de programmascope.

Je voert geen eigen onderzoek uit; wel bepaal je welke vragen en opties in overweging worden genomen, zodat onderzoekers en

Responsibilities

• Voert horizon-scouting en sensemaking uit over AI-veiligheidsonderzoeken.
• Identificeert opkomende richting, lacunes en kansen voor de programmascope.
• Ondersteunt programma-strategie door gerichte vragen en opties aan te dragen.

Job description

Four-month paid contract conducting horizon scanning and sensemaking across interdisciplinary AI alignment research programs.

• Conduct sensemaking and horizon scanning on scalable alignment approaches within one of four programs: Alignment Targets, Understanding Agents, Philosophy of AI Alignment Science, or Post-AGI Resilience.
• Identify emerging research directions, gaps, and opportunities to inform program scope and strategy.
• Successful contractors may be offered extension and promotio…

Je doet hier niet zelf het onderzoek, maar zoekt uit welke vragen in AI-veiligheid – het vakgebied dat krachtige AI-systemen beheersbaar wil houden – nog door niemand worden opgepakt. Met die kaart kiest een heel programma waar onderzoekers en geld naartoe gaan, en hoewel de programmaleiding beslist, bepaal jij mee welke opties er überhaupt op tafel liggen.