Research Scientist, Manipulation Evals

Effectief Altruisme; United States; Remote; USD 110,000 - 160,000; Full time

Job summary

Effectief Altruisme in de Verenigde Staten zoekt een Lead-end-to-end onderzoeker die verantwoordelijk is voor evaluaties van schadelijke AI-manipulatie voor reglementaire en publieke bruikbaarheid.

U ontwerpt en rapporteert onderzoeksstrategieën, werkt samen met onafhankelijke onderzoekers en toezichthouders om bevindingen reproduceerbaar te maken en vertaalt inzichten naar beleid, aanbevelingen en praktische richtlijnen.

Job description

Lead end-to-end research on evaluations of harmful AI manipulation for regulatory and public use.

Toezichthouders kunnen alleen regels handhaven voor wat ze kunnen meten, en of een AI-model mensen manipuleert, is nog nauwelijks betrouwbaar te meten. Een test die je hier ontwerpt, kunnen toezichthouders en andere onderzoekers op elk nieuw model herhalen. Zo kan één onderzoek bepalen waarop elk volgend model wordt getoetst.