Technical Specialist, AI Safety

Effectief Altruisme; United States; Remote; USD 120,000 - 180,000; Full time

Job summary

Cedar Research zoekt onderzoekers op het gebied van AI-veiligheid om catastrophische risico's te onderzoeken en bevindingen openbaar te maken. De rol omvat technisch onderzoek, coderen en publiceren van bevindingen ter ondersteuning van veiliger AI-systemen.

De kandidaat levert zowel onderzoeks- als engineering-werk en werkt aan onderwerpen zoals databreker-kwetsbaarheden in AI-gestuurde systemen, met een focus op verantwoorde vooruitgang en transparantie binnen de gemeenschap.

Job description

Research AI catastrophic risks through technical investigation, coding, and publication of findings.

• Investigate AI-enabled threats like mass surveillance and loss-of-control scenarios; conduct both technical research and engineering work.
• Write code and research papers on topics such as data-broker industry vulnerabilities amplified by AI systems.
• Requires AI engineering experience and proficiency with Claude Code, Codex, or equivalent AI-assisted development tools.
• Strong AI safety…

Cedar Research publiceert zijn code, methoden en artikelen openlijk, zodat andere onderzoeksteams erop voortbouwen in plaats van hetzelfde opnieuw uit te zoeken. Nog weinig mensen onderzoeken concreet hoe AI bestaande zwakke plekken, zoals de handel in persoonsgegevens, geschikt maakt voor massasurveillance. Eén goed onderbouwde bevinding weegt daar waarschijnlijk zwaarder dan in een druk vakgebied.