Research Engineer, Novel AI Platforms for Multiscale Alignment

Future of Life Foundation; United States; Remote; USD 120,000 - 180,000; Full time

Job summary

Effectief Altruisme zoekt een onderzoeksgerichte rol om baanbrekende AI-platforms en agent-systemen te ontwikkelen die alignment-uitdagingen adresseren. De functie combineert infrastructuur engineering met veiligheidsonderzoek en vereist het ontwerpen van veerkrachtige multi-agent omgevingen en veilige communicatie tussen agentschappen.

U werkt aan het valideren van alignment-benaderingen met robuste tests en draagt bij aan de ontwikkeling van stappenplannen en tech-middelen die onderzoekers in

Responsibilities

• Design en implementeer architecturen voor multi-agent uitvoering omgevingen, conflictoplossingsmechanismen en samenwerkende AI-systemen met alignement-eigenschappen.
• Ontwikkel optimalisatie-algoritmes, testsystemen en middleware-componenten om theoretische alignment-aanpakken te valideren en veilige agentcommunicatie mogelijk te maken.

Job description

Develop novel AI platforms and agent systems addressing alignment challenges while combining infrastructure engineering with safety research.

• Design and implement architectures for multi-agent execution environments, conflict resolution mechanisms, and cooperative AI systems with alignment properties.
• Develop optimization algorithms, testing frameworks, and middleware components to validate theoretical alignment approaches and facilitate secure agent communication.
• Build reusable softwa…

Veel ideeën om AI-systemen veilig te laten samenwerken bestaan nog vooral op papier, omdat er geen goede omgeving is om ze te testen. Jij bouwt die testomgevingen, en andere onderzoekers in AI-veiligheid gebruiken ze daarna om hun theorieën aan werkende systemen te toetsen.