AI Platform Engineer for LLM Benchmarking & Pipelines

NDA; United States; Remote; USD 150,000 - 240,000; Full time

Job summary

Plexus ищет специалиста по инфраструктуре ИИ для поддержки ранней стадии проекта по оценке генеративных моделей. Вы будете строить масштабируемые конвейеры, работать с API LLM и данными клиентов, обеспечивая безопасность и отказоустойчивость.

У кандидата должны быть сильные навыки Python, опыт работы с облачными сервисами и контейнеризацией. Готовность работать в быстром стартап‑окружении обязательно.

Qualifications

• Опыт создания AI-систем и инфраструктуры в продакшене.
• Сильные навыки Python или сопоставимого языка и бэкенд/раскрытие распределенных систем.
• Практический опыт работы с LLM-API и моделямиopen или саморазвернутыми.
• Опыт работы с AWS, GCP или Azure; Docker/Kubernetes; инфраструктура как код.

Responsibilities

• Создавать масштабируемые конвейеры для выполнения бенчмарков, оценок и агрегации результатов по нескольким поставщикам LLM.
• Разрабатывать системы, которые формируют на запрос заказчика кастомные оценки на основе его данных.
• Проектировать безопасные многоарендные сервисы и API, соответствующие требованиям конфиденциальности.
• Владеть оркестрацией, наблюдением, производительностью и затратами по мере роста использования.

Skills

Python

Backend systems

Distributed systems

Tools

LLM APIs

Docker

Kubernetes

IaC

Job description

Plexus ищет специалиста по инфраструктуре ИИ для поддержки ранней стадии проекта по оценке генеративных моделей. Вы будете строить масштабируемые конвейеры, работать с API LLM и данными клиентов, обеспечивая безопасность и отказоустойчивость.

У кандидата должны быть сильные навыки Python, опыт работы с облачными сервисами и контейнеризацией. Готовность работать в быстром стартап‑окружении обязательно.