AI-платформенный архитектор: GPU, Kubernetes и LLM

Selectel; United States; Remote; USD 90,000 - 130,000; Full time

Job summary

HireHi ищет специалиста по развитию платформы и сервисов для работы с AI/LLM в рамках внутрненних сервисов. Ваша задача — развивать инфраструктуру, внедрять новые возможности и дорабатывать существующие компоненты, а также создавать инструменты для эффективной эксплуатации AI-сервисов.

Требуется самостоятельность в реализации изменений, умение проектировать архитектуру и подбирать техничeские решения. График 5/2, работа внутри компании, акцент на стабильности и мониторинге.

Qualifications

• Опыт эксплуатации Kubernetes в промышленной среде и управления инфраструктурой AI/LLM
• Опыт работы с GPU-стеком NVIDIA и GPU-инфраструктурой
• Опыт работы с vLLM или SGLang и OpenAI-совместимыми API
• Навыки сетевой инфраструктуры и мониторинга
• Опыт разработки внутренних инструментов на Go или Python
• Способность независимо сопровождать и развивать сервис целиком

Responsibilities

• Развивать платформу и сервисы, внедрять новые возможности и улучшать существующие компоненты
• Создавать и развивать внутренние инструменты для работы с AI-сервисами
• Самостоятельно реализовывать изменения и доработки
• Готовить технические задания для смежных команд
• Участвовать в проектировании и развитии архитектуры платформы
• Выбирать и внедрять новые технические решения
• Обеспечивать стабильную и бесперебойную работу сервиса
• Мониторить состояние платформы и анализировать производительность
• Сопровождать сервисы запуска и обслуживания моделей
• Развивать инфраструктуру GPU
• Настраивать маршрутизацию запросов и отказоустойчивость
• Сопровождать многомодельную архитектуру платформы
• Изучать опыт использования платформы, собирать и анализировать обратную связь
• Помогать командам при подключении и интеграции сервиса
• Готовить и поддерживать техническую и пользовательскую документацию, описывать процессы, ограничения и рекомендации по использованию

Skills

Kubernetes

AI/LLM infra

NVIDIA GPU

Go or Python

OpenAI API

Networking

Monitoring

Tools

vLLM

SGLang

Prometheus

Docker

Job description

HireHi ищет специалиста по развитию платформы и сервисов для работы с AI/LLM в рамках внутрненних сервисов. Ваша задача — развивать инфраструктуру, внедрять новые возможности и дорабатывать существующие компоненты, а также создавать инструменты для эффективной эксплуатации AI-сервисов.

Требуется самостоятельность в реализации изменений, умение проектировать архитектуру и подбирать техничeские решения. График 5/2, работа внутри компании, акцент на стабильности и мониторинге.