AI-архитектор

Selectel; United States; In loco; USD 90.000 - 130.000; Tempo pieno

Descrizione del lavoro

HireHi ищет специалиста по развитию платформы и сервисов для работы с AI/LLM в рамках внутрненних сервисов. Ваша задача — развивать инфраструктуру, внедрять новые возможности и дорабатывать существующие компоненты, а также создавать инструменты для эффективной эксплуатации AI-сервисов.

Требуется самостоятельность в реализации изменений, умение проектировать архитектуру и подбирать техничeские решения. График 5/2, работа внутри компании, акцент на стабильности и мониторинге.

Competenze

• Опыт эксплуатации Kubernetes в промышленной среде и управления инфраструктурой AI/LLM
• Опыт работы с GPU-стеком NVIDIA и GPU-инфраструктурой
• Опыт работы с vLLM или SGLang и OpenAI-совместимыми API
• Навыки сетевой инфраструктуры и мониторинга
• Опыт разработки внутренних инструментов на Go или Python
• Способность независимо сопровождать и развивать сервис целиком

Mansioni

• Развивать платформу и сервисы, внедрять новые возможности и улучшать существующие компоненты
• Создавать и развивать внутренние инструменты для работы с AI-сервисами
• Самостоятельно реализовывать изменения и доработки
• Готовить технические задания для смежных команд
• Участвовать в проектировании и развитии архитектуры платформы
• Выбирать и внедрять новые технические решения
• Обеспечивать стабильную и бесперебойную работу сервиса
• Мониторить состояние платформы и анализировать производительность
• Сопровождать сервисы запуска и обслуживания моделей
• Развивать инфраструктуру GPU
• Настраивать маршрутизацию запросов и отказоустойчивость
• Сопровождать многомодельную архитектуру платформы
• Изучать опыт использования платформы, собирать и анализировать обратную связь
• Помогать командам при подключении и интеграции сервиса
• Готовить и поддерживать техническую и пользовательскую документацию, описывать процессы, ограничения и рекомендации по использованию

Conoscenze

Kubernetes

AI/LLM infra

NVIDIA GPU

Go or Python

OpenAI API

Networking

Monitoring

Strumenti

vLLM

SGLang

Prometheus

Docker

Descrizione del lavoro

Описание: Платформа и сервисы предоставляют внутренним пользователям AI-сервисы и инструменты для работы с ними.

Задачи

• Развивать платформу и сервисы, внедрять новые возможности и улучшать существующие компоненты
• Создавать и развивать внутренние инструменты для работы с AI-сервисами
• Самостоятельно реализовывать изменения и доработки
• Готовить технические задания для смежных команд
• Участвовать в проектировании и развитии архитектуры платформы
• Выбирать и внедрять новые технические решения
• Обеспечивать стабильную и бесперебойную работу сервиса
• Мониторить состояние платформы и анализировать производительность
• Сопровождать сервисы запуска и обслуживания моделей
• Развивать инфраструктуру GPU
• Настраивать маршрутизацию запросов и отказоустойчивость
• Сопровождать многомодельную архитектуру платформы
• Изучать опыт использования платформы, собирать и анализировать обратную связь
• Помогать командам при подключении и интеграции сервиса
• Готовить и поддерживать техническую и пользовательскую документацию, описывать процессы, ограничения и рекомендации по использованию

Требования

• Опыт промышленной эксплуатации Kubernetes и работы с инфраструктурой AI/LLM
• Знание GPU-инфраструктуры и стека NVIDIA
• Опыт работы с vLLM или SGLang
• Опыт работы с OpenAI-совместимыми API
• Опыт работы с сетевой инфраструктурой и системами мониторинга
• Опыт разработки внутренних инструментов на Go или Python
• Способность самостоятельно сопровождать и развивать сервис целиком

Условия

График 5/2