руководитель ML/AI-платформы

Циан; United States; On-site; USD 180,000 - 260,000; Full time

Benefits offered by this job

ДМС с первого рабочего дня (стоматолог

Госпитализация и страхование путешеств

5 дополнительных дней отдыха в год

Кухни/снеки/кофе

Кафетерий Aladdin и PrimeZone

Денежный депозит 25 000 рублей на фитн

Компенсация 10 рабочих дней больничных

Job summary

HireHi ищет лидера ML/LLM-платформы для управления внутренним продуктом, обеспечения инфраструктуры и безопасности. Ваша задача — развивать опытную команду, оптимизировать GPU-ресурсы, обеспечивать масштабируемость и взаимодействовать с топ-менеджментом.

Кандидат должен иметь подтвержденный опыт в MLOps, Kubernetes и архитектуре LLM-решений, а также навыки планирования бюджета и реализации проектов в условиях регуляторных требований.

Qualifications

• Опыт руководства ML- или LLM-платформой или инфраструктурной командой

Responsibilities

• Развитие LLM-платформы как внутреннего продукта, управление стоимостью и квотами
• Ответственность за GPU-ёмкость, размещение, окупаемость и бюджет CAPEX/OPEX
• Руководство командой инженеров, найм и развитие сотрудников
• Обеспечение безопасности данных, соответствие требованиям 152-ФЗ и prompt injection
• Работа с SRE, инфраструктурой и Data Platform по данным, Kafka и вычислениям
• Формирование стратегии развития ML/AI-платформы

Skills

Управление ML-платформой

MLOps

Kubernetes

GPU-инфраструктура

Коммуникации с топ-менеджментом

бюджетирование

Архитектура LLM

Education

Высшее образование в области информатики/ИИ

Tools

Kubernetes

Kafka

Spark

Kubeflow

NLP/LLM-инструменты

Job description

Описание

Описание: Циан развивает продукт о недвижимости с несколькими типами недвижимости и сделок, сервисами, информационными материалами и собственным медиа. AI-платформа обеспечивает ML- и LLM-инфраструктуру для продуктовых команд и внутренних пользователей: поддерживает жизненный цикл около 150 моделей в производственной среде, предоставляет шлюз к внешним и собственным LLM, инференс на GPU и корпоративного AI-ассистента.

Задачи

Задачи: Развивать LLM-платформу как внутренний продукт: шлюз к моделям с учётом квот и стоимости, инференс в собственном контуре, выбор и оценку моделей, защиту чувствительных данных и инфраструктуру для агентских сценариев Переводить продуктовые интеграции с внешних LLM на модели в собственном контуре и модели российских провайдеров Отвечать за GPU-мощности: планировать ёмкость, размещение с резервированием, выбор между арендой и собственным оборудованием, расчёт окупаемости и бюджет капитальных и операционных расходов Поддерживать и развивать ML-платформу: Kubernetes, реестр моделей, обслуживание моделей, обновления с учётом требований безопасности, наблюдаемость и надёжность Выстраивать обработку запросов к платформе: единую точку приёма, приоритизацию, границы ответственности платформы и прикладных решений, документацию для самообслуживания Руководить командой, нанимать и развивать инженеров Взаимодействовать с информационной безопасностью по персональным данным, 152-ФЗ и prompt injection, а также с SRE, инфраструктурой и Data Platform по данным, Kafka и вычислениям Формировать и защищать стратегию развития ML/AI-платформы

Требования

Требования: Опыт руководства ML- или LLM-платформой либо инфраструктурной командой Практическое понимание инфраструктуры LLM: serving, ограничения и утилизация GPU, производительность, стоимость токена, оценка качества моделей, выбор между собственными моделями и внешним API Опыт MLOps: Kubernetes, реестр и отслеживание моделей, CI/CD моделей, эксплуатация большого числа моделей Умение управлять внутренним продуктом, переводить размытые запросы в задачи с критериями результата, отказывать с предложением альтернативы и удерживать фокус команды на 2–3 главных целях Уверенная коммуникация с топ-менеджментом и заказчиками Опыт работы с требованиями безопасности и регулирования, умение договариваться об этапности Финансовая грамотность: бюджетирование, обоснование закупок оборудования и найма, прогнозирование потребления Будет плюсом: опыт миграции с зарубежных LLM API на собственный хостинг или российских провайдеров, опыт работы с агентскими платформами, MCP, автономными агентами, маршрутизацией LLM, кэшированием KV-cache, NLP и оценкой моделей, выявлением и маскированием персональных данных, эталонными наборами данных, бенчмаркингом моделей, наймом LLM/GPU-инженеров и построением ML-гильдии или центра экспертизы, знакомство с Kafka, Spark, Feast, JupyterHub и Kubeflow

Условия

• Удалённая работа с возможностью посещать офисы
• Офисы в Москве, Санкт-Петербурге и Новосибирске
• Кухни, снеки, фрукты, кофе и чай, тихие комнаты
• Ментор в первые месяцы, затем личный план развития и возможность развивать профессиональные и гибкие навыки на практике, обучении и конференциях
• ДМС с первого рабочего дня, включая стоматологию, госпитализацию и страховку для поездок за пределы страны
• 5 Дополнительных дней отдыха в год
• Кафетерий льгот Aladdin и PrimeZone
• Денежный депозит 25 000 рублей на фитнес, обучение, развлечения, консультации специалистов, покупки и подарки
• Компенсация 10 рабочих дней больничного в год после испытательного срока