DevOps инженер для AI-платформы

ББР Банк; United States; Hybrid; USD 120,000 - 180,000; Full time

Benefits offered by this job

ДМС после испытательного срока

Страхование

Полный соцпакет

Job summary

ББР Банк ищет DevOps-инженера по инфраструктуре искусственного интеллекта для подготовки серверного, контейнерного и GPU контура, настройки Docker, CI/CD и мониторинга. Ваша задача — обеспечить стабильность развёртываний и orchestration для LLM/VLM и транскрибации, включая хранение и бэкапы.

Требуется 3–5+ лет опыта DevOps, уверенное владение Python/Bash для автоматизации, знание Prometheus, Grafana, Loki и OpenTelemetry, а также понимание LLM-инференса и векторных баз данных.

Qualifications

• Образование в области ИТ/инженерии и опыт разработки инфраструктуры для AI.
• Умение автоматизировать задачи на Python/Bash, знание Docker и CI/CD.
• Понимание LLM-инференса, RAG-пайплайнов и инструментов мониторинга.

Responsibilities

• Подготовка серверного и контейнерного контура для AI‑приложений и GPU‑контур.
• Настройка CI/CD для backend/frontend и сервисных компонентов.
• Настройка мониторинга (Prometheus/Grafana/Loki/OpenTelemetry) и логирования; обеспечение доступности сервисов.

Skills

Python scripting

Bash scripting

CI/CD practices

Monitoring & observability

Education

Высшее техническое образование

Tools

Docker

Docker multi-stage builds

CI/CD tooling

Prometheus

Grafana

Loki

OpenTelemetry

vLLM

LangChain

Vector databases

Job description

Описание:

Мы развиваем AI-платформу, где LLM/VLM, RAG-пайплайны и транскрибация должны работать стабильно и быстро. Ищем инженера, который возьмет на себя инфраструктуру: подготовит серверный, контейнерный и GPU-контур, настроит CI/CD, мониторинг, хранение и обеспечит поддержку после запуска.

Задачи:

подготовка и сопровождение серверного и контейнерного контура для AI-приложений, GPU-контура для LLM/VLM и отдельного сервера транскрибации. Настройка Docker/контейнеризации, переменных окружения и конфигураций. настройка CI/CD для backend, frontend и служебных компонентов проекта автоматизация на Python/Bash использование Docker multi-stage builds. настройка мониторинга, журналирования и метрик загрузки (Prometheus, Grafana, Loki, OpenTelemetry) проведение нагрузочных проверок анализ CPU/GPU/RAM и оптимизация окружения. настройка хранилища, резервного копирования, разделение горячих индексов и архива. поддержка развертываний сервисов, моделей ИИ и конфигураций стабилизация окружения перед запуском обработка инфраструктурных дефектов и инцидентов обновление конфигураций и контроль доступности сервисов. Подготовка эксплуатационной документации, регламентов поддержки и рекомендаций по промышленному масштабированию.

Требования:

• Высшее техническое образование, опыт DevOps от 3 до 5+ лет и успешные кейсы подготовки и сопровождения инфраструктуры, связанной с ИИ.
• Уверенное владение Python/Bash для автоматизации, Docker multi-stage builds, CI/CD, знание Prometheus, Grafana, Loki, OpenTelemetry.
• Понимание LLM-инференса, RAG-пайплайнов и vector databases.
• Будет плюсом: Опыт с vLLM, LangChain, работа в FinTech и с моделями ИИ - преимущество.

Условия:

• Офис, гибрид или удалёнка - подберём формат под вас.
• Пн-чт с 9:00 до 18:00, в пятницу до 16:45. Вечер пятницы остаётся вашим.
• ДМС после испытательного срока, страхование, полный соцпакет.
• Достойная оплата: зарплата обсуждается индивидуально и пересматривается ежегодно в зависимости от вашего вклада.
• Банк - это тысячи сервисов, критичных для клиентов. Ваша работа будет реально влиять на стабильность бизнеса.