devops engineer GPU-инфраструктуры

NDA; United States; Remote; USD 101,000 - 202,000; Full time

Job summary

NDA ищет опытного инженера DevOps/Platform, который возглавит небольшую команду и будет проектировать, разворачивать и эксплуатировать bare-metal GPU-инфраструктуру на локальных серверах. Важна бурная техническая дисциплина и практический опыт с GPU-ограниченной средой.

Кандидат развивает мониторинг, обеспечивает отказоустойчивость и оптимизирует затраты на GPU-ресурсы, работая с Linux, Kubernetes, Terraform и GitLab CI/CD. Требуется знание AWS/GCP на уровне failover и load-бalance.

Qualifications

• ОПЫТ руководства инженерной командой не менее 6 лет.
• Опыт работы с DevOps, Infrastructure или Platform Engineering.
• Опыт эксплуатации bare-metal/on-premise инфраструктуры.

Responsibilities

• Руководить небольшой командой DevOps/Infrastructure Engineers.
• Создавать и эксплуатировать bare-metal GPU-кластеры.
• Работать с физическими серверами, сетевой инфраструктурой, электропитанием и охлаждением.
• Управлять GPU-драйверами, прошивками и оборудованием.
• Работать с Kubernetes, Terraform, ArgoCD и GitLab CI.
• Поддерживать AWS и GCP для burst-нагрузок и failover.
• Эксплуатировать self-hosted LLM на локальных GPU-кластерах.
• Контролировать latency, throughput и стабильность сервисов.

Skills

Team leadership

Engineering mindset

Incident response

Tools

Linux

Docker

Kubernetes

Terraform

ArgoCD

GitLab CI/CD

Job description

Описание

Описания нет

Задачи

Руководить небольшой командой DevOps/Infrastructure Engineers Создавать и эксплуатировать bare-metal GPU-кластеры Работать с физическими серверами, сетевой инфраструктурой, электропитанием и охлаждением Управлять GPU-драйверами, прошивками и оборудованием Работать с Kubernetes, Terraform, ArgoCD и GitLab CI Поддерживать AWS и GCP для burst-нагрузок и failover Эксплуатировать self-hosted LLM: inference, fine-tuning и RAG-pайплайны Контролировать latency, throughput, использование памяти и стабильность сервисов Оптимизировать стоимость GPU-часа, токена и утилизацию кластеров Развивать мониторинг на базе Prometheus, Grafana и OpenTelemetry

Требования

От 6 лет опыта в DevOps, Infrastructure или Platform Engineering Практический опыт создания и эксплуатации bare-metal/on-premise-инфраструктуры Опыт работы с физическими серверами, стойками, сетевой инфраструктурой и GPU-оборудованием Глубокое понимание работы GPU, памяти и вычислительных ресурсов под нагрузкой Производственный опыт эксплуатации self-hosted open-weight LLM на локальных GPU-кластерах Уверенное знание Linux, Docker и Kubernetes Практический опыт с Terraform и ArgoCD или аналогичными инструментами GitOps Опыт разработки и поддержки GitLab CI/CD-пайплайнов Опыт работы с AWS или GCP Знание Prometheus, Grafana и OpenTelemetry Опыт работы с SLO, error budgets, инцидентами и постмортемами Опыт руководства инженерной командой с сохранением практического участия Свободный русский язык Английский от B2 Опыт исключительно с managed cloud не подходит. Нужен специалист, который лично создавал и эксплуатировал bare-metal/on-premise и GPU-инфраструктуру Будет плюсом: Hugging Face, LoRA или QLoRA, Qdrant, Pinecone или Weaviate, Ansible или Pulumi, Slurm и Kubernetes GPU Operator, опыт работы с GPU-стойками высокой плотности, планирование электропитания и охлаждения для AI/ML-инфраструктуры

Условия

Локации: Сербия, Португалия, Испания, Польша, ОАЭ