DevOps для AI-инфраструктуры на Kubernetes + GPU

NDA; United States; Remote; USD 56,000 - 100,000; Full time

Job summary

NDA ищет специалиста по развёртыванию и эксплуатации инфраструктуры на базе Kubernetes с поддержкой NVIDIA GPU для ML/AI нагрузок на крупном предприятии металлургической отрасли.

Обязанности: развёртывать и администрировать кластеры на bare metal, настраивать Docker, выстраивать конвейеры GitLab CI/CD, управлять GPU/CUDA и поддерживать ML inference сервисы (vLLM, Ollama, Triton), а также мониторинг через Prometheus и Grafana.

Qualifications

• Уверенно администрировать Linux (Ubuntu Server).
• Практический опыт Docker и Kubernetes.
• Опыт работы с Helm.
• Уверенно владеть GitLab CI/CD и GitLab Container Registry.
• Опыт работы с NVIDIA GPU и CUDA.
• Знать NVIDIA Container Toolkit и Kubernetes NVIDIA Device Plugin.
• Опыт настройки мониторинга Prometheus и Grafana.
• Понимать сетевые технологии, TLS и DNS.
• Этапный опыт требуется — в резюме.
• Будет плюсом: опыт эксплуатации GPU-серверов для AI/ML, работа с vLLM, Ollama и Triton Inference Server, понятие CUDA, VRAM, tensor parallelism, bare metal Kubernetes, NVIDIA DCGM Exporter и Langfuse, подготовка инфраструктуры под GDPR, миграция приложений между облаком и локальной инфраструктурой.

Responsibilities

• Развёртывать и администрировать Kubernetes-кластеры на bare metal.
• Настраивать и оптимизировать Docker-контейнеризацию.
• Разрабатывать и поддерживать конвейеры GitLab CI/CD.
• Управлять NVIDIA GPU и CUDA-инфраструктурой.
• Развёртывать ML inference-сервисы: vLLM, Ollama, Triton Inference Server.
• Настраивать мониторинг Prometheus и Grafana.
• Работать с сетевыми сервисами, TLS и DNS.
• Управлять Kubernetes-развёртываниями с помощью Helm.
• Администрировать GitLab Container Registry.

Skills

Linux

Docker

Kubernetes

Helm

GitLab CI/CD

GitLab Registry

NVIDIA GPU

CUDA

NVIDIA Toolkit

Kubernetes NVIDIA Device Plugin

Prometheus

Grafana

TLS

DNS

Bare metal Kubernetes

Langfuse

vLLM

Ollama

Triton Inference Server

GPU-серверы для AI/ML

GDPR инфраструктура

Tools

Kubernetes

Docker

Helm

GitLab CI/CD

GitLab Container Registry

NVIDIA GPU

CUDA

NVIDIA Container Toolkit

Kubernetes NVIDIA Device Plugin

Prometheus

Grafana

Job description

NDA ищет специалиста по развёртыванию и эксплуатации инфраструктуры на базе Kubernetes с поддержкой NVIDIA GPU для ML/AI нагрузок на крупном предприятии металлургической отрасли.

Обязанности: развёртывать и администрировать кластеры на bare metal, настраивать Docker, выстраивать конвейеры GitLab CI/CD, управлять GPU/CUDA и поддерживать ML inference сервисы (vLLM, Ollama, Triton), а также мониторинг через Prometheus и Grafana.