devops engineer для AI-инфраструктуры

NDA; United States; Remote; USD 56,000 - 100,000; Full time

Job summary

NDA ищет специалиста по развёртыванию и эксплуатации инфраструктуры на базе Kubernetes с поддержкой NVIDIA GPU для ML/AI нагрузок на крупном предприятии металлургической отрасли.

Обязанности: развёртывать и администрировать кластеры на bare metal, настраивать Docker, выстраивать конвейеры GitLab CI/CD, управлять GPU/CUDA и поддерживать ML inference сервисы (vLLM, Ollama, Triton), а также мониторинг через Prometheus и Grafana.

Qualifications

• Уверенно администрировать Linux (Ubuntu Server).
• Практический опыт Docker и Kubernetes.
• Опыт работы с Helm.
• Уверенно владеть GitLab CI/CD и GitLab Container Registry.
• Опыт работы с NVIDIA GPU и CUDA.
• Знать NVIDIA Container Toolkit и Kubernetes NVIDIA Device Plugin.
• Опыт настройки мониторинга Prometheus и Grafana.
• Понимать сетевые технологии, TLS и DNS.
• Этапный опыт требуется — в резюме.
• Будет плюсом: опыт эксплуатации GPU-серверов для AI/ML, работа с vLLM, Ollama и Triton Inference Server, понятие CUDA, VRAM, tensor parallelism, bare metal Kubernetes, NVIDIA DCGM Exporter и Langfuse, подготовка инфраструктуры под GDPR, миграция приложений между облаком и локальной инфраструктурой.

Responsibilities

• Развёртывать и администрировать Kubernetes-кластеры на bare metal.
• Настраивать и оптимизировать Docker-контейнеризацию.
• Разрабатывать и поддерживать конвейеры GitLab CI/CD.
• Управлять NVIDIA GPU и CUDA-инфраструктурой.
• Развёртывать ML inference-сервисы: vLLM, Ollama, Triton Inference Server.
• Настраивать мониторинг Prometheus и Grafana.
• Работать с сетевыми сервисами, TLS и DNS.
• Управлять Kubernetes-развёртываниями с помощью Helm.
• Администрировать GitLab Container Registry.

Skills

Linux

Docker

Kubernetes

Helm

GitLab CI/CD

GitLab Registry

NVIDIA GPU

CUDA

NVIDIA Toolkit

Kubernetes NVIDIA Device Plugin

Prometheus

Grafana

TLS

DNS

Bare metal Kubernetes

Langfuse

vLLM

Ollama

Triton Inference Server

GPU-серверы для AI/ML

GDPR инфраструктура

Tools

Kubernetes

Docker

Helm

GitLab CI/CD

GitLab Container Registry

NVIDIA GPU

CUDA

NVIDIA Container Toolkit

Kubernetes NVIDIA Device Plugin

Prometheus

Grafana

Job description

Описание:

Предстоит развёртывать и эксплуатировать инфраструктуру на базе Kubernetes с поддержкой NVIDIA GPU для ML/AI-нагрузок на крупном предприятии металлургической отрасли.

Задачи:

• Развёртывать и администрировать Kubernetes-кластеры на bare metal
• Настраивать и оптимизировать Docker-контейнеризацию
• Разрабатывать и поддерживать конвейеры GitLab CI/CD
• Управлять NVIDIA GPU и CUDA-инфраструктурой
• Развёртывать и поддерживать ML inference-сервисы: vLLM, Ollama, Triton Inference Server
• Настраивать мониторинг с Prometheus и Grafana
• Работать с сетевыми сервисами, TLS и DNS
• Управлять Kubernetes‑развёртываниями с помощью Helm
• Администрировать GitLab Container Registry

Требования:

• Уверенно администрировать Linux (Ubuntu Server)
• Иметь практический опыт работы с Docker и Kubernetes
• Иметь опыт работы с Helm
• Уверенно владеть GitLab CI/CD и GitLab Container Registry
• Иметь опыт работы с NVIDIA GPU и CUDA
• Знать NVIDIA Container Toolkit и Kubernetes NVIDIA Device Plugin
• Иметь опыт настройки мониторинга Prometheus и Grafana
• Понимать сетевые технологии, TLS и DNS
• Весь обязательный технический опыт должен быть отражён в резюме
• Будет плюсом: опыт эксплуатации GPU-серверов для AI/ML, работа с vLLM, Ollama и Triton Inference Server, понимание CUDA, VRAM, tensor parallelism и особенностей GPU, опыт развёртывания Kubernetes на bare metal, знакомство с NVIDIA DCGM Exporter и Langfuse, опыт подготовки инфраструктуры под требования GDPR, опыт миграции приложений между облачной и локальной инфраструктурой

Условия:

• Ежемесячная оплата
• Долгосрочный проект
• Условий полной занятости не указываю, так как это стандартный формат