Удалённый DevOps инженер для ML/AI инфраструктуры на Kubernetes с GPU

NDA; United States; Remote; USD 22,000 - 37,000; Full time

Job summary

NDA ищет инженера DevOps для развёртывания и эксплуатации инфраструктуры на базе Kubernetes с поддержкой GPU для ML/AI проектов. Ваша работа будет включать настройку CI/CD, управление GPU-ресурсами и сетевой инфраструктурой, мониторинг и оптимизацию производительности.

Требуются знания Kubernetes, Docker, Helm, Prometheus, Grafana и GitLab CI/CD; опыт работы с NVIDIA GPU и CUDA является преимуществом. Удалённая работа по РФ.

Qualifications

• Опыт работы с Linux (Ubuntu Server) и контейнеризацией Docker.

Responsibilities

• Развёртывать и управлять кластерами Kubernetes на bare metal.
• Настраивать и оптимизировать контейнеризацию Docker.
• Конфигурировать конвейеры GitLab CI/CD.
• Управлять ресурсами NVIDIA GPU и инфраструктурой CUDA.
• Развёртывать и поддерживать решения для вывода моделей ML, включая vLLM, Ollama и Triton Inference Server.
• Мониторить инфраструктуру с Prometheus и Grafana.
• Настраивать сетевые сервисы, TLS и DNS.
• Управлять развёртываниями с помощью Helm.
• Управлять GitLab Container Registry.

Skills

Linux

Kubernetes

Docker

GitLab CI/CD

Prometheus

Grafana

TLS

DNS

Tools

Ubuntu Server

NVIDIA GPU

CUDA

NVIDIA Container Toolkit

Kubernetes NVIDIA Device Plugin

Helm

GitLab Container Registry

Job description

NDA ищет инженера DevOps для развёртывания и эксплуатации инфраструктуры на базе Kubernetes с поддержкой GPU для ML/AI проектов. Ваша работа будет включать настройку CI/CD, управление GPU-ресурсами и сетевой инфраструктурой, мониторинг и оптимизацию производительности.

Требуются знания Kubernetes, Docker, Helm, Prometheus, Grafana и GitLab CI/CD; опыт работы с NVIDIA GPU и CUDA является преимуществом. Удалённая работа по РФ.