MLOps-инженер (On-Prem, GPU) для частных LLM

Eurosoft

United States

Remote

USD 90,000 - 150,000

Full time

46 hours ago
Be an early applicant

A complete application in a minute

Tailored resume and cover letter, ready to send.

Get past ATS filters

Benefits offered by this job

Competitive salary
Small team, direct interaction with领导

Job summary

Eurosoft ищет специалиста по MLOps для обеспечения надёжной работы ML-моделей в production на GPU‑кластерах у корпоративных клиентов. Роль охватывает обслуживание моделей, инфраструктуру для их запуска и мониторинг производительности, затрат и качества в локальных средах.

Обязанности включают настройку сервинга, управление ресурсами, создание конвейеров данных и версионирование моделей, а также участие в создании частных LLM‑и RAG‑платформ для клиентов в Южной Корее.

Qualifications

  • Опыт не менее пяти лет в MLOps или разработке платформ машинного обучения.
  • Практический опыт сервинга моделей и планирования GPU‑ресурсов.
  • Знакомство с vLLM, Triton и Kubernetes в контексте производственных систем.
  • Опыт построения конвейеров данных, обучения и оценки, а также версионирования моделей.
  • Навыки мониторинга задержек, затрат и качества в локальных средах.
  • Действующее резидентство в Южной Корее; при отклике потребуется документ, подтверждающий статус.
  • Рабочий английский.

Responsibilities

  • Настраивать сервинг моделей и распределение вычислительных ресурсов GPU.
  • Поддерживать production-развёртывания с использованием подходящих средств оркестрации и сервинга.
  • Создавать и сопровождать конвейеры данных, обучения и оценки моделей.
  • Управлять версиями моделей и связанными с ними процессами выпуска.
  • Отслеживать задержки, затраты и качество работы моделей в on-premise‑инсталляциях.
  • Участвовать в создании частных LLM‑и RAG‑платформ для корпоративных клиентов в Южной Корее.

Skills

MLOps опыт
GPU ресурсы
vLLM
Triton
Kubernetes
Конвейеры данных
Версионирование моделей

Tools

Triton Inference Server
vLLM
Kubectl

Job description

Eurosoft ищет специалиста по MLOps для обеспечения надёжной работы ML-моделей в production на GPU‑кластерах у корпоративных клиентов. Роль охватывает обслуживание моделей, инфраструктуру для их запуска и мониторинг производительности, затрат и качества в локальных средах.

Обязанности включают настройку сервинга, управление ресурсами, создание конвейеров данных и версионирование моделей, а также участие в создании частных LLM‑и RAG‑платформ для клиентов в Южной Корее.

Get your free, confidential resume review.

or drag and drop your file here.

Similar jobs

Similar jobs worth comparing

Senior MLOps-инженер
Senior MLOps-инженер

Eurosoft • United States

Remote
USD 90,000 - 150,000
Competitive salary
Small team, direct interaction with领导
Senior MLOps Engineer: GPU ML Platform & Deployment
Senior MLOps Engineer: GPU ML Platform & Deployment

Eurosoft • United States

Remote
USD 180,000 - 240,000
Senior MLOps Engineer
Senior MLOps Engineer

Eurosoft • United States

Remote
USD 180,000 - 240,000
Senior MLOps Engineer — On-Prem GPU & LLM Deployments
Senior MLOps Engineer — On-Prem GPU & LLM Deployments

Eurosoft • United States

Remote
USD 140,000 - 190,000
Direct access to executive leadership
Market-level compensation based on经验
Senior MLOps muhandis
Senior MLOps muhandis

Eurosoft • United States

Remote
USD 140,000 - 190,000
Direct access to executive leadership
Market-level compensation based on经验
Remote MLOps Engineer – GPUs, Kubernetes & CI/CD
Remote MLOps Engineer – GPUs, Kubernetes & CI/CD

Eurosoft • United States

Remote
USD 120,000 - 190,000
Remote-first
Option to hybrid from a Tashkent офис
USD compensation
+1
Remote MLOps Engineer: GPU, vLLM & Kubernetes
Remote MLOps Engineer: GPU, vLLM & Kubernetes

Eurosoft • United States

Remote
USD 140,000 - 190,000
Remote-first
Hybrid option in Tashkent
USD salary
Remote-first MLOps Engineer: GPU-Powered Model Deployment
Remote-first MLOps Engineer: GPU-Powered Model Deployment

Eurosoft • United States

Hybrid
USD 120,000 - 180,000
Remote-first
Hybrid office in Tashkent
Private LLM projects
+1
LLM Engineer — RAG Pipelines & AI Agents (Korea)
LLM Engineer — RAG Pipelines & AI Agents (Korea)

Eurosoft • United States

Remote
USD 120,000 - 180,000
Полная занятость
Небольшая команда
Корпоративная работа
MLOps Engineer
MLOps Engineer

Blue Signal LLC. • Santa Clara (CA)

On-site
USD 140,000 - 190,000
Advanced GPU infra exposure
Collaborative engineering culture
Open source AI frameworks access
+2