MLOps Engineer: Cloud ML Pipelines & LLMs

Velvetech; Miami (FL); On-site; USD 120,000 - 180,000; Full time

Benefits offered by this job

Competitive salary

Growth opportunities

In-company training

English language training

Professional certification

Job summary

Velvetech в Майами ищет опытного инженера MLOps с глубокими знаниями облачных сервисов Azure ML и AWS SageMaker. Вы будете отвечать за конвейеры ML, автоматизацию обучения, развёртывание и мониторинг моделей в продакшене.

Ваша задача — управлять данными, отслеживать метрики и версии моделей с MLflow, настраивать прогонку LLM и инструменты BentoML/Ollama для эффективного инференса. Требуется опыт работы с PyTorch, TensorFlow, Docker и Kubernetes.

Qualifications

• Конвейеры ML от Azure ML, AWS SageMaker, MLflow; Docker, Kubernetes, CI/CD для ML.
• Развертывание открытых LLMs (Llama, Mistral, R1); оптимизация вывода, RAG, дообучение.
• Python, ML-фреймворки (PyTorch, TensorFlow), микросервисы, data pipelines.
• Оценка и донастройка ML/LLM моделей; отслеживание метрик; оптимизация решений.

Responsibilities

• Разрабатывать и оптимизировать конвейеры MLOps для масштабирования разработки и внедрения моделей.
• Автоматизация обучения, развёртывания, мониторинга и тестирования моделей.
• Управление конвейерами данных и подготовка обучающих данных.
• Реализация отслеживания производительности и версий с MLflow; дообучение LLM.
• Использование vLLM, LiteLLM, BentoML, Ollama для оптимизации вывода LLM.
• Мониторинг и оценка производительности LLM по задержке, точности и стоимости.
• Разработка ИИ-решений для классификации товаров и обогащения данных.
• Реализация динамической оптимизации цен и прогнозирования спроса.
• Построение систем ИИ для выбора каналов перепродажи с учётом сезонности и запасов.

Skills

End-to-end ML pipelines

Docker & Kubernetes

CI/CD для ML

Python

ML/LLM настройка

Мониторинг моделей

Оптимизация инференса LLM

Tools

Azure ML

AWS SageMaker

MLflow

Docker

Kubernetes

vLLM

LiteLLM

BentoML

Ollama

Job description

Velvetech в Майами ищет опытного инженера MLOps с глубокими знаниями облачных сервисов Azure ML и AWS SageMaker. Вы будете отвечать за конвейеры ML, автоматизацию обучения, развёртывание и мониторинг моделей в продакшене.

Ваша задача — управлять данными, отслеживать метрики и версии моделей с MLflow, настраивать прогонку LLM и инструменты BentoML/Ollama для эффективного инференса. Требуется опыт работы с PyTorch, TensorFlow, Docker и Kubernetes.