MLOps engineer

Velvetech; Miami (FL); On-site; USD 120,000 - 180,000; Full time

Benefits offered by this job

Competitive salary

Growth opportunities

In-company training

English language training

Professional certification

Job summary

Velvetech в Майами ищет опытного инженера MLOps с глубокими знаниями облачных сервисов Azure ML и AWS SageMaker. Вы будете отвечать за конвейеры ML, автоматизацию обучения, развёртывание и мониторинг моделей в продакшене.

Ваша задача — управлять данными, отслеживать метрики и версии моделей с MLflow, настраивать прогонку LLM и инструменты BentoML/Ollama для эффективного инференса. Требуется опыт работы с PyTorch, TensorFlow, Docker и Kubernetes.

Qualifications

• Конвейеры ML от Azure ML, AWS SageMaker, MLflow; Docker, Kubernetes, CI/CD для ML.
• Развертывание открытых LLMs (Llama, Mistral, R1); оптимизация вывода, RAG, дообучение.
• Python, ML-фреймворки (PyTorch, TensorFlow), микросервисы, data pipelines.
• Оценка и донастройка ML/LLM моделей; отслеживание метрик; оптимизация решений.

Responsibilities

• Разрабатывать и оптимизировать конвейеры MLOps для масштабирования разработки и внедрения моделей.
• Автоматизация обучения, развёртывания, мониторинга и тестирования моделей.
• Управление конвейерами данных и подготовка обучающих данных.
• Реализация отслеживания производительности и версий с MLflow; дообучение LLM.
• Использование vLLM, LiteLLM, BentoML, Ollama для оптимизации вывода LLM.
• Мониторинг и оценка производительности LLM по задержке, точности и стоимости.
• Разработка ИИ-решений для классификации товаров и обогащения данных.
• Реализация динамической оптимизации цен и прогнозирования спроса.
• Построение систем ИИ для выбора каналов перепродажи с учётом сезонности и запасов.

Skills

End-to-end ML pipelines

Docker & Kubernetes

CI/CD для ML

Python

ML/LLM настройка

Мониторинг моделей

Оптимизация инференса LLM

Tools

Azure ML

AWS SageMaker

MLflow

Docker

Kubernetes

vLLM

LiteLLM

BentoML

Ollama

Job description

Описание:

We are seeking an experienced MLOps Engineer with deep expertise in cloud services such as Azure ML and AWS SageMaker, providing end-to-end MLOps operations and services.

Задачи:

• Develop and optimize MLOps pipelines for scalable model development and deployment.
• Automate model training, deployment, monitoring, and testing workflows.
• Manage data pipelines, ensuring efficient training data preparation.
• Implement model performance tracking and versioning using MLflow Deploy and fine-tune open-source LLM models for various business use cases.
• Utilize vLLM, LiteLLM, BentoML, Ollama for optimized LLM inference and deployment.
• Monitor and evaluate LLM performance across different metrics including latency, accuracy, and cost-effectiveness Develop AI-based solutions for product category classification and product data enrichment.
• Implement dynamic price optimization models and forecast price and demand trends.
• Build AI systems to select optimal recommerce channels for selling products, based various business factors, including price seasonality and inventory costs.

Требования:

• End-to-end ML pipelines (Azure ML, AWS SageMaker, MLflow), Docker, Kubernetes, CI/CD for ML.
• Deploying open-source LLMs (Llama, Mistral, R1), optimizing LLM inference, RAG, fine-tuning.
• Python, ML frameworks (PyTorch, TensorFlow), microservices, data pipelines.
• Evaluating and fine-tuning ML/LLM models, tracking metrics, optimizing AI solutions.

Условия:

• Competitive salary Many CHALLENGING and exciting projects with new opportunities and learning GROWTH opportunities, skills and competencies improvement, and professional certification In-company TRAINING (English, Software / DevOps / Project management / Design / Business)
• We are a friendly team of 150+ professionals where everyone is able to achieve high results and grows professionally not only due to their own knowledge and skills but also with the support of colleagues.
• In order to have a highly motivated team, Velvetech invests in their people, additional education, certification, and others.
• You choose your career path and we are here to support you!