ML Infrastructure Engineer

EPAM; United States; Hybrid; USD 120,000 - 160,000; Full time

Benefits offered by this job

Relocation opportunities

International travel up to 2 months/yr

Certifications (GCP, Azure, AWS)

Employee Stock Purchase Plan

Medical and family care package

English language courses

Job summary

EPAM ищет инженера по данным/ML для поддержки и масштабирования инфраструктуры и пайплайнов. В задачу входит поддержка реальных сервисов, построение и улучшение AWS-инфраструктуры, управление GPU-фермой и автоматизация рабочих окружений для науки. Требуется минимум 3 года опыта и знание Python.

Работа предусматривает гибридный формат: офис, удаленно или временная командировка за рубеж. Предлагаются релокация, обучение, а также бонусы и программы благополучия.

Qualifications

• Минимум 36 месяцев опыта в соответствующей роли или проектах.
• Опыт работы с облачными сервисами и управлением инфраструктурой.

Responsibilities

• Поддерживать работоспособность сервисов в реальном времени: оповещения, отладка, инциденты и постмортемы.
• Разрабатывать и улучшать AWS-инфраструктуру, CI/CD пайплайны, Kubernetes, Docker, автошкалирование и мониторинг.
• Обслуживать GPU-ферму: драйверы NVIDIA, CUDA, управление узлами и ресурсами.
• Автоматизировать доступ и окружения для команды разработчиков.
• Запускать конвейеры данных в реальном времени и пакеты для онлайн-фичей.
• Оркестрировать пакетные задачи через Airflow или Databricks Workflows.
• Сопровождать ученых-применителей в продакшн-версии их прототипов.
• Писать производственный Python код и проверять сгенерированные ИИ-данные.

Skills

Python

CI/CD

Linux

Cloud platforms

On-call experience

Tools

Kubernetes

Docker

Airflow

Databricks

NVIDIA CUDA

Job description

Описание: Описания нет

Задачи

• Keep real-time inference services healthy through alerting, live debugging, production incident resolution, rollbacks, and postmortems as part of a shared 24x7 on-call rotation
• Build and improve AWS infrastructure, including infrastructure as code, CI/CD pipelines, Kubernetes, Docker, autoscaling, monitoring, load testing, and cost control
• Maintain the GPU fleet through NVIDIA driver and CUDA upgrades, node provisioning and debugging, and capacity management
• Automate user access, including SSH credentials, service accounts, and developer environments for the science team
• Run real-time production data pipelines, including streaming ingestion into an online feature store and serving features to low-latency endpoints
• Orchestrate batch jobs with Airflow or Databricks Workflows
• Partner with applied scientists to productionize their prototypes and keep them healthy
• Write and review production Python, including validating AI-generated code

Требования

• At least 36 months of experience

Условия

• Opportunity to work abroad for up to two months per year
• Relocation opportunities within offices in 55+ countries
• Leadership development, career advising, soft skills, and well-being programs
• Certifications, including GCP, Azure, and AWS
• Unlimited access to EPAM's internal learning database
• Free English classes with certified teachers
• Discounts at local language schools, including online Kazakh courses
• Participation in the Employee Stock Purchase Plan
• Monetary bonuses for engaging in the referral program
• Medical and family care package
• Six trust days per year (sick leave without a medical certificate)
• Coverage of psychology sessions of your choice
• Benefits package including sports activities and discounts at stores and services
• Housing support program with preferential mortgage access through an Otbasy Bank partnership
• Enjoyable working environment, whether in the office or at home