Удалённый DevOps/LLMOps Engineer для AI-платформы

PravoTech; United States; Remoto; USD 20.000 - 40.000; Tempo pieno

Vantaggi offerti da questo lavoro

ДМС со стоматологией

Корпоративные бонусы: питание/спорт/яй

Descrizione del lavoro

ПравоТех — продуктовая IT-компания, развивающая ПравоАгент, платформу AI-агентов для решения юридических задач. Мы ищем DevOps / LLMOps Engineer в продуктовую команду ПравоАгента.

Ваша задача — развивать инфраструктуру AI-платформы, обеспечивать стабильную работу моделей и взаимодействовать с Platform Engineering. Требуется опыт 2 года в DevOps/MLOps, знание Kubernetes, Helm, CI/CD, Linux и API языковых моделей.

Competenze

• Опыт DevOps/MLOps не менее 2 лет, коммерческий опыт LLM Ops
• Опыт развёртывания ML/LLM на GPU и Kubernetes
• Знание API языковых моделей, Terraform будет плюсом

Mansioni

• Развёртывать и поддерживать сервисы AI-платформы в Kubernetes, работать с Helm и CI/CD в GitLab.
• Запускать и поддерживать ML/LLM-модели на GPU, оптимизировать их под нагрузку.
• Обеспечивать стабильную работу сервисов для обработки документов, эмбеддингов и RAG-поиска.
• Настраивать интеграции с внешними LLM-провайдерами и управлять лимитами, отказоустойчивостью и расходами.
• Взаимодействовать с DevOps и Platform Engineering, участвовать в автоматизации инфраструктуры и мониторинга.

Conoscenze

DevOps experience

MLOps

LLMOps

Kubernetes

Helm

CI/CD

Linux

Networking

LLM APIs

Terraform

Cloud platforms

Monitoring

Security basics

Strumenti

Terraform

Qdrant

PostgreSQL

GitLab CI

GPU ML platforms

Docker

vLLM

Cloud (AWS/GCP)

Descrizione del lavoro

ПравоТех — продуктовая IT-компания, развивающая ПравоАгент, платформу AI-агентов для решения юридических задач. Мы ищем DevOps / LLMOps Engineer в продуктовую команду ПравоАгента.

Ваша задача — развивать инфраструктуру AI-платформы, обеспечивать стабильную работу моделей и взаимодействовать с Platform Engineering. Требуется опыт 2 года в DevOps/MLOps, знание Kubernetes, Helm, CI/CD, Linux и API языковых моделей.