DevOps engineer

PravoTech; United States; Remote; USD 20.000 - 40.000; Vollzeit

Benefits dieser Stelle

ДМС со стоматологией

Корпоративные бонусы: питание/спорт/яй

Zusammenfassung

ПравоТех — продуктовая IT-компания, развивающая ПравоАгент, платформу AI-агентов для решения юридических задач. Мы ищем DevOps / LLMOps Engineer в продуктовую команду ПравоАгента.

Ваша задача — развивать инфраструктуру AI-платформы, обеспечивать стабильную работу моделей и взаимодействовать с Platform Engineering. Требуется опыт 2 года в DevOps/MLOps, знание Kubernetes, Helm, CI/CD, Linux и API языковых моделей.

Qualifikationen

• Опыт DevOps/MLOps не менее 2 лет, коммерческий опыт LLM Ops
• Опыт развёртывания ML/LLM на GPU и Kubernetes
• Знание API языковых моделей, Terraform будет плюсом

Aufgaben

• Развёртывать и поддерживать сервисы AI-платформы в Kubernetes, работать с Helm и CI/CD в GitLab.
• Запускать и поддерживать ML/LLM-модели на GPU, оптимизировать их под нагрузку.
• Обеспечивать стабильную работу сервисов для обработки документов, эмбеддингов и RAG-поиска.
• Настраивать интеграции с внешними LLM-провайдерами и управлять лимитами, отказоустойчивостью и расходами.
• Взаимодействовать с DevOps и Platform Engineering, участвовать в автоматизации инфраструктуры и мониторинга.

Kenntnisse

DevOps experience

MLOps

LLMOps

Kubernetes

Helm

CI/CD

Linux

Networking

LLM APIs

Terraform

Cloud platforms

Monitoring

Security basics

Tools

Terraform

Qdrant

PostgreSQL

GitLab CI

GPU ML platforms

Docker

vLLM

Cloud (AWS/GCP)

Jobbeschreibung

Описание

ПравоТех — продуктовая IT-компания, которая с 2008 года разрабатывает решения для автоматизации юридических процессов. Сейчас мы развиваем ПравоАгент — платформу AI-агентов для решения юридических задач. Наши агенты работают с документами, находят информацию в законодательстве и судебной практике с помощью RAG и помогают готовить юридические документы. Мы ищем DevOps / LLMOps Engineer в продуктовую команду ПравоАгента. Нам нужен инженер, который поможет развивать инфраструктуру AI-платформы, обеспечивать стабильную работу моделей и станет связующим звеном между разработчиками продукта и командой Platform Engineering.

Задачи

Разворачивать и поддерживать сервисы AI-платформы в Kubernetes, работать с Helm и CI/CD в GitLab. Запускать и поддерживать ML/LLM-модели на GPU, оптимизировать их работу под нагрузкой. Обеспечивать стабильную работу сервисов для обработки документов, эмбеддингов и RAG-поиска. Настраивать интеграции с внешними LLM-провайдерами, управлять лимитами, отказоустойчивостью и расходами. Развивать инфраструктуру для запуска языковых моделей на собственных GPU. Взаимодействовать с командами DevOps и Platform Engineering: собирать требования, согласовывать решения и сопровождать их реализацию. Участвовать в автоматизации инфраструктуры, мониторинга и эксплуатации сервисов.

Требования

Опыт работы в DevOps / MLOps / LLMOps от 2 лет. Коммерческий опыт работы с LLMOps от 1 года, включая развёртывание ML/LLM-моделей на GPU. Понимание принципов работы LLM, RAG и инфраструктуры AI-сервисов. Практический опыт с Kubernetes, Helm и CI/CD. Уверенные знания Linux и сетевых технологий. Опыт работы с API языковых моделей. Самостоятельность, инициативность и умение взаимодействовать с разными техническими командами. Будет плюсом: Опыт развёртывания LLM на собственных GPU с использованием vLLM или аналогичных решений; Опыт работы с Terraform, облачной инфраструктурой и мониторингом; Знакомство с Qdrant, PostgreSQL и поисковыми системами; Опыт развёртывания продуктов в закрытых контурах заказчиков; Понимание требований информационной безопасности корпоративных заказчиков.

Условия

Работу над AI-платформой с реальными production-задачами и возможностью влиять на технические решения. Продуктовую команду, в которой можно участвовать в развитии инфраструктуры с ранних этапов. Удалённый формат работы с ориентиром на московское время или работу в офисе. Официальное трудоустройство и полностью белую заработную плату.

• ДМС со стоматологией
• Дополнительные корпоративные бонусы на выбор: компенсация питания, занятий спортом или изучения иностранных языков
• Доступ к сервису психологической поддержки и коучинга
• Необходимую технику для комфортной работы