devops инженер LLM-платформы

HireHi; United States; Hybrid; USD 24,000 - 29,000; Full time

Job summary

HireHi ищет опытного DevOps/Platform инженера для развертывания и эксплуатации инфраструктуры в контуре заказчика. Вы будете работать с Kubernetes, Helm, GitOps, а также разворачивать службы для LLM и векторных баз данных, обеспечивая безопасность и мониторинг.

Обязанности включают настройку API-шлюзов, прокси и логирования, развёртку под Kubernetes и создание документации по архитектуре и процессам, с возможностью работать автономно над задачами от начала до результата.

Qualifications

• Опыт DevOps/Platform или бекенд-инфраструктуры не менее 4 лет.
• Опыт эксплуатации Kubernetes в продакшене, Helm и GitOps.
• Опыт развёртываний в контуре заказчика, on-prem и закрытых сетях.
• Опыт работы с LLM/API/RAG и векторными базами данных приветствуется.
• Умение писать понятную документацию и взаимодействовать с безопасностью.

Responsibilities

• Развернуть и настроить сервис маскирования персональных данных.
• Развернуть сервис управления знаниями для RAG и векторного поиска.
• Настроить API-шлюзы и прокси, маршрутизацию и логирование.
• Собрать поставку под Kubernetes: Helm/Argo CD и версии образов.
• Настроить наблюдаемость с Prometheus, Grafana и Loki; журнал аудита.

Skills

DevOps опыт

Kubernetes

Helm

GitOps

Python

TLS/PKI

Linux

VPN/隔离 сетей

Education

Опыт в DevOps/Platform

Tools

Kubernetes

Helm

Argo CD

PostgreSQL

MongoDB

OpenSearch

Redis

Prometheus

Grafana

Job description

Описание:

Платформа превращает каждый разговор с клиентом в понятные инсайты. Задачи: Установить в контуре заказчика сервис маскирования персональных данных, обеспечить обратную подстановку в ответах, проверку полноты маскирования и ведение журнала; Развернуть и настроить сервис управления знаниями для RAG: загрузку и обновление документов, разбиение на фрагменты, создание эмбеддингов, векторный поиск, права доступа к источникам и контроль качества ответов; Настроить шлюз для проксирования запросов к внешнему провайдеру, маршрутизации и учёта запросов; Подключить сервисы к информационной безопасности заказчика: TLS, аутентификацию сервисов, сетевые доступы и журналы; Собрать поставку под Kubernetes: Helm-чарты, Argo CD, зафиксированные версии образов и установку без интернета; Развернуть GPU-инференс на узлах NVIDIA HGX H200 с использованием vLLM и faster-whisper; Настроить хранилища PostgreSQL, MongoDB, OpenSearch и Redis, резервное копирование и проверку восстановления; Встроиться в информационную безопасность заказчика: SIEM, IDM/SSO, PKI, NGFW/WAF, закрытый egress и сегментацию prod/test/dev; Настроить наблюдаемость с Prometheus, Grafana и Loki, а также журнал аудита; Подготовить документацию для заказчика: архитектуру, инструкции по установке и обновлению, runbook, программу и методику испытаний; Провести технические согласования и приёмку вместе с командой заказчика.

Требования:

• От 4 лет опыта в DevOps, Platform или бэкенд-инфраструктуре;
• Опыт эксплуатации Kubernetes в продакшене, Helm и GitOps;
• Опыт развёртывания в контуре заказчика, on-prem и закрытых сетях;
• Практический опыт с LLM-приложениями, RAG, векторными базами данных, эмбеддингами, чанкингом и оценкой качества;
• Опыт работы с LLM API;
• Опыт настройки API-шлюзов и прокси: маршрутизация, аутентификация, ограничение частоты запросов и логирование;
• Уверенное владение Python для чтения, доработки и написания сервисов;
• Знание Linux, сетей, TLS/PKI, ingress и egress;
• Опыт прохождения требований информационной безопасности крупной компании: опросники, согласования и аудит;
• Умение писать понятную документацию и взаимодействовать с инженерами и специалистами по информационной безопасности заказчика;
• Автономность и способность вести задачи от начала до результата.

Условия:

• Краткосрочный проект;
• Требуется выйти ASAP после оффера;
• Гражданство РФ;
• Зарплата 180-220.