DevOps инженер по безопасности ИИ

Лента, федеральная розничная сеть; United States; Hybrid; USD 150,000 - 230,000; Full time

Job summary

Лента, федеральная розничная сеть, ищет DevOps инженер по безопасности ИИ для разработки и поддержки безопасного инференса LLM как локально, так и в облаке. Роль включает настройку защиты данных, экспертизу в AI security и интеграцию со сборами метрик и контролем доступа.

Основной фокус — обеспечить безопасное развёртывание моделей, мониторинг и соблюдение требований к безопасности в гибридной формате работы. Участие в масштабных кибербезопасностных проектах и взаимодействие с ИБ.

Qualifications

• Опыт построения безопасного инференса LLM (локально и в облаке).
• Понимание AI Security: PII, guardrails, prompt injection, data leakage.
• Практика с LiteLLM, OpenRouter, прокси-шлюзами, биллингом по токенам.
• Опыт с AI firewall и системами маскирования/демаскирования.

Responsibilities

• Обеспечение безопасного инференса и защиты данных в сочетании локальных и облачных сред.
• Деплой новых моделей и проверка ИБ до выпуска в продакшн.
• Работа с SLA и мониторингом latency и ошибок.
• Сопровождение кибербезопасности на стыке AI Security и платформенной инженерии.

Skills

Безопасный инференс LLM

AI безопасность

Наблюдаемость

K8s интеграции

OpenRouter

Tools

LiteLLM

OpenRouter

Prometheus

Grafana

Jira

Confluence

GitLab

Exchange

Job description

Описание: В Дирекции ИТ Центрального офиса федеральной розничной сети лента открыта вакансия DevOps инженер по безопасности ИИ. ИТ-команда "ЛЕНТЫ" - одна из сильнейших в ритейле, на плечах которой непрерывная работа корпоративной сети, информационная стабильность и безопасность. Сила "ЛЕНТЫ" в ее сотрудниках и мы предлагаем Вам стать частью большой, но сплоченной команды профессионалов!

Задачи:

Безопасный инференс LLM: локально в защищённом облаке и через внешние шлюзы. Работа с моделями: DeepSeek, Qwen, специализированные модели для разработки, малые модели (Whisper, GigaAM и др.). Развёртывание новых моделей: быстрый деплой + обязательная проверка ИБ. Выбор моделей под задачи: бенчмарки, сравнение (GLM, DeepSeek и аналоги). Снятие метрик: latency, обрывы, TTFT. Разделение разработки: супер-критичная — только локально, остальное — в облаке. Прокси-шлюз для обхода блокировок, оплата агрегатору по токенам с корп. счёта. Работа через OpenRouter, подключение новых моделей за 15 минут. Внутренний шлюз в контуре (LiteLLM). Закрытие несанкционированных точек подключения к агрегаторам. Биллинг, квотирование, управление ключами, мультитенантность. Внедрение AI firewall, PII-маскирование и демаскирование. Детектирование КТ, гварды, работа с перечнем угроз. Плотное взаимодействие с ИБ.

Требования:

Опыт построения безопасного инференса LLM (локально и в облаке). Понимание AI Security: PII, guardrails, prompt injection, data leakage, КТ. Практика с LiteLLM, OpenRouter, прокси-шлюзами, биллингом по токенам. Опыт с AI firewall и системами маскирования/демаскирования. Работа с локальными харнессами (opencode, qwencode, Claude Code, Codex) и sandbox. Observability: LangFuse, Prometheus, Grafana. Понимание MCP, MCP registry, интеграций с k8s, Jira, Confluence, GitLab, Exchange. Опыт с RAG, Vector DB, hybrid search, LangChain / LangGraph / Mastra. Взаимодействие с ИБ: согласование доступов, заявок, групп пользователей. Понимание мультитенантности, квотирования, управления ключами. Будет плюсом: Опыт с OpenWebUI, ботами в корпоративных мессенджерах; Знание SAP-интеграций через MCP; Опыт построения изолированных контуров и «карантина» для внешней разработки; Понимание бенчмарков моделей и выбора моделей под задачи; Опыт с Whisper, GigaAM и другими малыми моделями; Понимание TTFT, latency, обрывов, работы без SLA на старте

Условия:

Участие в масштабных проектах по кибербезопасности в федеральной компании. Конкурентную заработную плату и социальный пакет. Оформление в аккредитованную ИТ-компанию. Профессиональное развитие и обучение за счёт работодателя. Удаленный/гибридный формат работы; Команду профессионалов и культуру, ориентированную на безопасность. Годовое премирование по результатам работы. Роль на стыке AI Security и платформенной инженерии. Возможность строить безопасный ИИ-контур с нуля. Работа с современными моделями, харнессами, MCP и агентскими фреймворками. Прямое взаимодействие с ИБ и влияние на стандарты. Пространство для закрытия «не проработанных» тем.