AI Security DevOps Engineer for Safe LLM Infra (Remote)

Лента, федеральная розничная сеть; United States; Hybrid; USD 150,000 - 230,000; Full time

Job summary

Лента, федеральная розничная сеть, ищет DevOps инженер по безопасности ИИ для разработки и поддержки безопасного инференса LLM как локально, так и в облаке. Роль включает настройку защиты данных, экспертизу в AI security и интеграцию со сборами метрик и контролем доступа.

Основной фокус — обеспечить безопасное развёртывание моделей, мониторинг и соблюдение требований к безопасности в гибридной формате работы. Участие в масштабных кибербезопасностных проектах и взаимодействие с ИБ.

Qualifications

• Опыт построения безопасного инференса LLM (локально и в облаке).
• Понимание AI Security: PII, guardrails, prompt injection, data leakage.
• Практика с LiteLLM, OpenRouter, прокси-шлюзами, биллингом по токенам.
• Опыт с AI firewall и системами маскирования/демаскирования.

Responsibilities

• Обеспечение безопасного инференса и защиты данных в сочетании локальных и облачных сред.
• Деплой новых моделей и проверка ИБ до выпуска в продакшн.
• Работа с SLA и мониторингом latency и ошибок.
• Сопровождение кибербезопасности на стыке AI Security и платформенной инженерии.

Skills

Безопасный инференс LLM

AI безопасность

Наблюдаемость

K8s интеграции

OpenRouter

Tools

LiteLLM

OpenRouter

Prometheus

Grafana

Jira

Confluence

GitLab

Exchange

Job description

Лента, федеральная розничная сеть, ищет DevOps инженер по безопасности ИИ для разработки и поддержки безопасного инференса LLM как локально, так и в облаке. Роль включает настройку защиты данных, экспертизу в AI security и интеграцию со сборами метрик и контролем доступа.

Основной фокус — обеспечить безопасное развёртывание моделей, мониторинг и соблюдение требований к безопасности в гибридной формате работы. Участие в масштабных кибербезопасностных проектах и взаимодействие с ИБ.