AI security researcher & engineer

SpaceAI; United States; Ibrido; USD 140.000 - 190.000; Tempo pieno

Vantaggi offerti da questo lavoro

Гибридный формат работы

Опционы/доля в компании

Descrizione del lavoro

SpaceAI ищет AI Security Researcher для исследования угроз LLM‑приложений и агентных систем. Вы будете проектировать защитные механизмы, реализовывать sandboxing и детекторы, а также формировать архитектуру и дорожную карту SpaceAI.

Ключевые требования: глубокие знания Python и backend‑разработки, понимание RAG/embeddings, RBAC/ABAC и безопасного дизайна API. Формальные навыки в Docker/Linux/Git и опыт работы с API и базами данных приветствуются.

Competenze

• Уверенное владение Python и опыт разработки backend-сервисов, API или инфраструктурных компонентов.

Mansioni

• Исследовать угрозы LLM‑приложений, AI‑агентов и межагентных взаимодействий.
• Разрабатывать сценарии атак и механизмы защиты для платформы SpaceAI.
• Проектировать модули управления и защиты AI‑агентов, включая policy enforcement.
• Реализовывать Risk Analyzer и Human-in-the-Loop для критических операций.
• Разрабатывать детекторы и sandboxing, аудит и трассировку.
• Участвовать в формировании технического roadmap SpaceAI.

Conoscenze

Python

Backend разработка

API design

Инфраструктурные компоненты

Threat modeling

Observability

Английский текстовый технический

Strumenti

Docker

Linux

Git

REST API

Базы данных

Descrizione del lavoro

Описание:

SpaceAI — инфраструктурный слой и proxy для защиты, контроля и безопасного внедрения LLM-моделей и AI-агентов в корпоративную среду. Через SpaceAI проходят запросы к моделям, tool calls и действия агентов. Платформа управляет доступом, применяет политики безопасности, оценивает риски, запрашивает подтверждение критических операций и формирует полный аудиторский след. Ищем AI Security Researcher, который будет исследовать угрозы для LLM и агентных систем, проектировать механизмы защиты и превращать их в работающие компоненты продукта. Это позиция на пересечении AI Security, platform engineering и applied research.

Задачи:

• Исследовать уязвимости LLM-приложений, AI-агентов, RAG-систем, MCP-серверов и межагентных взаимодействий.
• Разрабатывать сценарии атак: prompt injection, data exfiltration, tool misuse, privilege escalation, agent hijacking и supply-chain attacks.
• Проектировать и разрабатывать компоненты платформы управления и защиты AI-агентов.
• Создавать механизмы контроля запросов, tool calls и действий до их выполнения.
• Реализовывать policy enforcement: RBAC, ABAC, capabilities и контекстные правила доступа.
• Разрабатывать Risk Analyzer с решениями allow, verify, approve и block.
• Реализовывать Human-in-the-Loop для подтверждения критических операций.
• Разрабатывать guardrails, DLP, PII masking, input/output-фильтры и обнаружение секретов.
• Проектировать sandboxing, безопасное выполнение действий и kill-switch.
• Развивать аудит, трассировку, observability и инструменты расследования.
• Создавать коннекторы к API, базам данных, корпоративным системам и агентным протоколам.
• Разрабатывать тестовые стенды, attack suites и AI Security-бенчмарки.
• Проводить red teaming платформы и подключаемых AI-систем.
• Участвовать в формировании архитектуры и технического roadmap SpaceAI.
• Разработать сервис, который перехватывает tool call агента и проверяет его по политикам безопасности.
• Создать Risk Analyzer для оценки потенциального ущерба до выполнения действия.
• Реализовать подтверждение человеком удаления данных, платежа или изменения конфигурации.
• Разработать детектор prompt injection и передачи чувствительных данных во внешнюю LLM.
• Спроектировать immutable audit trail для восстановления цепочки действий агента.
• Создать sandbox для безопасного выполнения кода и инструментов.
• Реализовать централизованное управление правами и capabilities агентов.
• Разработать стенд для автоматического тестирования LLM-приложений на атаки.
• Исследовать угрозы MCP- и A2A-взаимодействий и реализовать механизмы защиты.
• Создать механизм объяснения, почему действие было разрешено, заблокировано или отправлено на согласование.

Требования:

• Уверенное владение Python и опыт разработки backend-сервисов, API или инфраструктурных компонентов.
• Понимание архитектуры LLM-приложений и AI-агентов: RAG, embeddings, inference, tool calling и agent workflows.
• Знание основных классов атак на LLM и агентные системы.
• Понимание application security, API Security, IAM и принципов secure-by-design.
• Знание аутентификации, авторизации, RBAC, ABAC и capability-based access control.
• Опыт работы с Docker, Linux, Git, REST API и базами данных.
• Понимание архитектуры распределённых систем, отказоустойчивости, latency и observability.
• Умение проводить threat modeling и проектировать механизмы защиты.
• Способность пройти путь от исследования и гипотезы до прототипа и production-реализации.
• Умение работать с научными публикациями, документацией и open-source-кодом.
• Английский язык на уровне чтения технической документации и исследований.
• сформулировать проблему и построить модель угроз; предложить архитектуру защиты; реализовать и протестировать прототип; проверить его на сценариях атак; довести решение до промышленного компонента платформы.
• Будет плюсом: Опыт разработки security-продуктов, API Gateway, IAM, DLP, SIEM, SOAR или observability-систем; Практический опыт red teaming LLM или adversarial machine learning; Опыт работы с MCP, A2A, LangGraph, LangChain, LlamaIndex, AutoGen или CrewAI; Знание Kubernetes, PostgreSQL, Redis, Kafka или NATS; Опыт работы с OPA, Cedar, Casbin или другими policy engines; Знание OpenTelemetry, Prometheus, Grafana и distributed tracing; Участие в CTF, bug bounty или security-исследованиях; Понимание OWASP Top 10 for LLM Applications, MITRE ATLAS, NIST AI RMF или ISO/IEC 42001; Собственные open-source-проекты, публикации или выступления в области AI Security

Условия:

Разработку полноценной AI Security-платформы, а не отдельного фильтра поверх LLM. Работу над реальными enterprise-сценариями внедрения AI-агентов. Возможность влиять на архитектуру, продукт и технический roadmap. Ownership над отдельными компонентами платформы. Возможность создавать собственные AI Security-бенчмарки и исследования. Публикации и выступления на профильных мероприятиях. Прямую коммуникацию с основателями и короткий цикл принятия решений. Удалённый или гибридный формат. Возможность получить долю или опцион при долгосрочном сотрудничестве.