AI Security Engineer: Offensive Testing & Threat Modeling

Refractal; Greater London; On-site; GBP 65,000 - 125,000; Full time

Benefits offered by this job

Equity grant

Pension contribution

Private medical and dental cover

Visa and relocation support

Job summary

Refractal ищет специалиста по безопасности ИИ для проектирования и выполнения проверок AI-приложений и агентов, ориентируясь на реальные цели злоумышленников и четко заданные рамки тестирования.

Вы будете анализировать поведение моделей, архитектуру приложений, идентификацию и разрешения, формулировать практические рекомендации и повторно тестировать решения совместно с инженерами. Требуется практический опыт офензивной безопасности и умение автоматизировать тестирование.

Qualifications

• Опыт практической атаки и тестирования безопасности приложений и ИИ.
• Понимание веб-приложений, API, аутентификации и авторизации, а также распространённых уязвимостей.
• Понимание того, как ИИ-приложения используют подсказки, память и подключённые инструменты, и границы доверия.
• Умение писать код для автоматизации тестирования, воспроизводить выводы и анализировать поведение приложения.
• Хорошая оценка объема тестирования и работы с чувствительными данными; умение объяснять выводы на языке практического влияния.
• Будет плюсом: опыт оценки LLM-приложений, рабочих потоков агентов или систем, извлекающих внешние данные; создание наборов тестирования и проверка mitigations; сочетание тестирования с облачными/идентификационными/инфраструктурными аспектами

Responsibilities

• Проектирование и выполнение оценок ИИ-приложений и агентов с учётом реальных целей злоумышленников.
• Тестирование угроз, таких как косвенная инжекция подсказок, злоупотребление подключаемыми инструментами, утечка данных и нарушение границ разрешений.
• Разработка воспроизводимых тест-кейсов и небольших инструментов для демонстрации влияния безопасности.
• Анализ поведения моделей, дизайна приложений, идентификации и прав доступа; документирование выводов и рекомендованных mitigations.
• Повторная проверка исправлений совместно с инженерами, ответственными за системы.

Skills

Offensive security

Application security testing

Adversarial testing of AI systems

Test automation coding

Tools

Testing frameworks

Cloud security

Job description

Refractal ищет специалиста по безопасности ИИ для проектирования и выполнения проверок AI-приложений и агентов, ориентируясь на реальные цели злоумышленников и четко заданные рамки тестирования.

Вы будете анализировать поведение моделей, архитектуру приложений, идентификацию и разрешения, формулировать практические рекомендации и повторно тестировать решения совместно с инженерами. Требуется практический опыт офензивной безопасности и умение автоматизировать тестирование.