Senior AI Security Scientist — Hybrid/Remote

Сбер; United States; Hybrid; USD 28,000 - 43,000; Full time

Job description

Описание:

Команда строит систему управления операционными рисками экосистемы Сбера на основе агентного ИИ и определяет архитектуру безопасного ИИ для повышения надёжности и устойчивости банка.

Задачи:

• Создавать системы защиты для AI-агентов на базе GigaPlatform и open-source LLM: защищать от промпт-инъекций, фильтровать токсичность, контролировать галлюцинации и валидировать ответы
• Адаптировать и дообучать LLM с помощью Prompt Tuning, LoRA, SFT и GRPO для устойчивости к вредоносным воздействиям и формирования безопасных ответов
• Изучать новые технологии и современные подходы к безопасности ИИ
• Делиться опытом и развивать культуру R&D в команде
• Участвовать в выводе защитных механизмов в продакшн
• Работать на оборудовании с 8-16 A100 80 GB

Требования:

• Опыт работы в DS или MLE от 2 лет, желательно с фокусом на безопасности ИИ или защите LLM
• Высшее техническое образование и глубокое понимание алгоритмов и структур данных
• Опыт обучения нейросетей — от классических RNN до трансформеров
• Понимание уязвимостей LLM: промпт-инъекций, джейлбрейков, отравления данных и галлюцинаций, а также способов защиты от них
• Опыт построения защитных механизмов на основе правил, ML или гибридного подхода и/или участия в red teaming LLM
• Умение писать качественный код
• Знание Clean Architecture, SOLID и Git Flow
• Будет плюсом опыт в соревнованиях уровня Kaggle Expert+, участие в open-source проектах по безопасности ИИ, публикации или доклады по теме

Условия:

• Гибридный или удалённый формат работы
• Комфортный современный офис рядом с м. Кутузовская
• Ежегодный пересмотр зарплаты и годовая премия
• Корпоративный спортзал и зоны отдыха
• Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• Расширенный ДМС и льготное страхование для семьи
• Льготный дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
• Бесплатная подписка СберПрайм+ и скидки на продукты компаний-партнёров
• Вознаграждение за рекомендацию друзей в команду Сбера