Data scientist in AI safety

Сбер; United States; Hybrid; USD 150,000 - 230,000; Full time

Job description

Описание: Мы строим систему управления операционными рисками экосистемы Сбера на основе агентного ИИ. Если тебе тесно в роли просто сильного разработчика, а хочется вести за собой команду единомышленников, реализуя проекты уровня Enterprise — тебе к нам. Мы ищем человека, который сочетает в себе экспертизу в машинном обучении, инженерии и безопасности. Ты будешь не просто строить защитные механизмы, а определять архитектуру безопасного ИИ, влияя на надёжность и устойчивость крупнейшего банка страны.

Задачи:

• разрабатывать системы защиты для AI-agents на базе GigaPlatform и других open-source LLM — защита от промпт-inъекций
• фильтрация токсичности
• контроль галлюцинаций (Intrinsic/Extrinsic/Fine-tuned Detectors)
• валидация выходов и адаптировать и дообучать наши LLM (Prompt Tuning, LoRA, SFT, GRPO), чтобы они были устойчивы к вредоносным воздействиям и давали безопасные ответы
• изучать новые технологии и SOTA подходы по AI Safety
• делиться опытом и развивать культуру R&D в команде
• участвовать в выводе гардрейлов в продакшн
• работать на мощном железе: 8-16 A100 80 GB

Требования:

• опыт в DS / MLE от 2 лет
• желательно с фокусом на безопасность ИИ или защиту LLM
• высшее техническое образование с глубоким пониманием алгоритмов и структур данных
• опыт обучения нейросетей (от классических RNN до трансформеров)
• понимание уязвимостей LLM: промпт-inъекций, джейлбрейки, data poisoning, галлюцинации - и способов защиты от них
• опыт построения гардрейлов (rule-based, ML-based, гибридных) и/или участия в red teaming LLM
• соблюдать Clean Architecture, SOLID, поддерживать Git Flow
• Будет плюсом: опыт в соревнованиях (Kaggle Expert+), участие в open-source проектах по AI Safety, наличие публикаций или докладов по теме

Условия:

• комфортный современный офис рядом с м. Кутузовская гибридный / удаленный формат работы ежегодный пересмотр зарплаты и годовая премия корпоративный спортзал и зоны отдыха более 400 образовательных программ СберУниверситета для профессионального и карьерного развития расширенный ДМС
• льготное страхование для семьи
• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров вознаграждение за рекомендацию друзей в команду Сбера.