Senior Data Scientist безопасного ИИ

Enfint; Deutschland; Hybrid; EUR 90.000 - 150.000; Vollzeit

Benefits dieser Stelle

Гибридная или удалённая работа

Современный офис рядом с м. Кутузовska

Ежегодный пересмотр зарплаты и премия

Спортивный зал и зоны отдыха

ДМС и льготы для семьи

Ипотечный дисконт

СберПрайм+ подписка

Рекомендации коллегам в команду

Zusammenfassung

Сбербанк формирует команду по управлению операционными рисками экосистемы на базе агентного ИИ и укрепляет безопасные архитектуры ИИ для повышения надёжности банка.

Команда развивает защитные механизмы для AI-агентов на платформе GigaPlatform и LLM, дообучает модели и исследует новые подходы к безопасности ИИ. В СССР проекте участвуют сотрудники с опытом DS/MLE и языковыми навыками в области защиты ИИ.

Qualifikationen

• Опыт работы в DS или MLE от 2 лет с фокусом на безопасность ИИ или защите LLM
• Глубокое понимание алгоритмов и структур данных
• Опыт обучения нейросетей от RNN до трансформеров
• Понимание уязвимостей LLM: промпт-инъекции, джейлбрейки, отравления данных и галлюцинации
• Опыт построения защитных механизмов на основе правил, ML или гибридного подхода; участие в red teaming LLM
• Умение писать качественный код; знание Clean Architecture, SOLID и Git Flow
• Плюсом: Kaggle Expert+, open-source проекты по безопасности ИИ, публикации или доклады

Aufgaben

• Создавать защитные механизмы для AI-агентов на базе GigaPlatform и open-source LLM: защищать от промпт-инъекций, фильтровать токсичность, контролировать галлюцинации и валидировать ответы
• Адаптировать и дообучать LLM с помощью Prompt Tuning, LoRA, SFT и GRPO
• Изучать новые технологии и современные подходы к безопасности ИИ
• Делиться опытом и развивать культуру R&D в команде
• Участвовать в выводе защитных механизмов в продакшн
• Работать на оборудовании с 8–16 A100 80 GB

Kenntnisse

2+ yrs DS/MLE

AI safety / LLM defense

NN training (RNN–transformers)

LLM vulnerabilities

Defenses: rule/ML/hybrid

Red teaming LLM

Coding skills

Clean Architecture / SOLID / Git Flow

Kaggle Expert+

Open-source security

Publications / talks

Ausbildung

Higher technical education

Tools

Git

Jobbeschreibung

Описание:

Команда строит систему управления операционными рисками экосистемы Сбера на основе агентного ИИ и определяет архитектуру безопасного ИИ для повышения надёжности и устойчивости банка.

Задачи:

• Создавать системы защиты для AI-агентов на базе GigaPlatform и open-source LLM: защищать от промпт-инъекций, фильтровать токсичность, контролировать галлюцинации и валидировать ответы;
• Адаптировать и дообучать LLM с помощью Prompt Tuning, LoRA, SFT и GRPO для устойчивости к вредоносным воздействиям и формирования безопасных ответов;
• Изучать новые технологии и современные подходы к безопасности ИИ;
• Делиться опытом и развивать культуру R&D в команде;
• Участвовать в выводе защитных механизмов в продакшн;
• Работать на оборудовании с 8–16 A100 80 GB.

Требования:

• Опыт работы в DS или MLE от 2 лет, желательно с фокусом на безопасности ИИ или защите LLM;
• Высшее техническое образование и глубокое понимание алгоритмов и структур данных;
• Опыт обучения нейросетей — от классических RNN до трансформеров;
• Понимание уязвимостей LLM: промпт-инъекций, джейлбрейков, отравления данных и галлюцинаций, а также способов защиты от них;
• Опыт построения защитных механизмов на основе правил, ML или гибридного подхода и/или участия в red teaming LLM;
• Умение писать качественный код;
• Знание Clean Architecture, SOLID и Git Flow;
• Будет плюсом опыт в соревнованиях уровня Kaggle Expert+, участие в open-source проектах по безопасности ИИ, публикации или доклады по теме.

Условия:

• Гибридный или удалённый формат работы;
• Комфортный современный офис рядом с м. Кутузовская;
• Ежегодный пересмотр зарплаты и годовая премия;
• Корпоративный спортзал и зоны отдыха;
• Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития;
• Расширенный ДМС и льготное страхование для семьи;
• Льготный дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ;
• Бесплатная подписка СберПрайм+ и скидки на продукты компаний-партнёров;
• Вознаграждение за рекомендацию друзей в команду Сбера.