Инженер AI-платформы LLM-проектов

БАНК УРАЛСИБ; United States; Hybrid; USD 120,000 - 180,000; Full time

Benefits offered by this job

Гибкий график работы

Гибрид/удалённый формат

ДМС после испытательного срока

Ежегодный отпуск

Обучение и участие в конференциях/мит-

Job summary

БАНК УРАЛСИБ ищет специалиста по управлению большими языковыми моделями для внедрения в банковские платформы. Ваша задача — отбор, настройка и адаптация GPT, Qwen и др. под бизнес‑задачи и инфраструктуру.

Кандидат будет проектировать схемы подготовки данных и векторных представлений, обеспечивать эффективный инференс, мониторинг и оптимизацию моделей в локальной корпоративной среде.

Qualifications

• Не менее высшего образования в IT или математике.
• Опыт отбора, настройки и адаптации LLM под бизнес-задачи и инфраструктуру.
• Практический опыт настройки и развёртывания больших языковых моделей в локальной корпоративной среде.

Responsibilities

• Выбор и адаптация моделей (GPT, Qwen и др.) под задачи банка и инфраструктуру.
• Проектирование и внедрение схем подготовки данных и векторных представлений, их очистка, токенизация, аннотация, эмбеддинги и хранение.
• Обеспечение эффективности инференса и мониторинга моделей и векторов.

Skills

Настройка и адаптация LLM

Инфраструктура локальная

Подготовка данных для LLM

Векторные представления

Мониторинг латентности/пропускной

Prometheus/Grafana/CloudWatch

MCP и gRPC

Оптимизация инференса

Обучение и продвижение

Education

Высшее образование в IT или математике

Tools

Prometheus

Grafana

CloudWatch

MCP

gRPC

Job description

Описание

Описания нет

Задачи

выбирать, настраивать и адаптировать большие языковые модели (GPT, Qwen и др.) для применения в платформе проектировать и внедрять схемы подготовки данных и векторных представлений (очистка, токенизация, аннотация, построение эмбеддингов, хранение в векторных базах) обеспечивать эффективность инференса моделей и векторов, их мониторинг и оптимизацию

Требования

опыт работы с большими языковыми моделями (LLM) — отбор, настройка и адаптация моделей (GPT, Qwen и др.) под конкретные бизнес-задачи и инфраструктуру практический опыт настройки, оптимизации и развертывания больших языковых моделей в локальной корпоративной инфраструктуре знание методов подготовки данных для LLM и векторных представлений — умение разрабатывать схемы очистки, токенизации, аннотации, построения эмбеддингов и их хранения в векторных базах понимание современных протоколов агентского взаимодействия (MCP, gRPC) и опыт реализации с их помощью прикладных решений навыки оптимизации инференса — знание техник ускорения (квантование, прунинг, дистилляция, батчинг, ускорители GPU/TPU), мониторинга метрик latency/throughput и их постоянного улучшения умение построения и поддержки систем мониторинга — настройка метрик, алертов и дашбордов (Prometheus, Grafana, CloudWatch и др.) для контроля состояния больших моделей в продакшене практический опыт работы с локальными решениями высшее образование в области IT или математики

Условия

полный рабочий день с гибким графиком (офис, гибрид или полностью удаленный формат) ежегодный отпуск, больничный ДМС после испытательного срока возможность построить карьеру в стабильном банке участие в развитии концепции управления на основе данных работу в среде, где приветствуется инициативность и поощряется нестандартный подход возможность влиять на рабочие процессы, улучшать их и делать удобными для себя и окружающих возможность проходить внутреннее обучение, посещать конференции, митапы, хакатоны